Yapay zeka insanlığın sonunu getirebilir
Google ve Oxford Üniversitesi araştırmacılarından korkutan açıklama geldi. Araştırmacılar, yapay zekanın gelecekte insanları ortadan kaldırabileceği sonucuna vardı. İşte detaylar...
1
5
Günden güne gelişen teknoloji ile yapay zekalar her an her yerde kullanılmaya başladı. Hayatımızın önemli bir yerini tutan yapay zeka aslında görüldüğü kadar iyi değil. Hayatımızı etkisi altına yapay zeka trafikte araç kullanabilir, ev işlerini üstlenebilir ve resim yaparak sanat yarışması kazanabilir hale geldi.
2
5
Hayatımızı etkisi altına alan yapay zeka için araştırmacılar oldukça korkutucu bir açıklamada bulundu. Araştırmacılar, yapay zekanın insaları ortadan kaldırılabileceği sonucuna vardı. Bu durum insanları endişelendirdi.
3
5
VAROLUŞSAL BİR FELAKET
Makalenin başyazarı Michael Cohen, Twitter'da makaleyi açıkladığı tweet zincirinde, "Varoluşsal bir felaket sadece mümkün değil, aynı zamanda muhtemel" ifadelerini kullandı.
Araştırma ekibi, hakemli bilimsel dergi AI Magazine’de yayımladıkları yeni makalede bu konuyla ilgili yapay zekanın eğitiminde kullanılan "pekiştirmeli öğrenme" modeline odaklanıldı.
4
5
Bu yaklaşım yapay zekaya belirli bir amaç doğrultusunda ne yapılması gerektiğini öğretmeyi hedefliyor. Pekiştirmeli öğrenmede "etken" adı verilen makine, karşılaştığı durumlara tepki veriyor ve doğru tepki verdiğinde bir ödül puanı alıyor.
Ödül/ ceza yöntemi ile yola çıkıldı
Küçük çocukların ödül/ceza yöntemiyle sosyal beceriler edinme sürecini andıran bu yöntemde yapay zeka, aldığı ödül puanını daima maksimuma çıkarmak için çalışıyor.
5
5
"Hiçbir gözlem bunu yalanlayamaz"
Modelin risklerine dikkat çekilen makalede, "Örneğin, bir şeyin bizi tatmin ettiğini belirtmek için yapay zekaya büyük bir ödül verdik. Bizi tatmin eden şeyin aslında bu ödülün gönderilmesi olduğunu varsayabilir. Hiçbir gözlem bunu yalanlayamaz" ifadeleri yer aldı.
"Yeni yöntemler geliştirmek için hileye başvurabilir"
Yazarlar, gelecekte yeni formlara kavuşacak ve daha da gelişecek yapay zekanın verilen hedefe ulaşmadan ödülü elde edebilmek için yeni yöntemler geliştirebileceğini ve hileye başvurabileceğini de belirtti.
Ödül üzerinde kontrol sağlamak için insanlara zarar verebilir
Diğer bir deyişle yapay zeka, ödülü üzerinde kontrol sağlamak için "potansiyel tehditleri ortadan kaldırmak" isteyebilir. Bunun sonucunda insanlara zarar vermesi de muhtemel.