Yaygın olarak yapay zekanın (AI) babası olarak görülen bir adam, bu alandaki gelişmelerden kaynaklanan artan tehlikeler konusunda uyarıda bulunarak işinden ayrıldı. 75 yaşındaki Geoffrey Hinton, New York Times’a yaptığı açıklamada artık yaptığı işten pişman olduğunu söyleyerek Google’dan istifa ettiğini duyurdu.
BBC’ye AI sohbet robotlarının bazı tehlikelerinin “oldukça korkutucu” olduğunu söyledi. “Anladığım kadarıyla şu anda bizden daha zeki değiller. Ama bence yakında olabilirler.” Dr Hinton, yaşının teknoloji devinden ayrılma kararında etkili olduğunu da kabul ederek BBC’ye “75 yaşındayım, bu yüzden emekli olma zamanı” dedi.
Dr Hinton’un nöral ağlar ve derin öğrenme konusundaki öncü araştırması, ChatGPT gibi mevcut yapay zeka sistemlerinin yolunu açtı. Yapay zekada sinir ağları, bilgiyi öğrenme ve işleme biçimi bakımından insan beynine benzeyen sistemlerdir. Yapay zekaların tıpkı bir kişinin yapacağı gibi deneyimlerden öğrenmesini sağlar. Buna derin öğrenme denir.
İngiliz-Kanadalı bilişsel psikolog ve bilgisayar bilimcisi BBC’ye, sohbet robotlarının yakında bir insan beyninin sahip olduğu bilgi düzeyini geçebileceğini söyledi. “Şu anda gördüğümüz şey, GPT-4’ün sahip olduğu genel bilgi miktarı açısından bir kişiyi gölgede bırakması ve onları uzun bir süre gölgede bırakması gibi şeyler. Muhakeme açısından, o kadar iyi değil, ama zaten yapıyor. basit bir mantık” dedi.
“İlerleme hızı göz önüne alındığında, işlerin oldukça hızlı bir şekilde iyileşmesini bekliyoruz. Bu yüzden bunun için endişelenmemiz gerekiyor.” New York Times makalesinde Dr Hinton, yapay zekayı “kötü şeyler” için kullanmaya çalışan “kötü oyunculardan” söz etti. BBC tarafından bu konuyu detaylandırması istendiğinde, “Bu sadece bir tür en kötü durum senaryosu, bir tür kabus senaryosu. “Örneğin, [Rusya Devlet Başkanı Vladimir] Putin gibi bazı kötü aktörlerin robotlara kendi alt hedeflerini yaratma yeteneği vermeye karar verdiğini hayal edebilirsiniz.” Bilim adamı, bunun sonunda “‘Daha fazla güç elde etmem gerekiyor’ gibi alt hedefler oluşturabileceği” konusunda uyardı.
“Geliştirmekte olduğumuz zeka türünün sahip olduğumuz zekadan çok farklı olduğu sonucuna vardım. “Biz biyolojik sistemleriz ve bunlar dijital sistemler. Ve dijital sistemlerdeki en büyük fark, aynı ağırlık setinin, dünyanın aynı modelinin birçok kopyasına sahip olmanızdır. “Ve tüm bu kopyalar ayrı ayrı öğrenebiliyor ama bilgilerini anında paylaşabiliyor. Yani sanki 10.000 kişi varmış gibi ve ne zaman bir kişi bir şey öğrense, herkes bunu otomatik olarak biliyordu. İşte bu sohbet robotları bu şekilde herhangi bir kişiden çok daha fazlasını bilebilir.” Birleşik Krallık İleri Araştırma ve Buluş Ajansı başkanı Matt Clifford, BBC’ye kişisel olarak yaptığı açıklamada, Dr Hinton’un duyurusunun “Yapay zeka yeteneklerinin hızlanma hızının altını çizdiğini” söyledi. “Bu teknolojinin muazzam bir avantajı var, ancak dünyanın yapay zeka güvenliği ve kontrolüne büyük ve acilen yatırım yapması çok önemli” dedi. Dr Hinton, yapay zekanın hem gelişme hızı hem de gidiş yönü ile ilgili endişelerini dile getiren sayıları giderek artan uzmanlara katılıyor.
‘Geri adım atmalıyız’
Mart ayında, teknoloji milyarderi Elon Musk da dahil olmak üzere yapay zeka alanında düzinelerce kişi tarafından ortak imzalanan açık bir mektup, güçlü güvenlik önlemlerinin tasarlanabilmesi için yapay zeka sohbet robotu ChatGPT’nin mevcut sürümünden daha gelişmiş tüm geliştirmelerin durdurulması çağrısında bulundu. ve uygulandı.
Derin öğrenme konusundaki çalışmaları nedeniyle Dr Hinton ve Yann LeCun ile birlikte 2018 Turing Ödülü’nü kazanan AI’nın bir diğer sözde vaftiz babası Yoshua Bengio da mektubu imzaladı.
Bay Bengio, AI sistemlerindeki “beklenmedik hızlanma” nedeniyle “geri adım atmamız gerektiğini” yazdı.
Ancak Dr Hinton BBC’ye “kısa vadede” AI’nın risklerden çok daha fazla fayda sağlayacağını düşündüğünü söyledi, “bu yüzden bu şeyi geliştirmeyi bırakmamız gerektiğini düşünmüyorum” diye ekledi.
Ayrıca uluslararası rekabetin bir duraklamanın zor olacağı anlamına geleceğini söyledi. “ABD’deki herkes onu geliştirmeyi bıraksa bile, Çin büyük bir liderlik elde ederdi” dedi.
