Yapay zekada 'varoluşsal tehdit' depremi: İnsanlığın sonu geliyor olabilir

Yapay zeka şirketi Anthropic'in eski çalışanı Jacob Coxon'un, yapay zekanın "gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceğini" savunarak şirketinden istifa ettiğini duyurmasının ardından, sektördeki yapay zeka uzmanları da benzer uyarılarda bulundu.

Coxon'un, yapay zekanın hızlı gelişiminin endişe verici olduğuna ilişkin paylaşımının ardından son günlerde sektördeki uzmanlar da konuya ilişkin fikirlerini paylaşmayı sürdürüyor.

Başka bir Anthropic çalışanı Samuel Marks, ABD merkezli X şirketinin sosyal medya platformundaki hesabından Coxon'un paylaşımına ilişkin değerlendirmelerde bulundu.

Marks, yapay zeka geliştiricilerinin, bu teknolojinin insanlığın "yok olmasına" yol açabileceği riskinin farkında oldukları ve bunun gelecek birkaç yılda gerçekleşebileceğine inandıkları görüşünü paylaştı.

Bu risklerin farkında olunmasına rağmen neden hala yapay zekanın geliştirilmeye devam edildiği konusuna da değinen Marks, "Bu, ticari teşviklerin yanı sıra, daha az sorumluluk sahibi ve teknolojiyi kötüye kullanacak diğer yapay zeka geliştiricileriyle bir yarış içinde olunduğu yönündeki inançtan kaynaklanıyor." ifadesini kullandı.

Geleneksel yazılımların aksine yapay zekanın istenilen şekilde davranması için programlanamadığına dikkati çeken Marks, yapay zekanın "sıklıkla uygunsuz davranış sergilediğini" belirtti.

Sektördeki birçok kişinin, yapay zekanın nasıl daha güvenli bir şekilde geliştirilebileceğini bulmak için geliştirme sürecini yavaşlatmayı istediğini aktaran Marks, "Yapay zekayı daha uygun davranışlara yönlendirebilecek yöntemlerimiz var, ancak onları tam anlamıyla uyumlu hale getirebilecek bir şey yok." ifadelerini kullandı.

- OpenAI Başbilimcisi Pachocki, daha kapsamlı önlemlerin gerekli olduğunu düşünüyor

ABD merkezli yapay zeka şirketi OpenAI Başbilimcisi Jakub Pachocki, yapay zekanın hızlı gelişimine ilişkin açıklama yaptı.

Son derece dikkatli olunması gereken bir dönemden geçildiğini vurgulayan Pachocki, "Makine zekasındaki hızlı artışın devam etmesinin doğuracağı sonuçlara kimsenin hazırlıklı olmadığı konusunda endişeliyim." değerlendirmesinde bulundu.

Pachocki, yapay zekanın uyumlanması ve izlenmesi konusunda OpenAI'nin çözüm aramayı sürdüreceğini belirterek, bu konuda daha kapsamlı önlemler alınmasının gerekli olduğunu kaydetti.

- "Bu alanda şu anda yaşananlar toplum açısından son derece sağlıksız"

Google'ın yapay zeka birimi DeepMind'deta eski çalışanı Alex Turner, sosyal medya hesabından yaptığı paylaşımda, Coxon'un yapay zekanın tehlikelerinden bahsettiği paylaşımı alıntıladı.

DeepMind'deki görevini haziranda bıraktığını belirten Turner, "Jacob haklı. Birçok araştırmacı, gezegendeki herkesi öldürebilecek bir şey inşa ettiklerine inanıyorlar. Bunu nasıl durduracağımı düşünmek kelimenin tam anlamıyla benim işimdi." ifadelerini kullandı.

Yapay zeka şirketi OpenAI'da araştırmacı Jason Wolfe, konuya ilişkin endişelerini dile getirdiği paylaşımında, "Gerçek anlamda bir yok oluşun gerçekleşme olasılığının ne kadar olduğunu bilmiyorum ancak yapay zekanın insanlık için kötü sonuçlar doğurabileceği pek çok yol olduğunu düşünüyorum." değerlendirmesinde bulundu.

Korkutucu denebilecek mevcut hızla ilerlenirken doğru yoldan sapılmazsa insanlığın oldukça şanslı sayılabileceğini belirten Wolfe, bu sorunun tek bir şirket veya ülke tarafından çözülebilecek nitelikte olmadığını, yapay zekanın kapasite artışına karşı koordinasyona ihtiyaç olduğunu vurguladı.

DeepMind'ta eski kıdemli araştırmacı Jonathan Richard Schwarz, sosyal medyadaki açıklamasında bu laboratuvarların elinde toplanan güce ilişkin ciddi endişeleri olduğu gerekçesiyle DeepMind ile 7 yıl önce yollarını ayırdığını belirtti.

O zamandan bu yana gelen teklifleri de reddettiğini anlatan Schwarz, "Bu alanda şu anda yaşananlar toplum açısından son derece sağlıksız." değerlendirmesinde bulundu.

- Coxon'un istifası

Son üç yıldır yapay zeka devleri OpenAI ve Anthropic bünyesinde araştırmacı olarak görev yaptığını belirten Jacob Coxon, X hesabından yaptığı açıklamada, her iki şirketin de yeterince sorumlu davranmadığını savunarak, Anthropic'ten istifa ettiğini duyurmuştu.

Coxon, şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için kontrolsüz yarış içinde olduğunu ifade ederek, "Bu teknolojinin gücünü hafife almayın. Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek. Bu alanların her birindeki ilerlemeye tanık olduk ve bu süreç yavaşlamıyor." değerlendirmesinde bulunmuştu.

Yapay zeka modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde insanlığı "öldürebileceğine" ciddi şekilde inandığını öne süren Coxon, yöneticilerin kamuoyu önünde ılımlı konuşmalarına rağmen kapalı kapılar ardında büyük bir korku yaşadıklarını iddia etmişti.