Anthropic CEO'su: 'Yapay zekâ gelişimini yavaşlatmamız lazım'

Anthropic CEO'su Dario Amodei, yapay zeka alanındaki gelişmelerin risklerin kontrol altında tutulabilmesi için daha temkinli ilerlemesi gerektiğini söyledi. Amodei, yapay zekanın suç ve terör amaçlı kullanımı, kontrolden çıkan sistemler ve ekonomik etkiler gibi risklere dikkat çekti.

Amodei'nin önerisi üç temel adımdan oluşuyor. Buna göre yapay zeka şirketleri modellerini bağımsız üçüncü taraf değerlendiricilere açmalı, şirketler hükümetlerle birlikte güvenlik standartları geliştirmeli ve ABD, yapay zea güvenliği konusunda diğer ülkelerle uluslararası iş birliği aramalı.

'Yapay Zeka gelişimi yavaşlatılmalı'

Anthropic CEO'su ayrıca, daha ileri bir aşamada yapay zeka modellerinin piyasaya sürülmeden önce akut riskler açısından test edilmesini ve kendi kendini geliştiren sistemlerin ilerleme hızına sınır getirilmesini önerdi.

Hükümetler arasında yapay zeka geliştirmeye yönelik kapsamlı bir "duraklama" anlaşmasını da desteklediğini belirten Amodei, bunun gerçekleşme ihtimalinin düşük olduğunu da kabul etti.

Şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içinde olduğunu ileri süren Coxon, "Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek." ifadelerini kullanmıştı.

Coxon ayrıca, yapay zeka modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde "insanlığı öldürebileceğine" ciddi şekilde inandığını öne sürmüştü.

Amodei'nin açıklamaları, Anthropic araştırmacısı Jacob Coxon'ın istifasının ardından geldi. Coxon, yapay zeka şirketlerinin kendi kendini geliştirebilen süper zekaya ulaşmak için yarıştığını ve bazı sektör yöneticilerinin bunun insanlık için ciddi bir tehdit oluşturabileceğine inandığını söylemişti.

Bununla birlikte, yapay zekânın insanlığın yok olmasına yol açabileceğine ilişkin iddialar henüz kanıtlanmış bir durum değil. Duke Üniversitesi teknoloji politikası araştırmacısı Casey Mock, mevcut yapay zekâ sistemlerinin fiziksel dünyanın karmaşık ve yeni sorunlarını güvenilir şekilde çözme konusunda henüz bu seviyeye ulaşmadığını belirtiyor.

Mart ayında yaklaşık 4.000 yapay zeka araştırmacısıyla yapılan bir ankette de yalnızca yüzde 3'lük bir kesim varoluşsal riski en büyük endişesi olarak göstermişti.