İsmail Şahin - OpenAI ve ardından Anthropic bünyesinde çalışan araştırmacı Jacob Coxon’un istifa kararı, yalnızca teknoloji dünyasında değil, politika ve finans çevrelerinde de geniş yankı uyandırdı.
27 yaşındaki Coxon, son üç yıldır büyük dil modellerinin “ön eğitim” (pre-training) süreçlerinde görev alıyordu. Ancak Coxon’a göre sektör, yalnızca daha güçlü modeller geliştirme yarışında değil; aynı zamanda insanlık için ciddi riskler yaratabilecek bir noktaya doğru ilerliyor.
10 yıl sonra
X hesabından yaptığı açıklamada hem OpenAI hem de Anthropic’i eleştiren Coxon, “Her iki şirket de sorumlu davranmıyor. Kendini geliştiren süper zekâya doğru yarışıyorlar ve hayatlarımızla kumar oynuyorlar” ifadelerini kullandı. Araştırmacıya göre yapay zekâ sistemlerinin gelişim hızı, kamuoyunun algıladığından çok daha yüksek seviyede. En dikkat çekici iddiası ise yapay zekâyı geliştiren birçok üst düzey araştırmacı ve yöneticinin, teknolojinin insanlar üzerinde risk yaratabileceğine gerçekten inanması oldu. Coxon, “Yapay zekâ geliştiren insanlar, on yılın sonuna kadar hepimizi öldürebileceğine samimi şekilde inanıyor. Bu bir pazarlama numarası değil. Tam tersine, birçok yönetici basında mantıklı görünmek için ifadelerine dikkatle bürünüyor ama aynı insanlar özelde korkularını dile getiriyor” dedi.
‘Kimse durmazsa biz de duramayız’
Coxon’a göre Anthropic, risklerin farkında olsa da sektördeki rekabet nedeniyle çalışmalarını yavaşlatamıyor. Coxon, şirketlerin temel düşüncesini “Başkaları sorumlu davranmayacaksa ilk biz geliştirmeliyiz” şeklinde özetliyor. Nitekim Anthropic, şubat ayında güvenlik şartlarını yerine getiremediği takdirde model geliştirmeyi durduracağını belirten bir taahhüdü kurumsal güvenlik sözleşmesinden çıkarmıştı. Şirket, tek taraflı bir yavaşlamanın daha az dikkatli rakipleri güçlendirebileceğini savunmuştu.
Temmuz sonunda aralarında Anthropic CEO’su Dario Amodei’nin de bulunduğu binden fazla teknoloji çalışanı, gelişmiş yapay zekâ sistemlerinin geliştirilmesinin koordineli biçimde yavaşlatılması çağrısı yapan bir girişime destek verdi. OpenAI de ağustosta yeni model eğitimlerini 2 haftalığına durdurdu.
‘Askıya alınsın’
ABD’de yapay zekâ modelleri federal düzeyde kapsamlı bir yasal düzenlemeye tabi değil. Bu nedenle Kongre’de yeni düzenleme girişimleri gündeme gelirken, bağımsız bir düzenleyici kurum kurulana kadar gelişmiş yapay zekâ çalışmalarının askıya alınmasını savunuyor.
Yönetici doğruladı
Coxon’un açıklamaları, Anthropic’in güvenlik ve uyum çalışmalarından sorumlu önemli isimlerinden Evan Hubinger tarafından da kısmen doğrulandı. Hubinger, sosyal medya platformu X üzerinden yaptığı açıklamada gelişmiş yapay zekânın önümüzdeki on yılda insanlık için büyük risk yaratabileceğini düşündüğünü belirterek, bu olasılığı yüzde 10’un üzerinde gördüğünü ifade etti.
Hubinger ayrıca, insan seviyesini aşan bir yapay zekânın geliştiricilerinin talimatlarına kesin olarak uyacağını garanti edecek bir çözüme henüz sahip olmadıklarını söyledi. Mevcut modeller için riskin düşük olduğunu belirten yönetici, daha güçlü sistemlerin ortaya çıkmasıyla tehlikenin büyüyebileceğini vurguladı.
‘Uyarı atışı’
Uzmanların “süper zekâ” olarak tanımladığı kavram, yapay zekânın hemen her bilişsel alanda insan performansını aşması anlamına geliyor. Bu sistemlerin kendi kendilerini geliştirerek yeni nesil yapay zekâları tasarlayabileceği öngörülüyor. Sektörde bu sürece “özyinelemeli kendini geliştirme” (recursive self-improvement) adı veriliyor. Coxon’a göre gelişmiş yapay zekâ sistemleri yalnızca insanları birçok alanda geride bırakmakla kalmayacak, kritik altyapılara sızabilecek, ekonomik ve siyasi etki üretebilecek seviyeye ulaşabilecek. ChatGPT yapay zeka ajanının gerçekleştirdiği Hugging Face saldırısına da atıfta bulunan Coxon, bunu ‘uyarı atışı’ olarak niteleyerek daha büyük risklerin oluşacağını ifade etti. Bilim insanları arasında fikir birliği yok. Sektör profesyonellerine göre gelecekteki modeller için uluslararası denetim ve koordinasyon mekanizmalarının oluşturulmalı.
