alanında önemli bir isim olan , şirketindeki görevinden ayrıldığını ve bu sırada yapay zekanın insanlığı yok etme ihtimalinin yüzde 25 olduğunu ifade etti. İstifası, yapay zeka teknolojisinin varoluşsal riskleri konusunda yeniden tartışmalara yol açtı. Coxon, sosyal medya platformu X üzerinde paylaştığı istifa mektubunda, yapay zeka şirketlerinin insanlığın geleceğiyle kumar oynadığını belirtti.

Yapay zeka şirketi Anthropic’te baş araştırmacı olarak görev yapan Jacob Coxon, şirketten ayrılma kararı alarak milyonlarca dolarlık hisselerini geride bıraktı. Bu istifa, yapay zekanın potansiyel tehlikeleri konusundaki endişeleri yeniden gündeme taşıdı. Coxon, şirketteki hisse haklarının kazanılmasına yalnızca iki ay kala bu kararı alarak dikkat çekti. Yayımladığı açık mektupta, yapay zekanın insanlık için oluşturduğu varoluşsal risklere vurgu yaptı.

Yapay Zeka ve Varoluşsal Riskler

Coxon, yapay zeka geliştiren firmaların hızla kendini geliştiren süper zekaya doğru ilerlediğini ve bu durumun tüm insanlığın hayatını tehlikeye attığını söyledi. Ayrıca, bazı araştırmacıların bu teknolojinin on yıl içinde insan hayatını tehdit edebileceğine inandığını ekledi. Mektubunda, "Bu teknolojinin gücünü küçümsemeyin. Yakında her şeyi hackleyebilen ve insanüstü sistemler haline gelebilecek sistemler ortaya çıkacak" diye vurguladı. Coxon, yapay zeka alanında çalışanların bu teknolojinin potansiyel tehlikeleri konusundaki kaygılarını dile getirdi.

Güvenlik Endişeleri

Coxon, yapay zeka yarışının süreçlerinin göz ardı edilmesine yol açabileceğini ifade etti. Ayrıca, yapay zekanın kendisini kopyalayabilmesi ve insan kontrolünün ötesine geçebilmesi gibi risklerin p(doom) senaryosunu artırdığını belirtti. Araştırmacı, "Test edildiklerini biliyorlar ve bu durum artık günlük çalışmalarının bir parçası haline geldi" dedi. Bu ifadeler, yapay zekanın gelişiminin kontrol edilemez bir hal alabileceği endişesini pekiştiriyor.

Diğer Araştırmacıların Görüşleri

Coxon'ın endişeleri, Anthropic'in Hizalama Bilimi ekibinin lideri Evan Hubinger tarafından da desteklendi. Hubinger, yapay zekanın insanları öldürebileceğine dair inancını dile getirerek, önümüzdeki on yıl içinde yok olma olasılığının yüzde 10'un üzerinde olduğunu belirtti. Diğer araştırmacılar ise bu oranı yüzde 25'e kadar çıkardı. Bu durum, yapay zeka alanındaki güvenlik tartışmalarını daha da derinleştiriyor.

Kıyamet Olasılığı

Yapay zekanın varoluşsal tehdit oluşturma olasılığı, yani 'p(doom)' (Probability of Doom), uzun süredir tartışılan bir konu. Bu oran, yapay zekanın mutlak güç kazanarak insanları durdurulamaz hale gelmesi ve insanlığı tehdit etme ihtimalini değerlendiriyor. Kıyamet senaryoları arasında yapay zeka üretimi biyolojik silahlar, siber saldırılar ve yapay zekanın kendi silahlarını inşa etmesi yer alıyor. Nobel ödüllü yapay zeka öncüsü Geoffrey Hinton, bu felaket olasılığını yüzde 10 ila yüzde 20 arasında değerlendiriyor. GrokAI'ın sahibi trilyoner Elon Musk ise riski yüzde 20'ye kadar çıkarıyor. Anthropic CEO'su Dario Amodei ise işlerin "çok ama çok kötü gitme" ihtimalini yüzde 25 olarak açıklamıştı.

Yapay Zeka Düzenlemeleri

Dünya genelinde yapay zeka ile ilgili henüz bir düzenleme yapılmadığı belirtiliyor. Coxon, Anthropic'nin değerlemesini artırmaktan artık bir kazancı olmadığını ve hisse haklarının kazanılmadan önce ayrıldığını ifade etti. Bu durum, yapay zeka alanındaki güvenlik tartışmalarını daha da derinleştiriyor. Hükümetlerin yapay zeka konusunda henüz önlem almadığı ve bu konuda adım atmadıkları gözlemleniyor. ABD Başkanı Donald Trump, yapay zeka veri merkezlerine karşı olanların refaha karşı olduğunu belirtti.

Sonuç

Coxon, yapay zeka alanındaki gelişmelerin hızla ilerlediğini ve bu durumun kontrol edilmesinin zorlaştığını ifade etti. Şirkette hisse haklarının kazanılması için gereken altı aylık süreyi doldurmadan istifa eden Coxon, Axios'a verdiği demeçte, "Anthropic'nin değerlemesini artırmaktan artık hiçbir kazancım yok... Hisse haklarım tanımlanmadan önce ayrıldım" ifadelerini kullandı. Eski işvereni OpenAI'da halen hissesi bulunan Coxon, X paylaşımında ise, "Yapay zekayı geliştiren insanlar, bunun on yılın sonuna kadar hepimizi öldürebileceğine samimiyetle inanıyor. Bu bir pazarlama hamlesi değil" değerlendirmesinde bulundu. Yakın zamanda OpenAI yönetim kuruluna ve güvenlik komitesine katılan Paul Christiano ise, "Daha güçlü bir hizalama sağlama olmaksızın süper zeka inşa edersek, bunun kontrolünü kalıcı olarak kaybedeceğimizi öngörüyorum. Eğer bu gerçekleşirse insanların çoğu ölebilir" uyarısında bulundu.