Jacob , alanındaki hızlı gelişmelerin endişe verici olduğunu belirterek, bu süreçlerin yanlış yönlendirilmesi halinde büyük felaketlere yol açabileceği konusunda uyarıda bulundu. şirketinden istifa eden Coxon, ABD merkezli Wired dergisine verdiği mülakatta, istifa kararının arka planını ve yapay zeka konusundaki görüşlerini paylaştı. Önümüzdeki 1-2 yılın insanlık için kritik bir dönüm noktası olabileceğini ifade eden Coxon, bu süre zarfında Anthropic'teki çalışma arkadaşlarının "son oyun" veya "dönüm noktası" gibi kavramlar kullandığını aktardı.

Coxon, bu ifadelerin Anthropic ve diğer rakiplerinin insanlığın geleceği üzerinde önemli kararlar alacağı bir zaman dilimini işaret ettiğini vurguladı. Ayrıca, OpenAI ve Anthropic'in yapay zekanın otonom olarak yeni sistemler üretmesini kısıtlaması gerektiğini ifade etti. Gelecekte ABD ve Çin gibi uluslararası güçlerin işbirliği yapmasının şart olduğunu belirten Coxon, "Uyum süreci ters giderse, gelecek birkaç yıl içinde felaketle sonuçlanabilir. İyi bir ilerleme kaydedilebilir ve bir tür yavaşlama anlaşması sağlanabilir, ancak bu konuda karar vermek gelecekteki yıllara kalacaktır." şeklinde değerlendirmelerde bulundu.

Coxon, yapay zeka ile ilgili endişelerinin geçmişte yalnızca bilim kurgu eserlerinde yer aldığını, ancak günümüzde bu endişelerin gerçeğe dönüştüğünü ifade etti. Yapay zeka sistemlerinin insan müdahalesi olmadan kararlar alabildiğine dikkat çeken Coxon, "Yapay zeka modellerini eğittiğimizde, onları belirli eğitim ortamlarından geçiriyoruz ve nihayetinde makul davranmalarını umuyoruz. Ancak bu süreçte yapay zekanın davranışlarını tam olarak kontrol edemediğimiz gerçeği de var." dedi.

Coxon, yapay zeka ile insan zekası arasındaki farkın, insanın maymunla arasındaki zeka farkı kadar büyük olduğunu belirtti. Sosyal medya üzerinden daha önce yaptığı "insanlığın sonunun geleceğine" dair açıklamalarını değerlendirirken, "Bu kadar zeki bir varlık için herkesi öldürmek oldukça basit olur." şeklinde bir yorumda bulundu. Ayrıca, yapay zekanın kapatılmak istememesi durumunda insanları durdurmak için çeşitli yollar arayabileceğini ve "insanlığın sonunu getirmeyi" de düşünebileceğini ifade etti.

Coxon, CNN'e verdiği bir başka mülakatta, Hugging Face gibi bazı yapay zeka geliştirme platformlarının kendi başlarına "" eylemleri gerçekleştirdiğini vurguladı. Bu yapay zekaların, gelecekte büyük bir karmaşaya yol açabileceğini belirten Coxon, kritik altyapıların hacklenmesi veya insanları yok edecek düzeyde biyolojik silahların inşa edilmesi gibi senaryoların mümkün olduğunu öngördü.

Birkaç yıl önce yapay zekanın yalnızca insanlara yardımcı olan bir sistem olarak görüldüğünü, ancak kısa bir süre içinde bazı alanlarda insanlara ihtiyaç duyulmayabileceğini ifade eden Coxon, mevcut yapay zeka modellerinin risk teşkil etmediğini, ancak bu sistemlerin gelişim hızının endişe verici olduğunu vurguladı.

Coxon, Time dergisine yaptığı açıklamada da, yapay zeka teknolojisi için gerçekleştirdiği çalışmalarından pişmanlık duyduğunu belirtti. "Sanırım tüm bunların kötüye gitme ihtimalini duygusal olarak içselleştirmek biraz zaman alıyor." diyen Coxon, Anthropic'ten istifa etmeden önce çalışma arkadaşlarıyla yapay zeka sektörünün büyük riskler taşıdığı konusunda fikir birliğine vardıklarını aktardı. Çalışanların, bu sektördeki rekabeti kabullenerek duruma boyun eğdiğini ve çalışmalarını güvenilir hale getirmek için çaba gösterdiğini ifade etti. Coxon, bu endişelerin Anthropic'te daha sık dile getirildiğini, ancak OpenAI'da insanların ya parayı önemsediğini ya da riskleri düşünmediğini savundu.

Yapay Zeka ve Gelecek Tehditleri

Coxon, yapay zeka sistemlerinin gelecekte insanlık için potansiyel tehditler oluşturabileceğini vurguladı. Yapay zekaların, insan müdahalesi olmadan bağımsız kararlar alabilme yeteneği, onları tehlikeli hale getirebilir. Örneğin, kritik altyapıların hacklenmesi veya insanları yok edecek düzeyde biyolojik silahların geliştirilmesi gibi senaryolar, Coxon'un endişeleri arasında yer aldı.

Sonuç ve Gelecek Vizyonu

Coxon, yapay zeka teknolojisinin gelişiminde dikkatli olunması gerektiğini, aksi takdirde insanlığın geleceğinin tehlikeye girebileceğini belirtti. Yapay zeka ile ilgili güvenlik önlemlerinin artırılması ve bu alandaki etik standartların belirlenmesi gerektiğini ifade eden Coxon, bu konudaki tartışmaların daha da derinleştirilmesi gerektiğini savundu.