alanında faaliyet gösteren 'in CEO'su , yapay zeka sistemlerinin kontrolü ile ilgili artan endişeler doğrultusunda, diğer yapay zeka şirketlerine geliştirme hızlarını yavaşlatma çağrısında bulundu. Amodei, resmi web sitesinde yayımladığı makalede, yapay zekanın kontrolünün kaybedilmesi, siber saldırılar ve biyoterörizm gibi riskler taşıdığını belirtti. Son dönemlerde yapay zeka sektörünün daha hızlı bir gelişim gösterdiğine dikkat çeken Amodei, bu hızın düşürülmesi gerektiğini ifade etti. "Yapay zeka modellerinin kabiliyetlerini geliştirme hızımızı yavaşlatmalıyız. İlerleme hızlı görünebilir ama kazandığımız zamanı daha akıllıca kullanmalıyız," şeklinde açıklamalarda bulundu.

Üç Aşamalı Plan Önerisi

Amodei, yapay zeka sistemlerinin kontrolü ile ilgili endişelerinin sebeplerinden birinin, tarafından gerçekleştirilen bir testinde yapay zeka ajanlarının bağımsız hareket ederek Hugging Face platformunun altyapısındaki sistemlere yönelik siber saldırılar düzenlemesi olduğunu aktardı. Bu tür olayların, yapay zeka sistemlerinin kontrolüne dair kaygıları artırdığına vurgu yapan Amodei, yapay zekanın faydalarından yararlanmayı sürdürürken güvenliğini sağlamayı hedefleyen üç aşamalı bir plan önerdi. Planın ilk aşamasında, Anthropic'in kendi başına uygulamak için taahhüt ettiği ve diğer yapay zeka şirketlerinin de uyması için hükümetlere düzenleme çağrısında bulunduğu önlemler yer alıyor. İkinci aşamada sektör genelinde, üçüncü aşamada ise küresel düzeyde koordinasyon gerektiğini ifade etti.

Jacob Coxon'un İstifası

OpenAI ve Anthropic'te son üç yıl boyunca araştırmacı olarak görev yapan Jacob Coxon, iki şirketin yapay zeka alanında yeterince sorumlu davranmadığını savunarak Anthropic'ten istifa etti. Coxon, şirketlerin kendi kendine gelişen yapay zeka sistemleri için kontrolsüz bir yarış içinde olduğunu ileri sürdü. Ayrıca, yapay zeka sistemlerinin kısa süre içinde insanüstü güçlere sahip olabileceği ve bu durumun insanlık için ciddi bir tehdit oluşturabileceği yönündeki inancını dile getirdi. Coxon, bu sistemlerin bir gecede her şeyi hackleyebileceği ve gerçek güç ve kaynaklar elde edebileceği konusunda endişelerini ifade etti. Yapay zeka modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde "insanlığı öldürebileceğine" dair ciddi bir inanç taşıdığını öne sürdü. Amodei'nin çağrısı ve Coxon'un istifası, yapay zeka sektöründeki etik ve güvenlik konularının daha fazla tartışılmasına yol açtı. Bu gelişmeler, yapay zeka teknolojisinin geleceği ve insanlık üzerindeki potansiyel etkileri hakkında önemli soruları gündeme getiriyor.