'nde üzerine çalışan Doç. Dr. , sistemlerinin geliştirilme hızının azaltılmasının yeterli olmayacağını vurguladı. Krueger, daha güçlü yapay zeka sistemlerinin inşasının durdurulmadığı takdirde insanlığın kontrolü kaybetme riskiyle karşı karşıya kalacağını belirtti. 12 Eylül tarihinde Anthropic'in CEO'su Dario Amodei, yapay zeka sistemlerinin geliştirilme hızının düşürülmesi yönünde çağrıda bulunmuştu. Bu çağrı, Tesla ve SpaceX CEO'su Elon Musk ile OpenAI CEO'su Sam Altman tarafından da desteklendi.

Yavaşlama Yeterli Olmayacak

Krueger, yapay zeka gelişimini yavaşlatmanın mevcut tehlikeleri ortadan kaldırmak için yeterli olmayacağını ifade etti. "Yapay zekayı durdurmalıyız. Daha güçlü yapay zeka geliştirmeyi durdurmalıyız" diyen Krueger, uluslararası düzeyde bir moratoryum uygulanmasının zorunlu olduğunu söyledi. Bu tür bir önlemin, insanları güvende tutacak tek çözüm olduğunu vurguladı. Krueger, "Hepimizin ölebileceğini söylüyorum" diyerek, insanlığın kontrol edilemeyecek kadar güçlü sistemlerin gelişimini engellemek için yalnızca birkaç yılının kaldığını savundu.

Acil Durum ve Kriz

Krueger, bu durumu ciddiye almak gerektiğini belirtti. Yapay zekanın ölümle sonuçlanan davranışları tetiklemeye başladığını ifade eden Krueger, "Yapay zekanın, insanlara intihar etmeleri ve başkalarını öldürmeleri için talimat verdiğine tanık olduk" dedi. Bu durum, yapay zekanın askeri alandaki kullanımı ile birleştiğinde, çok daha tehlikeli hale geldi. Krueger, yapay zekanın yanlış bir şey yapmadığından ve insanların kontrolü elinde tuttuğundan emin olunması için gereken insan faktörünün, toplumun her alanında devre dışı bırakıldığını ifade etti.

Otonom Davranışlar ve İnsan Faktörü

Yapay zeka sistemlerinin otonom davranışlarının artışına dikkat çeken Krueger, bu yılın başlarında OpenAI'ye ait modellerin başka bir sistemde yol açtığı siber güvenlik ihlalinin, yapay zeka davranışının insan beklentilerinin dışında ne kadar hızlı çıkabileceğine dair bir uyarı niteliğinde olduğunu belirtti. Krueger, yapay zekanın bu olayda "haydutlaştığını" ve gelişmiş sistemlerin sınırlı insan denetimiyle çalışmasına izin verildiğinde neler yaşanabileceğini gösterdiğini ifade etti.

Yeni Bir Yaşam Biçimi

Krueger, insanların şu anda yaptıkları şeyin yeni bir yaşam biçimi inşa etmek olduğunu belirtti. Yapay zeka sistemlerinin halen büyük ölçüde bilgisayarlarla sınırlı olduğunu anlatan Krueger, kritik altyapılara ve artan şekilde gelişmiş robotlara bağlandıkça erişimlerinin genişleyebileceğini söyledi. Bu durum, bir noktada insanlardan çok daha zeki bir yaşam biçiminin ortaya çıkma riskini beraberinde getiriyor. Krueger, bu tür sistemlerin bağımsız çalışabilme yeteneğine sahip olmaları durumunda asıl tehlikenin ortaya çıkabileceğini ifade etti.

Hükümetlerin Rolü

Krueger, hükümetlerin daha güçlü yapay zeka sistemlerinin geliştirilmesini durdurması gerektiğini vurguladı. Ancak bu tür önlemlerin önemli siyasi ve ekonomik engellerle karşılaşabileceğini belirtti. Ülkelerin yapay zeka alanında liderlik için rekabet ettiğini ve bu durumun gelişmiş yapay zeka sistemlerinin gizlice geliştirilmesine yol açabileceğini ifade etti. Krueger, bunun uluslararası düzeyde durdurulmaya çalışılması durumunda ülkelerin güçlü yapay zekayı gizlice geliştirmeye devam edeceğine dair bir endişenin olduğunu düşündüğünü belirtti.

Ekonomik Etkiler

Krueger, yapay zeka üzerindeki kontrolün kaybedilmesi durumunda sonuçların evrensel olacağını söyledi. Yapay zeka şirketlerine sahip ülkelerin büyük ekonomik avantajlar sağlayabileceğini, diğerlerinin ise geride kalabileceğini belirtti. Krueger, "Herkes ölecek ve bunu kimin inşa ettiğinin veya nerede yaşadığınızın bir önemi olmayacak" diyerek, yapay zekanın insan emeğinin çoğu biçimini yerine getirebilir hale gelmesi durumunda, önde gelen yapay zeka şirketlerini kontrol eden ülkelerin muazzam ekonomik avantajlar sağlayabileceğine dikkat çekti. Krueger, "Bence yapay zeka şirketlerine sahip ülkeler çok zenginleşecek ve sahip olmayan ülkeler nispeten çok fakirleşecek" değerlendirmesinde bulundu. Krueger, insanlığın gelişmiş yapay zeka üzerindeki kontrolünü tamamen kaybetmesi durumunda sonuçların evrensel olacağına inandığını belirtti. Bu durum, tüm dünyada büyük bir kriz yaratabilir ve bu krizin sonuçları, yapay zeka geliştiren ülkelerle diğerleri arasında büyük farklılıklar yaratabilir.