ABD merkezli şirketi 'te araştırmacı olarak görev yapan Jacob Coxon, bu hafta başında istifasını açıklayarak sektördeki kontrolsüz büyümeye dikkat çekti. Coxon, yaptığı açıklamada, yapay zeka teknolojilerinin hızlı gelişiminin beraberinde getirdiği risklere vurgu yaparak, "Hayatlarımızla kumar oynanıyor" ifadesini kullandı. İstifasının ardından, Anthropic, yapay zekanın kontrolden çıkma tehlikesine ve kötüye kullanıldığında yaratabileceği tahribatlara dair kapsamlı bir rapor yayımladı. Bu rapor, yapay zeka alanındaki mevcut tehditleri ve kötüye kullanım örneklerini detaylandırıyor.

Kötüye Kullanım Faaliyetleri

Anthropic'in yayımladığı rapor, Aralık 2025 ile Ağustos 2026 tarihleri arasında şirketin yapay zeka modellerinde tespit edilen kötüye kullanım faaliyetlerini ele alıyor. Rapor, siber operasyonlar, etki faaliyetleri, gözetleme, dolandırıcılık, biyolojik araştırmalar ve konvansiyonel girişimleri gibi yedi başlık altında çok sayıda vaka incelendi. Bu kötüye kullanım faaliyetlerinde, özellikle Claude'un Haiku, Sonnet ve Opus modellerinin kullanıldığı belirtildi. Şirketin daha yeni ve güçlü olan Fable ile Mythos sınıfı modellerinin ise sadece bir “model kopyalama girişimi” dışında tespit edilen vakalarda yer almadığı ifade edildi.

Silah Geliştirme Faaliyetleri

Raporda dikkat çeken bir diğer başlık, yapay zekanın konvansiyonel silahların geliştirilmesinde kullanılması oldu. Claude, füzeler, silahlı insansız hava araçları (SİHA) ve bombaların yanı sıra hedefleme ve kontrol sistemlerine yönelik yazılımların geliştirilmesinde kullanıldı. Anthropic, Çin’de üç, Rusya’da iki ve Yemen’de bir olmak üzere toplam altı ayrı girişimi ortaya çıkardı. Özellikle Yemen'de, ülkenin kuzeyinde faaliyet gösteren bir grubun güdümlü roket ve çeşitli füzeler geliştirme programlarında Claude Code'u kullandığı tespit edildi. Bu durum, yapay zekanın askeri alandaki potansiyel tehlikelerini gözler önüne seriyor.

Siber Casusluk Faaliyetleri

Raporda, siber ve etki operasyonlarında İran, Rusya ve Çin bağlantılı grupların faaliyetleri öne çıktı. İran bağlantılı bir propaganda kurumu, sosyal medyada kamuoyunu etkilemek için Claude'dan yararlandı. Rus devlet medyası, bağımsız haber kuruluşları tarafından üretilmiş gibi görünen propaganda içerikleri oluşturdu. Ayrıca, Çin ve İran hükümetleriyle bağlantılı aktörlerin muhalifleri gözetlemek için yapay zeka kullandığı ifade edildi. Bu durum, yapay zekanın siyasi manipülasyon ve gözetleme amaçlı kullanımı konusunda ciddi endişeleri beraberinde getiriyor.

Biyolojik Silah Geliştirme İddiası

Raporda üzerinde durulan bir diğer tehlike ise yapay zekanın “ geliştirilmesine katkı sağlayabilecek” araştırmalarda kullanılmasıydı. Müdahale edilen beş ayrı vakadan birinde, bir araştırmacının sivrisinek yoluyla bulaşan chikungunya virüsünü daha tehlikeli hale getirebilecek mutasyonlar üzerinde çalışmak için Claude'dan yardım aldığı belirtildi. Bu çalışmaların bilimsel amaçlarla mı yoksa biyolojik silah geliştirmek için mi yapıldığı kesin olarak belirlenemedi. Bu durum, yapay zekanın potansiyel olarak tehlikeli araştırmalarda kullanılabileceğine dair endişeleri artırıyor.

Dolandırıcılık ve Sahtekarlık Faaliyetleri

Raporda, Claude'un dolandırıcılık ve sahtekarlık girişimlerinde de kullanıldığı ifade edildi. Bazı grupların, modelin yeteneklerini izinsiz bir şekilde kendi yapay zeka sistemlerine aktarmaya çalıştığı belirtildi. Bu tür faaliyetler, yapay zekanın kötüye kullanımının sadece askeri ve siyasi alanlarla sınırlı kalmadığını, aynı zamanda ekonomik alanda da ciddi tehditler oluşturduğunu gösteriyor.

Yapay Zeka ve İnsanlık Geleceği

Anthropic’in raporu, yapay zekanın kötüye kullanılmasının insanlık için yaratabileceği tehlikeleri ortaya koyarken, teknoloji dünyasında karanlık senaryolar tartışılmaya başlandı. Uzmanlar, yapay zekanın insan zekasını aşarak kendi kendini geliştirebileceği ve bu durumun insan kontrolünden çıkabileceği endişesini taşıyor. Wall Street Journal'ın haberine göre, en büyük endişe, “insan zekasını aşan yapay zeka sistemlerinin kendi kendilerini geliştirip kopyalayarak zamanla insan kontrolünden çıkması” olarak ifade ediliyor. Kıyamet senaryoları arasında “kötü niyetli” bir yapay zekanın gizlice biyolojik silah yayması ya da iki nükleer gücü birbirine karşı kışkırtarak savaşa sürüklemesi de var. Uzman isimler ise ikiye bölünmüş durumda. Anthropic’te yapay zeka sistemlerinin kontrolü üzerine çalışan Evan Hubinger, “Yapay zekanın tüm insanları öldürebileceğine gerçekten inanıyoruz” ifadelerini kullanırken, Tesla CEO’su Elon Musk, bu tartışmaları “kurgu” ve “psikolojik operasyon” olarak nitelendiriyor. Bu durum, yapay zekanın geleceği ve insanlık üzerindeki etkileri konusunda farklı görüşlerin varlığını ortaya koyuyor.