Anthropic, yapay zeka modellerinin kötüye kullanımını inceleyen kapsamlı bir rapor yayımladı. Bu raporda, Aralık 2025 ile Ağustos 2026 arasında gerçekleşen siber operasyonlar, etki operasyonları, gözetleme, dolandırıcılık ve konvansiyonel silah geliştirme gibi kötüye kullanım örnekleri detaylandırıldı. Rapor, bu tür kötüye kullanımları gerçekleştiren aktörler arasında devlet destekli gruplar, maddi çıkar güden suçlular ve devlet propaganda kurumlarının bulunduğunu ortaya koydu. Özellikle Claude Haiku, Sonnet ve Opus gibi yapay zeka modellerinin bu tür faaliyetlerde kullanıldığı kaydedildi.
Konvansiyonel Silahlar
Raporda, konvansiyonel silahlarla ilgili bölümde ateşli silahlar, füzeler, silahlı insansız hava araçları (SİHA), bombalar ve diğer mühimmatın yanı sıra bu silahları çalıştıran hedefleme ve kontrol sistemlerinin yazılımlarında Claude'un kullanıldığı ifade edildi. Şirketin tehdit istihbaratı ekibi, silah tasarımı ve geliştirilmesi için yazılım geliştiren birçok aktörü araştırdı ve bu aktörlerin faaliyetlerini engelledi. Araştırmalar sonucunda, bu aktörlerden üçünün Çin'de, ikisinin Rusya'da ve birinin Yemen'de olduğu belirtildi. Özellikle Yemen'deki bir grup, güdümlü roket ve çeşitli füzeler geliştirmek için Claude Code'u kullandığı tespit edildi. Bu grubun, araçları yönlendirmek, navigasyon ve dengeleme yazılımlarını geliştirmek, simülasyon yapmak ve test etmek amacıyla Claude'u kullandığı ifade edildi. Ancak, grubun operasyonel bir silahı başarıyla geliştirdiğine dair herhangi bir kanıt bulunamadığı aktarıldı. Raporda, grubun ilgili hesaplarının engellendiği ve elde edilen bilgilerin kamu ve özel sektör kuruluşlarıyla paylaşıldığı kaydedildi.
Siber Saldırılar
Siber operasyonlar bölümünde, Rusya'ya ait casusluk faaliyetleri ve bu faaliyetlerin çoğunlukla Ukrayna ve Avrupa hükümetlerindeki askeri istihbaratı hedef aldığı vurgulandı. Ayrıca, Orta Doğu, Avrupa ve Güneydoğu Asya'daki yabancı hükümetlere yönelik keşif faaliyetleri de raporda yer aldı. Fransa'da bir kişinin Claude'u kullanarak Avrupa'daki siyasi partileri, medya kuruluşlarını ve düşünce kuruluşlarını hedef aldığı tespit edildi. Bunun yanı sıra, mali amaçlı ve şantaj yöntemlerini kullanan birçok siber suç faaliyetinin tespit edildiği ve bunların engellendiği bildirildi.
Gözetleme Operasyonları
Haziran 2026'da, İran ve Basra Körfezi'nde bir gözetleme hesabı belirlendi. Bu hesap, bölgedeki kullanıcıların sosyal medya faaliyetlerini analiz etmek amacıyla bir gözetim platformu kurmuştu. Söz konusu hesabın S2T Unlocking Cyberspace adlı bir kuruluş tarafından yürütüldüğü ortaya çıktı. Yapılan araştırmalar sonucunda, bu kuruluşun İsrail-Singapur menşeli bir istihbarat sağlayıcısı olduğu belirlendi. Ayrıca, Çin merkezli bir aktörün Claude'u kamuoyu izleme aracı olarak kullandığı ifade edildi. Bu aktör, muhalifleri, aktivistleri, etnik azınlıkları ve Çin diasporasını siyasi istikrara yönelik tehditler olarak listeleyen hükümet brifingleri hazırlamak için Claude'dan yararlandığı belirtildi.
Dolandırıcılık Faaliyetleri
Raporda, Çin merkezli bir uygulama stüdyosunun, Claude yardımıyla 20'den fazla flört uygulamasından oluşan bir ağ kurduğu ifade edildi. Bu stüdyonun, kullanıcılarla sohbet etmek için yapay zeka karakterler geliştirdiği belirtildi. Sadece iki haftalık bir süre içinde, en az 25 bin farklı kişiyle sohbet eden 4 bin 700'den fazla yapay zeka karakter tespit edildiği kaydedildi. Ayrıca, izinsiz olarak başka yapay zeka modellerini kopyalamaya yönelik damıtma yöntemine dair örneklere de yer verildi. Damıtma yönteminin yapay zeka alanında sıkça kullanılan bir eğitim yöntemi olduğu vurgulandı. Ancak, bu yöntemin izinsiz kullanılması durumunda yasa dışı hale geldiği ifade edildi. Alibaba bağlantılı aktörlerin bu kapsamda, yapay zeka modellerinin yeteneklerini yasa dışı yollarla kopyalamaya çalıştığı kaydedildi. Bu faaliyetin şu ana kadar kaydedilen en büyük yasa dışı damıtma saldırısı olarak nitelendirildiği belirtildi.
Etki Operasyonları
Etki operasyonları bölümünde, bazı grupların Claude'u kullanarak sahte sosyal medya profilleri ve tam teşekküllü haber sitelerinden oluşan ağlar kurduğu ifade edildi. Bu platformlar, aldatıcı içerikler yayınlamak için kullanıldı. Orta Afrika Cumhuriyeti'nde Rusya'ya bağlı bir Yabancı Bilgi Manipülasyonu ve Müdahale (FIMI) operasyonunun içerik üretim altyapısını sağlayan ve Bangui'de Rusça konuşan bir aktör tarafından yönetilen hesabın kaldırıldığı aktarıldı. Bu aktörün, Radio Lengo Songo aracılığıyla günlük içerik operasyonu yürüttüğü ve bunun Rusya'nın medya kuruluşları ile koordineli olarak gerçekleştirildiği belirtildi. Raporda, kullanıcının içerik üretirken Claude'a haberlere Rusya yanlısı ve Fransa karşıtı söylemleri açıkça eklemesi talimatını verdiği ifade edildi. Ayrıca, Claude'u kullanarak siyasi içerikler üreten ve gerçek haberleri farklı ülkelerin siyasi koşullarına göre yeniden yazan Fransa merkezli bir dijital reklam şirketinin yürüttüğü ticari bir dezenformasyon ağının tespit edildiği ve kaldırıldığı belirtildi. Bu içeriklerin yaklaşık 70 haber sitesi ve bunlarla bağlantılı ABD merkezli sosyal medya platformundaki 70 hesap üzerinden yayıldığı ifade edildi. Rapor, bu tür faaliyetlerin, yapay zeka teknolojisinin kötüye kullanımına dair ciddi endişeleri artırdığını gösteriyor.
Yorumlar
Henüz yorum yok. İlk yorumu siz yazın.