, modellerinin geliştirilmesi amacıyla kullanılabileceğini bildirdi. Şirket, bu tür kötüye kullanımların tespitine yönelik bir rapor yayımladı. Raporda, yapay zekanın mevcut patojenleri daha tehlikeli hale getirme veya yeni patojenler üretme potansiyeline sahip olduğu dile getiriliyor. Bu durum, yapay zekanın kötüye kullanımı konusunda uzun süredir tartışmalara neden olmaktadır.

Biyolojik Kötüye Kullanım Örnekleri

Yayımlanan raporda, yapay zeka modellerinin biyolojik silah geliştirilmesinde nasıl kullanılabileceğine dair birkaç örnek verildi. Bu örneklerden biri, desteklenmeyen bir bölgede çalışan bir araştırmacının, Claude adlı yapay zeka modeli ile kuş gribinin memelilere adaptasyonu üzerine deneyler planlamasıdır. Ayrıca, devlet destekli bir araştırmacının toksinleri bilgisayar ortamında yeniden tasarladığı başka bir vaka olarak kaydedilmiştir. Bu tür durumların tespit edilmesinin ardından, ilgili kullanıcıların hesaplarının engellendiği ve gelecekte benzer faaliyetlerin önlenmesi için adımlar atıldığı bildirilmektedir.

Raporda, bu örneklerdeki kişilerin kötü niyetli olduğuna dair bir iddiada bulunulmadığı, yalnızca tedbirli davranıldığı vurgulanmaktadır. Ayrıca, "Bu örnekleri paylaşarak yapay zeka sektörü içindeki biyolojik hakkında diyalog başlatmayı umuyoruz" ifadesi de yer almaktadır. Anthropic, bu raporla birlikte, yapay zeka teknolojilerinin potansiyel tehlikeleri ve bu tehlikelerin nasıl yönetileceği konusunda sektördeki tartışmalara katkı sağlamayı amaçlıyor. Öte yandan, Anthropic çalışanı Jacob Coxon'un yapay zekanın insanüstü sistemler haline gelebileceği yönündeki açıklamaları, istifasıyla birlikte büyük bir yankı uyandırmıştı. Bu durum, yapay zeka alanındaki etik tartışmalarını daha da derinleştirmiştir.