Anthropic’ten kritik uyarı: Claude askeri ve siber amaçlarla kötüye kullanıldı
Anthropic, perşembe günü yayımladığı raporunda şirketinin Claude adlı yapay zeka modellerinin kamikaze insansız hava aracı sürüleri, füye navigasyon sistemleri ve biyolojik silah gibi askeri uygulamalar geliştirmek amacıyla kötüye kullanıldığını açıkladı. Rapora göre, son bir yılda İran, Rusya, Çin, Yemen ve benzeri ülkelerden kullanıcıların Anthropic’in ileri modellerini bu tür faaliyetlerde kullandığı tespit edildi.
Analiz, Aralık 2025 ile Ağustos 2026 döneminde engellenen faaliyetleri siber operasyon, etki operasyonları, gözetim, dolandırıcılık, biyolojik kötüye kullanım, konvansiyonel silah geliştirme ve model damıtma olmak üzere yedi alana ayırdı. Vaka incelemelerinde Claude Haiku, Sonnet ve Opus modelleri kullanılmış; Claude Fable ve Mythos sınıflarının kötüye kullanıldığına dair bulgu bulunmadı. Anthropic, tespit edilen faaliyetlerin engellendiğini, güvenlik önlemlerinin güçlendirildiğini ve elde edilen bilgilerin istihbarat yetkilileri ile sektör ortaklarıyla paylaşıldığını bildirdi.
Raporda, devlet destekli gruplar, mali kazanç amaçlı suçlular, ticari casus yazılım satıcıları, propaganda kurumları ve siyasi motivasyonlu kişiler gibi çeşitli tehdit aktörleri yer aldı. Örnek olarak sahte flört uygulamalarıyla dolandırıcılık, muhalifleri izlemek için geliştirilen gözetim sistemleri, Rus casusluğu, ShinyHunters’in fırsatçı saldırıları, güvenlik açığı geliştirme, otonom saldırı sistemleri, yapay zeka tedarik zincirinin hedef alınması ve Avrupa’daki siyasi kuruluşlara yönelik saldırılar rapor edildi. Anthropic, yapay zekanın keşif ve veri sızdırma süreçlerini hızlandırarak saldırıların kapsamını genişlediğini ve bir vakada saldırganın güvenlik ürünleri tespit edildiğinde araçları otomatik olarak yeniden oluşturduğu AI destekli iş akışını geliştirdiğini belirtti. Şirket, modeller geliştikçe bireysel saldırganlardan organize yapılara kadar daha fazla aktörün büyük ölçekli siber saldırılar için yapay zeka sistemlerini benimseyeceğini öngörüyor.
