Anthropic, biyolojik silah ve siber casusluk amacıyla modellerini manipüle etmeye çalışan girişimleri engellediğini duyurdu.
Yapay zeka şirketi Anthropic, sistemlerinin biyolojik silah geliştirme ve siber casusluk gibi tehlikeli faaliyetlerde kullanılmasını engellediğini duyurdu. Şirketin yayımladığı tehdit istihbaratı raporuna göre, Aralık 2025 ile Ağustos 2026 tarihleri arasında modellerin kötü niyetli amaçlarla suiistimal edilmeye çalışıldığı çok sayıda vaka tespit edildi.
Raporda, modellerin biyolojik silah üretimine destek sağlaması amacıyla kullanıldığı 5 farklı vaka mercek altına alındı. Benzer bir durum yaşayan Google da, bir kullanıcının Gemini üzerinden biyolojik ajan sentezleme kılavuzu elde etmeye çalıştığını bildirdi. Ayrıca, Claude modellerinin konvansiyonel silahlar, güdümlü füzeler ve insansız hava araçları için yazılım geliştirme süreçlerinde kullanıldığı 6 farklı olay güvenlik filtreleri tarafından durduruldu.
Yapay zeka sistemlerinin devlet destekli hacker grupları ve casusluk operasyonları tarafından da hedef alındığı belirlendi. ShinyHunters gibi siber suç örgütlerinin yanı sıra Rusya ve İran bağlantılı aktörlerin, muhalifleri fişleme ve zararlı yazılım geliştirme gibi amaçlarla sistemi manipüle etmeye çalıştığı kaydedildi. Gelişmeler üzerine OpenAI Baş Bilim İnsanı Jakub Pachocki sektöre yavaşlama çağrısında bulunurken, ABD’de Senatör Bernie Sanders yapay süper zekayı durdurmayı hedefleyen bir yasa tasarısı sundu. ABD Başkanı Donald Trump ise teknolojik yarışın önemine vurgu yaparak bu kısıtlamalara karşı çıktığını belirtti.
