Yapay zeka şirketi Anthropic'in geliştirdiği modellerden biri, ABD hükümetine ait yüksek güvenlikli sistemlerde gerçekleştirilen testlerde çeşitli güvenlik açıklarını tespit etti. Test sonuçları, yapay zekanın siber güvenlik alanındaki potansiyelini yeniden gündeme taşıdı.
Güvenlik Açıkları Saatler İçinde Belirlendi
ABD'li yetkililerin verdiği bilgiye göre, Anthropic'in "Mythos" adlı modeli istihbarat kurumlarıyla yürütülen ortak testlerde kritik sistemlerdeki zafiyetleri kısa sürede ortaya çıkardı. Ancak yetkililer, açıkların tespit edilmesinin bunların aynı hızla istismar edilebildiği anlamına gelmediğini vurguladı.
Project Glasswing Kapsamında Test Edildi
Söz konusu çalışmalar, Anthropic'in Project Glasswing girişimi çerçevesinde gerçekleştirildi. Proje, yapay zeka sistemlerinin kamu güvenliği, ulusal güvenlik ve ekonomik altyapılar üzerindeki olası risklerini analiz etmeyi ve kritik yazılımların korunmasını amaçlıyor.
Şirket ile Yönetim Arasında Görüş Ayrılıkları Sürüyor
Anthropic ile ABD kurumları arasındaki iş birliği devam ederken, şirket ile Trump yönetimi arasında yapay zekanın askeri kullanımı konusunda görüş ayrılıkları yaşanıyor. Şirket, yapay zekanın savunma alanındaki kullanımına yönelik bazı endişelerini dile getirirken, yönetimin belirli yapay zeka modellerine yönelik kısıtlamalar getirdiği belirtiliyor.
