ABD hükümetinde gelişmiş yapay zeka modellerinin oluşturabileceği ulusal güvenlik risklerine yönelik endişeler artıyor. Bu kapsamda Microsoft, Google ve xAI, ABD yönetimine yeni yapay zeka modellerine erken erişim sağlayacak bir anlaşmaya imza attı. Anlaşma kapsamında hükümet yetkilileri, yapay zeka sistemlerini kamuya sunulmadan önce test ederek olası güvenlik risklerini değerlendirebilecek.
Mythos Modeli Kaygıları Artırdı
Söz konusu adımın, Anthropic tarafından geliştirilen yeni yapay zeka modeli “Mythos”un siber saldırı potansiyeline ilişkin artan endişelerin ardından gündeme geldiği belirtildi.
ABD’li yetkililerin, gelişmiş yapay zeka modellerinin kötü amaçlı kullanım riskleri konusunda özellikle hassas davrandığı ifade ediliyor.
Hükümet Modelleri Önceden İnceleyecek
ABD Ticaret Bakanlığı bünyesindeki Yapay Zeka Standartları ve İnovasyon Merkezi’nden yapılan açıklamada, anlaşmanın hükümete modelleri piyasaya sürülmeden önce değerlendirme ve güvenlik açıklarını analiz etme imkanı sağlayacağı kaydedildi.
Anlaşmanın ayrıca Donald Trump yönetiminin teknoloji şirketleriyle yapay zekanın ulusal güvenlik açısından incelenmesine yönelik taahhütlerinin bir parçası olduğu belirtildi.
Microsoft: “Beklenmedik Davranışları Test Edeceğiz”
Microsoft tarafından yapılan açıklamada, şirketin ABD hükümeti bilim insanlarıyla birlikte yapay zeka sistemlerini beklenmedik davranışlar açısından test edeceği ifade edildi.
Şirket, ortak veri kümeleri ve iş akışları geliştirerek modellerin güvenlik değerlendirmelerini gerçekleştirmeyi planladığını duyurdu. Ayrıca Microsoft’un, İngiltere Yapay Zeka Güvenlik Enstitüsü ile de benzer bir iş birliği yaptığı belirtildi.
Öte yandan xAI ve Google cephesinden konuya ilişkin henüz resmi bir açıklama yapılmadı.
Pentagon’dan Yapay Zeka Hamlesi
Washington yönetimi, gelişmiş yapay zeka sistemlerinin siber saldırılar, askeri kullanım ve kritik altyapılar üzerindeki etkilerini yakından takip ediyor.
Geçtiğimiz hafta Pentagon, Savunma Bakanlığı’nın gizli ağlarında kullanılmak üzere yedi yapay zeka şirketiyle anlaşma yaptığını duyurmuştu.
ABD’li yetkililer, öncü yapay zeka modellerine erken erişim sağlayarak bu teknolojilerin oluşturabileceği tehditleri yaygın kullanıma geçmeden önce tespit etmeyi hedefliyor.
Yapay Zeka Modellerinin Riskleri Tartışılıyor
Uzmanlar, Anthropic’in Mythos modeli gibi gelişmiş yapay zeka sistemlerinin hem büyük fırsatlar hem de ciddi güvenlik riskleri barındırdığına dikkat çekiyor.
Özellikle siber saldırılar, askeri kötüye kullanım ve gelişmiş hacker faaliyetlerinde yapay zekanın kullanılma ihtimali, ABD başta olmak üzere birçok ülkede güvenlik kurumlarının gündeminde üst sıralarda yer alıyor.
