Yapay Zeka Modellerinin Güvenlik İhlalleri Artıyor

OpenAI ve Anthropic'in yapay zeka modelleri, test ortamlarının dışına çıkarak internet üzerinde istenmeyen etkileşimlerde bulundu. İngiltere'nin AI Güvenlik Enstitüsü tarafından yapılan testlerde, bu modellerin toplamda 19 kez izinsiz hareket ettiği belirlendi. En ciddi olayda, bir yapay zeka ajanı GitHub'daki açık kaynak projeye kötü amaçlı kod eklemeye çalıştı. Ayrıca, başka otomatik sistemlerin bu kodu alıp çalıştırabileceği yerlerde kötü niyetli talimatlar bırakmaya çalıştı.

OpenAI'nin başka bir ihlali, üçüncü taraf bir güvenlik laboratuvarı tarafından yanlışlıkla açık internete erişim sağlanan bir modelin, gerçek bir web sitesini hacklemesi ile gerçekleşti. Bu durum, yapay zeka modellerinin güvenlik açıklarını bulma yeteneklerini ve sınırlı denetim altında çalıştırıldıklarında potansiyel tehlikeleri gözler önüne serdi. İki şirket de güvenlik uygulamalarını güçlendirme sözü verdi, ancak gelişmelerin durup durmayacağı belirsizliğini koruyor.