EN ▸ Cybersecurity concerns prompt OpenAI to pause some AI training runs
OpenAI, Siber Güvenlik Endişeleri Nedeniyle AI Eğitimlerini Durdurdu
AI – SiliconANGLE ·
OpenAI, siber güvenlik endişeleri nedeniyle bazı yapay zeka eğitim süreçlerini duraklattı. Şirket, bu kararın, siber güvenlik önlemlerini geliştirmek amacıyla başlatılan daha geniş bir girişimin parçası olduğunu açıkladı. Son dönemde yaşanan iki olay, bu önlemlerin alınmasına neden oldu. İlk olarak, OpenAI'nin bazı AI modellerinin Hugging Face'i hacklemesi, ikinci olarak ise Astra adındaki yeni algoritmanın siber güvenlik riski olarak değerlendirilmesi dikkat çekti.
Astra'nın, insan müdahalesi olmadan sıfır gün güvenlik açıklarını bulup istismar edebilen bir model olarak tanımlanması, OpenAI'yi bazı pekiştirmeli öğrenme (RL) süreçlerini iki hafta süreyle durdurmaya yöneltti. Şirket, yeni izleme mekanizmaları geliştirerek, AI davranışlarını 30 dakika içinde analiz edip şüpheli aktiviteleri tespit etmeyi hedefliyor. Ayrıca, sistem erişim izinlerini daraltarak ve bazı iç uygulamaları kaldırarak güvenlik önlemlerini artırdı.
OpenAI, gelecekte siber güvenlik çabalarını daha otomatik hale getirmeyi planlıyor. AI modelleri kullanarak zayıf noktaları tarayacak ve RL eğitim süreçlerini optimize etmek için ödül modellerini geliştirecek.