Anthropic, Yeni Model 2'yi Tanıttı: Yapay Zeka Risk Raporunda Endişeler Artıyor

Anthropic PBC, Claude Mythos 5'ten daha yetenekli bir yapay zeka modeli geliştirdiğini açıkladı. Şirket, bu yeni algoritmayı AI uyum raporunun son baskısında detaylandırdı. Rapor, büyük dil modellerinin potansiyel risklerini ele alırken, iki ana risk kategorisi belirledi: Tehdit Modeli 1 ve Tehdit Modeli 2. Tehdit Modeli 1, felaket risklerine odaklanırken, Tehdit Modeli 2 daha küçük tehlikeleri kapsıyor. Son rapor, bu risklerin seviyesinin 'düşük' olarak güncellendiğini belirtiyor.

Yeni Model 2, Anthropic çalışanları tarafından yazılım geliştirme ve mühendislik görevlerini otomatikleştirmek için kullanılıyor. Ancak, şirketin araştırmacıları, yapay zekanın kendi kendini geliştirme yeteneği kazanmasının risk oluşturabileceği konusunda uyarıyor. Rapor, bu tür bir durumun henüz gerçekleşmediğini ancak gelecekte bir tehdit oluşturabileceğini vurguluyor.