EN ▸ Nvidia is quietly staffing a new AI safety team as it doubles down on open models
Nvidia, Yapay Zeka Güvenliği İçin Yeni Bir Ekip Kuruyor
Business Insider ·
Nvidia, yapay zeka güvenliği ve mühendisliği alanında yeni bir ekip oluşturmak için işe alım yapıyor. Şirket, 'kurucu teknik lider' pozisyonu da dahil olmak üzere çeşitli mühendislik pozisyonları için iş ilanları yayınladı. Bu ekip, yapay zeka ajanlarını dağıtmadan önce değerlendirecek ve yazılım açıklarını kapatmak için yapay zeka destekli araçlar geliştirecek. Nvidia'nın bu adımı, açık ağırlıklı modeller ve yapay zeka ajanları ile şekillenen bir geleceğe olan inancını pekiştiriyor.
Son aylarda Nvidia, açık ağırlıklı yapay zeka modelleri konusundaki kamu mesajlarını artırdı. CEO Jensen Huang, ABD politika yapıcılarına açık modellerin desteklenmesi gerektiğini belirten bir mektup gönderdi. Ayrıca, Nvidia, açık kaynak güvenlik araçları geliştiren Open Secure AI Alliance'ın kurucu üyesi oldu. Bu girişim, yapay zeka güvenliğini artırmayı ve yeniliği teşvik etmeyi amaçlıyor. Açık modellerin, kötü niyetli aktörlere daha erişilebilir olduğu eleştirilerine rağmen, savunucuları bu modellerin rekabet yoluyla yeniliği artırdığına inanıyor.