Claude: AI Metin İşaretleme Sorunlu Bir Çözüm Olabilir

Anthropic, AI tarafından üretilen metinlere görünmez işaretler eklemeye başladı. Ancak Claude, bu işaretlemenin güvenilir bir çözüm sunup sunamayacağı konusunda şüphelerini dile getirdi. Claude, basit işaretlerin kolayca çıkarılabileceğini ve daha karmaşık işaretlerin de yeniden ifade etme veya biçimlendirme ile aşılabileceğini belirtti. Ayrıca, bu teknolojinin kötüye kullanılma potansiyeli olan kişiler tarafından aşılabileceğini vurguladı.

Anthropic, Avrupa Birliği'nin yeni şeffaflık kuralları çerçevesinde bu işaretleme sistemini geliştirdi. Claude, metin üretimi sırasında kelime seçiminde küçük değişiklikler yaparak işaretleme gerçekleştiriyor. Ancak, bu işaretlerin her zaman güvenilir olmayabileceği ve insan yapımı metinlerin de bu işaretleri taşıyabileceği ifade edildi.

Diğer AI firmaları da benzer işaretleme yöntemleri üzerinde çalışıyor, ancak Elon Musk'ın xAI'si bu kurallara uymayı reddetti. Claude'un işaretleme sistemi, insan yapımı eserlerin yanlışlıkla AI destekli olarak tanımlanmasına yol açabileceği için bazı kullanıcılar arasında endişe yarattı.