Google, yapay zeka tarafından üretilen metinlerin izini sürebilmek için yesyeni bir teknoloji olan SynthID’yi tanıttı. Artık, görünmez bir watermark (şeffaf iz) ekleyerek yapay zeka tarafından oluşturulan içerikler işaretlenecek. Yani AI tarafından üretilen metinlerin kaynağı, bu bâtın işaret sayesinde tespit edilebilecek. İşte detaylar…
Google’dan yapay zeka metinlerine bilinmeyen imza: SynthID ile yapay zeka tarafından üretilen içerikler işaretlenecek
Google’ın Responsible GenAI Toolkit isimli araç paketinin bir modülü olarak geliştirilen SynthID, şu anda Hugging Face platformunda fiyatsız olarak indirilebilir durumda. Bu teknoloji, metinlerin doğal akışını bozmadan, içeriğe kapalı bir işaret ekliyor. Yani, gözle görülmeyen bu işaret sayesinde bir metnin yapay zeka modeli tarafından mı, yoksa bir insan tarafından mı yazıldığı belirlenebilecek. Pekala nasıl çalışıyor?
Yapay zekanın çalışma prensibi metin oluştururken mümkünlük hesaplamalarına dayanıyor. Her bir söz ya da karakterin bir mümkünlük bedeli var ve AI, bu bedellere nazaran metni oluşturuyor. SynthID ise bu mümkünlük kıymetleriyle oynayarak yapay zeka tarafından oluşturulmuş metinlerde görünmez bir watermark ekliyor. Velhasıl, bir metin yapay zeka tarafından yazıldığında SynthID o metni işaretleyerek bir nevi dijital parmak izi bırakıyor.
Ancak her teknolojide olduğu üzere SynthID’nin de sınırlamaları var. Google, bu teknolojinin bilhassa kısa metinlerde, yeniden düzenlenmiş ya da çeviri yapılmış içeriklerde şimdi tesirli olmadığını kabul ediyor. Ayrıyeten, gerçek olaylarla ilgili içeriklerde kullanılmaması gerekiyor, zira bu üzere durumlarda metnin doğruluğunu bozma riski doğabiliyor. Örneğin, bir yapay zeka tarihi bir olay hakkında bilgi veriyorsa, o olayın doğruluğunu sağlamak için kullanılan token’lara müdahale edilmesi metnin doğruluğunu zayıflatabilir.
Aslında SynthID teknolojisi, Google’ın Gemini yapay zeka modelinde 2023 baharından beri kullanılıyor. Google, bu teknoloji sayesinde yapay zeka içeriklerinin daha şeffaf bir halde tespit edilebileceğini belirtiyor. Bu ortada,, Google bu bahiste tek başına değil. OpenAI da emsal teknolojiler üzerinde çalışıyor ve AI tarafından üretilen içeriklere bilinmeyen işaretler eklemeyi planlıyor.
Kısacası SynthID, bilhassa içerik üretiminde şeffaflık isteyen kurumlar ve platformlar için hayli cazip. Şimdi kusursuz olmasa da, yapay zekanın yarattığı metinler, artık sadece etkileyici ve yaratıcı olmayacak, tıpkı vakitte izlenebilir ve tanımlanabilir olacak.
