Canlı sohbete katılmak, haber, uzman görüşü ve piyasa sinyallerini anında almak için TELEGRAM, TWITTER, FACEBOOK, INSTAGRAM’dan bizi takip edin.
Google, metinlerin orijinal mi yoksa yapay zeka tarafından mı üretildiğini kolayca tespit etmeyi sağlayan SynthID metin filigranlama aracını açık kaynaklı olarak erişime sundu. Bu yeni teknoloji, özellikle son iki yılda generatif yapay zekanın hızla yaygınlaşması ve dil modellerinin yanlış bilgi, dezenformasyon, isteğe bağlı olmayan cinsel içerik ve diğer kötü niyetli amaçlar için kullanılmasından dolayı önem kazanmış durumda.
Avrupa Birliği’nin Uyarıları ve Filigranlama Gerekliliği
Avrupa Birliği Kanun Uygulama Ajansı, 2026 yılına kadar çevrimiçi metinlerin %90’ının yapay olarak üretilebileceği konusunda uyarılarda bulunuyor. Bu durum, propaganda, dolandırıcılık ve yanıltma risklerinin artabileceği anlamına geliyor. Bu nedenle, metinlerin kaynağını belirleyebilen araçların geliştirilmesi aciliyet kazandı.
Google, bu ihtiyaca yanıt olarak SynthID metin filigranlama aracını açık kaynaklı hale getirdiğini duyurdu. Şirket, bu aracın Hugging Face yapay zeka platformundan ve Google’ın güncellenmiş “Sorumlu GenAI Araç Kiti”nden indirilebileceğini belirtti. Bu adım, hem işletmelere hem de geliştiricilere AI tarafından oluşturulan içerikleri tespit etme konusunda yardımcı olmayı amaçlıyor.
SynthID Nasıl Çalışıyor?
Google’ın DeepMind araştırma ekibi tarafından geliştirilen SynthID, yapay zeka tarafından üretilen metinlere istatistiksel bir imza ekleyerek çalışıyor. Bu imza, metinlerin üretimi sırasında bazı kelimelerin hafifçe değiştirilmesiyle oluşturuluyor. Bu değişiklikler, insan gözüyle fark edilmesi zor olan ancak SynthID dedektörü tarafından kolayca algılanabilen bir desen yaratıyor.
Araştırma ekibinden Pushmeet Kohli, SynthID sisteminin AI modellerinin işlevlerini etkilemediğini, aksine onları daha iyi hale getirdiğini belirtti. DeepMind tarafından yayınlanan araştırma makalesine göre, bu yöntem, dil modellerinin metin üretme sürecine müdahale ediyor. Metinlerin kelime kelime üretilmesi sırasında, belirli kelimelere rastgele puanlar atanıyor ve yüksek puan alan kelimeler seçiliyor. Bu süreçte filigran eklenmiş metinler, dedektör tarafından analiz edildiğinde yüksek puanlar üzerinden tanımlanabiliyor.
Sektörden Gelen Destek ve Eleştiriler
Google’ın SynthID aracını açık kaynaklı hale getirmesi, teknoloji dünyasında genellikle olumlu bir adım olarak değerlendirildi. Ancak, bazı uzmanlar sistemin hala geliştirilmesi gerektiğini belirtiyor. Örneğin, Google’ın Gemini modelleri ile entegre edilen bu sistem, eğer AI tarafından üretilmiş bir metin değiştirilirse veya başka bir chatbot kullanılarak özetlenirse, dedektörün yanıltılabileceğini kabul ediyor. Kohli, SynthID’nin yapay zeka tarafından üretilen içerikleri tanımlamada mükemmel bir çözüm olmadığını, ancak daha güvenilir AI tanımlama araçlarının geliştirilmesi için önemli bir yapı taşı olduğunu ifade etti.
Google’a göre, SynthID metin filigranlama aracı, metin üretiminde kalite, doğruluk veya hızdan ödün vermiyor. Ayrıca, kırpılmış, değiştirilmiş veya yeniden yazılmış metinlerde bile etkili olduğu belirtiliyor. Ancak, gerçek dünyada uygulanmasıyla ilgili bazı sorunlar da var. C2PA yönlendirme komitesi üyesi Bruce MacCormack, “Gerçek durumlardaki uygulamada, hangi filigranlama modelinin uygulandığını bilmek ve sinyalin nerede olduğunu belirlemek sorun teşkil ediyor,” dedi. Bu, filigranlı metinlerin tespit edilmesinin karmaşıklığını gösteriyor.
Diğer Şirketlerin Çalışmaları ve Google’ın Adımı
Google dışında, OpenAI gibi büyük teknoloji şirketleri de uzun süredir yapay zeka metin filigranlama teknolojisi üzerinde çalışıyor. Ancak, teknik ve ticari uygunluk nedenleriyle bu teknolojilerin piyasaya sürülmesi ertelenmiş durumda. Buna rağmen, sektördeki uzmanlar Google’ın açık kaynaklı SynthID aracını geliştirmesini genel olarak olumlu bir adım olarak görüyor.
Microsoft’un medya kaynağı yöneticisi ve C2PA’nın başkanı Andrew Jenks, “Bu adım, belgeler ve ham metinler için C2PA’dan gelen dayanıklı içerik kimlik bilgilerini iyileştirme potansiyeline sahip,” dedi. MacCormack ise, Google araştırmacılarının bu aracı pratik bir çözüm haline getirmek için daha yapacak çok işi olduğunu, ancak bu girişimin “önümüzdeki uzun maratonun ilk adımı” olduğunu belirtti.
Google’ın SynthID metin filigranlama aracını açık kaynaklı hale getirmesi, yapay zeka tarafından üretilen içeriklerin tespiti konusunda önemli bir dönüm noktası. Özellikle dezenformasyon ve yanlış bilgi yayılımının arttığı bir dönemde, metinlerin kaynağını belirleyebilmek kritik hale gelmiş durumda. Google, bu araçla sektöre önemli bir katkı sağlarken, diğer teknoloji devleri de benzer teknolojiler üzerinde çalışmalarına devam ediyor. Yapay zeka ve dijital içeriklerin geleceği açısından, bu tür araçların geliştirilmesi ve yaygınlaştırılması büyük önem taşıyor.
