Merak edilen detaylar açıklandı! Yapay zekaya ‘görünmez’ filigran…

Merak edilen detaylar açıklandı! Yapay zekaya ‘görünmez’ filigran…

Anthropic, Claude tarafından oluşturulan metinlere eklenecek filigran sistemiyle ilgili temel soruları yanıtlayan yeni bir blog yazısı yayımladı. Şirket, filigranın nasıl çalışacağını, metin üzerinde yapılan düzenlemelerin sistemi etkileyip etkilemeyeceğini ve kod çıktılarında nasıl uygulanacağını ayrıntılı biçimde anlattı. Claude kullanıcıları, bu hafta başında Avrupa Birliği Yapay Zeka Yasası’nın Şeffaflık Kodu’na uyum sağlamak amacıyla filigran kullanacağını açıklamasının ardından kararı tartışmaya başladı. Kurallar, yapay zeka şirketlerinin ürettiği içeriklerin tanımlanabilmesini gerektiriyor. TechCrunch’ın açıklamasına göre sistem, Claude’un bir metni oluştururken yaptığı “düşük riskliovercast” ile “greyişaretlerinibu X değil, Y” şeklindeki cümle yapısını gösteriyor. Şirket, bu tür örüntüleri yakalamak ile metinde doğrudan bir filigran bulunup bulunmadığını kontrol etmek temelde farklı yöntemler.

Filigranın doğrudan tespit edilebilmesi için metindeki belirli kalıpların izlenmesi gerekiyor. Anthropic, “düşük riskliovercast” gibi yapay zeka üretiminde sıkça rastlanan cümle yapılarını tespit ederek filigranı görebileceğini belirtti. Bu yöntemle metinde doğrudan bir filigran bulunup bulunmadığını kontrol etmek, filigranın varlığını kanıtlamak için yeterli. Metnin yeniden yazılması durumunda filigranın ortadan kaldırılıp kaldırılamayacağına dair açıklamalar da verildi. Bunun mümkün olduğu, ancak hafif düzenlemelerin filigranı tamamen ortadan kaldırmasının muhtemel olmadığı vurgulandı. Sadece küçük düzenlemelerle metinde neredeyse tüm kelimelerin insan tarafından yazılmış olması durumunda filigranın yerleşebileceği çok az içerik bulunacak veya hiç bulunmayacak.

Kapsamlı yeniden yazım işlemi, metindeki her kelimenin değiştirildiği haliyle filigranı kaldırabilir. Ancak bu durumda ortaya çıkan metnin hâlâ yapay zeka tarafından oluşturulmuş olarak tanımlanıp tanımlanamayacağı tartışmalı. Claude’un yalnızca düzelttiği veya editörlük yaptığı insan tarafından yazılmış metinlerde filigranın tespit edilip edilemeyeceği, metnin uzunluğuna ve Claude’un ne kadar kapsamlı değişiklik yaptığına bağlı. Şirket, küçük düzenlemeler yapan bir metinde filigranın neredeyse hiç bulunmayacağını, kapsamlı yeniden yazımın ise filigranı kaldıracağını açıkladı. Kod çıktılarında filigranlamanın diğer metin türlerine kıyasla daha sınırlı olması bekleniyor. Bunun nedeni, Claude’un çalışan kod üretmesi gerektiği için eşit derecede geçerli seçenekler arasından serbestçe tercih yapma imkânının doğal dildeki kadar geniş olmaması.

Kod üretiminde filigran tespiti, metin içindeki belirli örüntülerin varlığını inceleyerek yapılır. Claude’un kod üretirken seçtiği alternatifler, doğal dildeki kadar çeşitlilik göstermediği için filigran tespiti daha sınırlı kalıyor. Bu durum, kod çıktılarının filigran içerip içermediğinin belirlenmesinde zorluk yaratıyor. Ancak şirket, kod üretiminde bile filigran tespitini mümkün kılacak yöntemler üzerinde çalıştığını belirtti.

Şimdi sorulacak en önemli soru: Kullanıcılar bu sistemi ne kadar sık kullanalım? Filigranla işaretlenmiş metinlerin okuma deneyimi nasıl etkilenecek? Ayrıca, kod çıktılarındaki filigran tespitiyle ilgili beklentiler ne kadar gerçekçi? Gelişmeleri izlemeye devam ediyoruz, bakalım bundan sonra ne olacak?

Kaynak: Orijinal Haber