Bu yapay zeka tarafından mı yazıldı? AI ile oluşturulan metnin algılanmasına yardımcı olacak araçlar

Hepimiz yapay zekâ (AI) ile her şeyi yazacağımızı düşünürken, mühendisler metnin ChatGPT veya başka bir AI metin üreteci tarafından yazılıp yazılmadığını tespit etmek için yeni yollar geliştirmeye başladı.

İşte sizin (veya üniversite profesörünüz, patronunuz veya editörünüz) şu anda (veya çok yakında) kullanabileceğiniz üç algılama aracı. ChatGPT’den “metnin ChatGPT tarafından yazılıp yazılmadığını tespit etmek için araçlar hakkında bir makale yazmasını” istedik ve sonuçları aşağıdaki araçlara besledik. Hepsi, metnin muhtemelen bir AI tarafından yazıldığını belirledi veya şüphelendi. Sonra bu makalenin metnini aynı araçlara besledik – ve neyse ki, insanlığımızı doğruladılar.

GPT-2 Output Detector

OpenAI, 2015’ten beri insan zekasını ve sanatsal yeteneğini çoğaltma çabalarıyla interneti büyülüyor. Ancak geçtiğimiz Kasım ayında, şirket nihayet AI metin üreteci ChatGPT‘nin piyasaya sürülmesiyle mega-viral hale geldi. Beta aracının kullanıcıları, çok okunaklı görünen istemlere AI tarafından oluşturulan metin yanıtlarının örneklerini yayınladı, öğretmenlerin kalbinde korku yarattı ve hatta Google’ı aracın araştırma yapma işini öldüreceği konusunda endişelendirdi.

OpenAI mühendisleri, ortalama bir insan kadar iyi veya ortalama bir insandan daha iyi yazabilen bir bot oluşturabiliyorlarsa, metnin yapay zeka tarafından oluşturulup oluşturulmadığını tespit etmede ortalama insandan daha iyi bir bot ortaya çıkartmaları gerektiği kulağa daha mantıklı geliyor.

GPT-2 output detector modelinin çevrimiçi demosu, metni bir kutuya yapıştırmanıza ve metnin AI tarafından yazılma olasılığını hemen görmenize olanak tanıyor. OpenAI’nin araştırmasına göre, araç nispeten yüksek bir algılama oranına sahip, ancak daha etkili olması için meta veri tabanlı yaklaşımlar, insan yargısı ve halk eğitimi ile eşleştirilmesi gerekiyor.

GLTR (Giant language model test room)

OpenAI, 2019’da GPT-2’yi piyasaya sürdüğünde, MIT-IBM Watson AI Lab ve Harvard Doğal Dil İşleme Grubu’ndan insanlar, metnin bot tarafından yazılıp yazılmadığını tespit etmeye çalışan bir algoritma oluşturmak için güçlerini birleştirdi.

Yapay zeka tarafından oluşturulan metin, bir insan tarafından yazılmış gibi görünebilir, ancak bir insan yazarın öngörülemeyen kelimeleri seçme olasılığı daha yüksektir. “Birini bilmek için bir tane gerekir” yöntemini kullanarak, GLTR algoritması bir cümledeki bir sonraki kelimeyi tahmin edebiliyorsa, o zaman cümlenin bir bot tarafından yazıldığını varsayacaktır.

GPTZERO

Kokteyller yudumlarken ve Yılbaşı gecesi topun düşmesini izlerken, Edward Tian, metnin bir insan tarafından mı yoksa bir bot tarafından mı yazıldığını belirlemeye yardımcı olabilecek bir uygulama olan GPTZero’yu yaratmakla meşguldü. Princeton’da 22 yaşında bir kıdemli olarak Tian, üniversite profesörlerinin “AIgiarism” i (intihal, ancak AI’nın yardımıyla) tespit etmede nasıl bir çıkarı olabileceğini anlıyor.

Tian, aracının, metnin ChatGPT tarafından yazılma olasılığını hesaplamak için cümlelerin rastgele olma durumlarını (“şaşkınlık”) ve genel rastgele olma durumlarını (“patlama”) ölçtüğünü söylüyor. Tian, 2 Ocak’ta GPTZero hakkında tweet attığından beri, yatırım yapmak isteyen VC’ler tarafından zaten yaklaşıldığını ve yakında güncellenmiş sürümler geliştireceğini söyledi.

Filigranlama (yakında)

Soruna intihal dedektörlerinin geçmişte olduğu gibi yaklaşmanın yanı sıra, OpenAI tüm ChatGPT metnini filigranlayarak sorunu çözmeye çalışıyor.  OpenAI konuk araştırmacısı Scott Aaronson’ın  yakın tarihli bir AI güvenlik konuşmasına göre, mühendisler  zaten OpenAI tarafından oluşturulan herhangi bir metne filigran eklemesi yoluyla çalışan bir prototip oluşturdular.

Aaronson, “Temel olarak, GPT ne zaman uzun bir metin oluştursa, kelime seçimlerinde başka türlü fark edilemeyen gizli bir sinyal olmasını istiyoruz, daha sonra bunun GPT’den geldiğini kanıtlamak için kullanabilirsiniz” diyor. Araç, “kriptografik sözde rasgele işlev” olarak adlandırdığı şeyi kullanacaktır. Ve sadece OpenAI bu anahtara erişebilir.

Kaynak: Was this written by a robot? These tools help detect AI-generated text

Facebook\\\\\\\'ta paylas

Tweetle