Araştırmaya göre yapay zeka tarafından üretilen sahte yorumlar internetin her yerinde

İzleme grupları ve araştırmacılar, insanların neredeyse hiç çalışmadan verimli bir şekilde yeni ve ayrıntılı çevrimiçi yorumlar üretmesine olanak tanıyan üretken yapay zeka araçlarının ortaya çıkmasının, tüccarları, hizmet sağlayıcıları ve tüketicileri keşfedilmemiş bir bölgeye soktuğunu söylüyor.

Sahte yorumlar, Amazon ve Yelp gibi birçok popüler tüketici web sitesini uzun zamandır rahatsız ediyor. Bu yorumlar genellikle özel sosyal medya gruplarında sahte yorum simsarları ile ödeme yapmaya hazır işletmeler arasında alınıp satılıyor. Bazen bu tür incelemeler, müşterilere olumlu geri bildirim karşılığında hediye kartları gibi teşvikler sunan işletmeler tarafından başlatılıyor. 

Ancak teknoloji sektörü uzmanlarına göre, OpenAI’nin ChatGPT’si tarafından popüler hale getirilen yapay zeka destekli metin oluşturma araçları, dolandırıcıların daha hızlı ve daha büyük hacimli incelemeler üretmesini sağlıyor.

ABD’de yasa dışı olan bu aldatıcı uygulama yıl boyunca yapılsa da, pek çok kişinin hediye satın almak için incelemelere güvendiği tatil alışverişi sezonunda tüketiciler için daha büyük bir sorun haline geliyor.

Yapay zeka tarafından oluşturulan incelemeler nerede görülüyor?

Sahte yorumlar e-ticaret, konaklama ve restoranlardan ev onarımı, tıbbi bakım ve piyano dersleri gibi hizmetlere kadar geniş bir sektör yelpazesinde yer alıyor.

Sahte yorumları tespit etmek için yazılım kullanan bir teknoloji şirketi ve izleme grubu olan Transparency Company, yapay zeka tarafından üretilen yorumların 2023’ün ortalarında çok sayıda ortaya çıkmaya başladığını ve o zamandan beri çoğaldığını söyledi.

Bu ay yayınlanan bir rapor için, The Transparency Company ev, hukuk ve sağlık hizmetleri sektörlerindeki 73 milyon yorumu analiz etti. Yorumların yaklaşık %14’ünün sahte olma olasılığı yüksekken, şirket 2,3 milyon yorumun kısmen veya tamamen yapay zeka tarafından üretildiğine “yüksek derecede güven” duyduğunu ifade etti.

The Transparency Company’nin çalışmalarını inceleyen ve 1 Ocak’tan itibaren kuruluşa liderlik edecek olan teknoloji girişimlerinin danışmanı ve yatırımcı Maury Blackman, “Bu inceleme dolandırıcıları için gerçekten çok iyi bir araç” dedi.

Ağustos ayında, yazılım şirketi DoubleVerify, üretken yapay zeka tarafından hazırlanmış incelemelere sahip cep telefonu ve akıllı TV uygulamalarında “önemli bir artış” gözlemlediğini söyledi. Şirket, bu incelemelerin genellikle müşterileri kandırarak cihazları ele geçirebilecek ya da sürekli reklam yayınlayabilecek uygulamaları yüklemelerini sağlamak için kullanıldığını söyledi.

Ertesi ay Federal Ticaret Komisyonu, Rytr adlı bir yapay zeka yazma aracı ve içerik üreticisinin arkasındaki şirkete dava açarak, piyasayı sahte incelemelerle kirletebilecek bir hizmet sunmakla suçladı.

Bu yıl sahte yorumların alım-satımını yasaklayan FTC (Federal Ticaret Komisyonu), Rytr’ın bazı abonelerinin bu aracı kullanarak garaj kapısı tamiri şirketleri, “replika” tasarımcı çantaları satan satıcılar ve diğer işletmeler için yüzlerce, belki de binlerce yorum ürettiğini belirtti.

Muhtemelen önde gelen çevrimiçi sitelerde de mevcut

Yapay zeka tespit şirketi Pangram Labs’ın CEO’su Max Spero, şirketinin kullandığı yazılımın, Amazon’da yayınlanan bazı yapay zeka tarafından oluşturulmuş değerlendirmelerin, çok ayrıntılı oldukları ve iyi düşünülmüş gibi göründükleri için inceleme arama sonuçlarının en üstüne yükseldiğini neredeyse kesin olarak tespit ettiğini söyledi.

Ancak neyin sahte olup olmadığını belirlemek zor olabilir. Amazon, harici tarafların “kötüye kullanım modellerini gösteren veri sinyallerine erişimleri” olmadığı için yetersiz kalabileceğini söyledi.

Pangram Labs, gizlilik anlaşmaları nedeniyle Spero’nun adını vermekten kaçındığı bazı önde gelen çevrimiçi siteler için tespit yaptı. Amazon ve Yelp’i bağımsız olarak değerlendirdiğini söyledi.

Spero, Yelp’te yapay zeka tarafından oluşturulan yorumların birçoğunun, kullanıcıların içeriğe güvenmeleri gerektiğini bildirmeyi amaçlayan “Elit” rozeti kazanmak için yeterli sayıda yorum yayınlamaya çalışan kişiler tarafından gönderilmiş gibi göründüğünü söyledi.

Rozet, yerel işletme sahipleriyle özel etkinliklere erişim sağlıyor. Sahte İnceleme İzleme adlı bir izleme grubunu yöneten eski bir federal ceza müfettişi olan Kay Dean, dolandırıcıların Yelp profillerinin daha gerçekçi görünebilmesi için de bunu istediklerini söyledi.

Emin olmak için, bir incelemenin yapay zeka tarafından oluşturulmuş olması mutlaka sahte olduğu anlamına gelmez. Bazı tüketiciler, gerçek duygularını yansıtan içerikler oluşturmak için yapay zeka araçlarını deneyebilir. Anadili İngilizce olmayan bazı tüketiciler, yazdıkları incelemelerde doğru bir dil kullandıklarından emin olmak için yapay zekaya başvurduklarını söylüyor.

Sahte yorumları araştıran Michigan Eyalet Üniversitesi pazarlama profesörü Sherry He, “İyi niyetle ortaya çıkıyorsa, incelemelere yardımcı olabilir (ve) daha bilgilendirici hale getirebilir” dedi. Teknoloji platformlarının, meşru kullanıcıları yapay zeka araçlarına yönelmekten vazgeçirmek yerine, önde gelen platformların zaten yaptığı gibi, kötü aktörlerin davranış kalıplarına odaklanması gerektiğini söylüyor.

Şirketler ne yapıyor?

Önde gelen şirketler, yapay zeka tarafından oluşturulan içeriğin sahte veya kötü niyetli yorumları kaldırmaya yönelik sistemlerine nasıl uyduğuna ilişkin politikalar geliştiriyor. Bazıları sahte yorumları tespit etmek ve kaldırmak için zaten algoritmalar ve araştırma ekipleri kullanıyor, ancak kullanıcılara yapay zekayı kullanmaları için biraz esneklik sağlıyor.

Örneğin Amazon ve Trustpilot sözcüleri, müşterilerin gerçek deneyimlerini yansıttıkları sürece yapay zeka destekli yorumlar yayınlamalarına izin vereceklerini söyledi. Yelp ise daha temkinli bir yaklaşım benimseyerek, yönergelerinin yorumcuların kendi metinlerini yazmalarını gerektirdiğini söyledi.

Şirketten yapılan açıklamada, “Son zamanlarda tüketicilerin yapay zeka araçlarını benimsemesindeki artışla birlikte Yelp, platformumuzdaki bu tür içerikleri daha iyi tespit etmek ve azaltmak için yöntemlere önemli ölçüde yatırım yaptı” denildi.

Amazon, Trustpilot, istihdam inceleme sitesi Glassdoor ve seyahat siteleri Tripadvisor, Expedia ve Booking.com’un geçen yıl başlattığı Güvenilir İncelemeler Koalisyonu, aldatıcılar yapay zekayı yasadışı kullanıma sokabilse de, teknolojinin aynı zamanda “başkalarını yanıltmak için incelemeleri kullanmak isteyenlere karşı bir geri adım atma fırsatı” sunduğunu söyledi.

FTC’nin Ekim ayında yürürlüğe giren sahte değerlendirmeleri yasaklayan kuralı, ajansın bu uygulamayı yapan işletmelere ve bireylere para cezası vermesine olanak tanıyor. Bu tür incelemelere ev sahipliği yapan teknoloji şirketleri, ABD yasalarına göre yabancıların platformlarında yayınladıkları içerikten yasal olarak sorumlu olmadıkları için cezadan muaf tutuluyor.

Aralarında Amazon, Yelp ve Google’ın da bulunduğu teknoloji şirketleri, sitelerinde sahte yorum satmakla suçladıkları sahte yorum simsarlarına dava açtı. Şirketler, teknolojilerinin şüpheli yorumların ve şüpheli hesapların büyük bir bölümünü engellediğini ya da kaldırdığını söylüyor. Ancak bazı uzmanlar daha fazlasını yapabileceklerini söylüyor.

Fake Review Watch’tan Dean, “Şu ana kadarki çabaları yeterli değil,” dedi. “Eğer bu teknoloji şirketleri platformlarındaki inceleme sahtekârlığını ortadan kaldırmaya bu kadar kararlıysa, neden otomasyon olmadan çalışan ben, herhangi bir günde yüzlerce hatta binlerce sahte inceleme bulabiliyorum?”

Yapay zeka tarafından oluşturulan sahte incelemeleri tespit etme

Araştırmacılara göre, tüketiciler birkaç olası uyarı işaretine dikkat ederek sahte yorumları tespit etmeye çalışabilirler. Aşırı hevesli veya olumsuz yorumlar kırmızı bayraktır. Bir ürünün tam adını ya da model numarasını tekrarlayan jargon da bir başka potansiyel ele vericidir.

Yapay zeka söz konusu olduğunda, Yale’de organizasyon davranışı profesörü olan Balázs Kovács tarafından yürütülen araştırma, insanların yapay zeka tarafından üretilen ve insan tarafından yazılan yorumlar arasındaki farkı anlayamadığını göstermiştir. Çalışmada, bazı yapay zeka dedektörlerinin, çevrimiçi incelemelerde yaygın olan daha kısa metinler tarafından da kandırılabileceği belirtildi.

Ancak, çevrimiçi alışveriş yapanlar ve hizmet arayanların dikkate alması gereken bazı “yapay zeka izleri” vardır. Panagram Labs, yapay zeka ile yazılmış yorumların genellikle daha uzun, oldukça yapılandırılmış ve “boş tanımlamalar” içerdiğini belirtiyor; bunlar genel ifadeler ve özellikler gibi ifadelerden oluşur. Yazılar ayrıca “beni ilk etkileyen şey” ve “oyun değiştirici” gibi klişelere eğilimlidir.

Kaynak: https://www.fastcompany.com

Facebook\\\\\\\'ta paylas

Tweetle