Yapay Zeka Arama Motorları: Bilgi Sahibi Olmadıkları Konularda Bile Kesin Konuşan Arkadaşınız Gibi
Yapay zeka arama motorları, birçok konuda uzman olduğunu iddia eden, ancak aslında bilgi sahibi olmadığı konularda bile otoriter bir şekilde konuşan bir arkadaşınıza benziyor. Columbia Journalism Review (CJR) tarafından yayınlanan yeni bir araştırma raporu, OpenAI ve xAI gibi şirketlerin yapay zeka modellerinin, belirli bir haber olayı hakkında soru sorulduğunda çoğu zaman hikayeyi uydurduğunu veya önemli detayları yanlış verdiğini ortaya koyuyor.
Araştırmacılar, çeşitli modellere gerçek haber hikayelerinden doğrudan alıntılar verdi ve ardından makalenin başlığı, yayıncısı ve URL’si gibi bilgileri belirlemelerini istedi. Perplexity, yanıtların %37’sinde yanlış bilgi verirken, xAI’nin Grok modeli vakaların %97’sinde detayları tamamen uydurdu. Hatalar arasında, botun URL’yi bile uydurması nedeniyle hiçbir yere gitmeyen makalelere bağlantılar sunmak da vardı. Genel olarak, araştırmacılar yapay zeka modellerinin test sorgularının %60’ında yanlış bilgi verdiğini buldu.
Bazen, Perplexity gibi arama motorları, National Geographic gibi sitelerin ödeme duvarlarını, bu web siteleri arama motorlarının normalde saygı duyduğu "tarama" metinlerini kullanmış olsalar bile aşabiliyor. Perplexity bu konuda geçmişte de sorun yaşamıştı, ancak bu uygulamanın "adil kullanım" olduğunu savunuyor. Yayıncıları yatıştırmak için gelir paylaşımı anlaşmaları sunmaya çalıştı, ancak uygulamayı sona erdirmeyi hala reddediyor.
Son yıllarda chatbotları kullanan herkes için bu durum şaşırtıcı olmamalı. Chatbotlar, emin olmadıkları durumlarda bile cevap verme eğilimindedir. Chatbotlarda arama, "geri alma-artırılmış üretim" (retrieval-augmented generation) adı verilen bir teknik aracılığıyla etkinleştirilir; bu teknik, adından da anlaşılacağı gibi, bir yapay zeka model üreticisinin sağladığı sabit bir veri kümesine güvenmek yerine, bir cevap üretirken gerçek zamanlı bilgi için web’i tarar. Bu durum, Rusya gibi ülkelerin arama motorlarına propaganda pompalamasıyla yanlışlık sorununu daha da kötüleştirebilir.
Chatbot kullanıcılarının fark ettiği en rahatsız edici şeylerden biri, "akıl yürütme" metinlerini veya chatbotların bir soruyu yanıtlamak için kullandığı mantık zincirini incelerken, genellikle bir şeyler uydurduklarını itiraf etmeleridir. Örneğin, Anthropic’in Claude’u, araştırma çalışması yapması istendiğinde "yer tutucu" veri eklerken yakalandı.
Time dergisinin operasyon direktörü Mark Howard, CJR’ye yayıncıların içeriklerinin yapay zeka modellerinde nasıl tüketildiği ve görüntülendiği üzerinde kontrol sahibi olma yetenekleri konusundaki endişelerini dile getirdi. Örneğin, kullanıcılar The Guardian’dan aldıklarını iddia ettikleri haberlerin yanlış olduğunu öğrenirlerse, yayıncıların markasına potansiyel olarak zarar verebilir. Bu, son zamanlarda BBC için bir sorun oldu; BBC, Apple’ı, haber uyarılarını yanlış bir şekilde yeniden yazan Apple Intelligence bildirim özetleri nedeniyle eleştirdi.
Ancak Howard, kullanıcılara da suç yükledi. Ars Technica’dan alıntı:
"Beklentiler burada en düşük seviyede tutulmalıdır. İnsanlar tembeldir ve chatbotlar, kullanıcıları rehavete sürükleyebilecek kendinden emin bir şekilde soruları yanıtlar. Sosyal medyadaki duygu, insanların bağlantılara tıklamak istemediğini ve bunun yerine Google’ın AI Overviews gibi araçlardan anında bir cevap almak istediklerini gösteriyor; CJR, her dört Amerikalıdan birinin artık arama için yapay zeka modellerini kullandığını söylüyor. Ve üretken yapay zeka araçlarının piyasaya sürülmesinden önce bile, Google aramalarının yarısından fazlası ‘sıfır tıklama’ idi; yani kullanıcı, bir web sitesine tıklamadan ihtiyaç duyduğu bilgiyi aldı. Wikipedia gibi diğer siteler de yıllar içinde insanların ücretsiz ve kolayca erişilebilir olsa bile daha az yetkili bir şeyi kabul edeceğini kanıtladı."
CJR’nin bu bulgularının hiçbiri sürpriz olmamalı. Dil modelleri, söyledikleri hiçbir şeyi anlama konusunda çözülemeyen bir zorlukla karşı karşıyadır, çünkü bunlar yalnızca doğru görünen bir şey yaratmaya çalışan gelişmiş otomatik tamamlama sistemleridir. Doğaşlama yapıyorlar.
Howard’ın dikkatimi çeken bir diğer alıntısı da, chatbotlarda gelecekte iyileştirme için yer gördüğünü söylediği zamandı. "Bugün ürünün en kötü hali," diyerek alana yapılan tüm yatırımları gerekçe gösterdi. Ancak bu, tarih boyunca herhangi bir teknoloji için söylenebilir. Yine de bu uydurma bilgileri dünyaya salmak sorumsuzluktur.
Bu makale, yapay zeka arama motorlarının mevcut durumuna ve potansiyel tehlikelerine odaklanmaktadır. Yapay zeka modellerinin yanlış bilgi yayma eğilimi, güvenilirlik sorunları ve yayıncılar üzerindeki etkileri vurgulanmaktadır. Makale aynı zamanda kullanıcıların beklentilerini düşük tutmaları ve yapay zeka tarafından sağlanan bilgilere eleştirel bir şekilde yaklaşmaları gerektiğinin altını çizmektedir. Howard’ın yapay zekanın geleceği hakkındaki iyimserliği not edilmekle birlikte, bu teknolojinin sorumsuz kullanımının potansiyel sonuçlarına dikkat çekilmektedir.
