Bir yapay zekâ cevabında halüsinasyon nasıl kontrol edilir?
- ChatGPT, Gemini, Claude, Copilot veya başka bir asistanın cevabını, bağlantıları ve kaynakça listesiyle birlikte yapıştırın. Ayrıca Dosya yükle düğmesine tıklayarak bir .txt, .pdf veya .docx belgesi de yükleyebilirsiniz.
- Halüsinasyonları kontrol et düğmesine tıklayın. Araç metindeki her kaynağı bulur ve üçer üçer kontrol eder; her biri sonucu geldikçe yeşile, kırmızıya veya turuncuya döner.
- En üstteki özeti okuyun: kaç kaynağın doğrulandığı, kaçının bulunamadığı ve kaçının kontrol edilemediği.
- Uydurma bilgi içermesi en olası cümlelerin listesi olan Doğrulanması gereken iddialar bölümünü gözden geçirin.
Neler nereye gönderilir?
Metniniz tarayıcınızda kalır. Yalnızca aracın bulduğu öğeler sorgulanır: bağlantılar ve arXiv kimlikleri bağlantı denetleyicimiz üzerinden, DOI'ler ve kaynakça satırları Crossref'te (bilimsel yayınların herkese açık veri tabanı), ISBN'ler ise Open Library'de aranır. Bunların çevresindeki cümleler ve metnin geri kalanı hiçbir yere gönderilmez.
Neler kontrol edilir?
| Metinde bulunan | Nasıl kontrol edilir? |
|---|---|
DOI'ler, örneğin 10.1038/nature14539 | Gerçek başlığı, dergiyi ve yılı döndüren Crossref'te aranır. Crossref'te yoksa araç doi.org'un çözümleyip çözümleyemediğine bakar; hiçbir yerde kayıtlı olmayan bir DOI "bulunamadı" olarak işaretlenir. |
| Bağlantılar (URL'ler) | Sunucumuz sayfayı ister. HTTP 404 veya 410, sayfanın var olmadığı anlamına gelir. HTTP 401, 403, 429 ya da bir 5xx hatası, sitenin isteği reddettiği veya yanıt veremediği anlamına gelir; bu yüzden bağlantı "kontrol edilemedi" olarak işaretlenir. |
arXiv kimlikleri, örneğin arXiv:1706.03762 | Makalenin var olup olmadığını görmek için ilgili arXiv sayfası istenir. |
| ISBN'ler | Önce kontrol basamağı doğrulanır: kontrol basamağı yanlış olan bir ISBN hiçbir kitaba ait olamaz. Geçerli numaralar daha sonra Open Library'de aranır. |
Kaynakça listesi satırları, örneğin Author, A. (2019). Title. Journal | Crossref'te aranır. Bulunan başlıktaki sözcüklerin yaklaşık %70'i kaynakça satırınızda geçiyorsa eşleşme sayılır. |
Sonuçları okuma
Her kaynak üç sonuçtan birini alır:
- Doğrulandı: kaynak var. DOI'ler ve kaynaklar için gerçek başlık gösterilir; böylece atıfla karşılaştırabilirsiniz.
- Bulunamadı: sayfa 404 veya 410 döndürdü, DOI kayıtlı değil, arXiv kimliği yok ya da ISBN geçersiz. Uydurma DOI'ler ve hiç var olmamış sayfalara verilen bağlantılar klasik halüsinasyonlardır; kırmızı her öğe şüpheyle karşılanmalıdır.
- Kontrol edilemedi: site isteğimizi engelledi, kaynak Crossref'te bulunamadı ya da geçerli bir ISBN Open Library'de yok. Bu, halüsinasyon olduğunun kanıtı değildir. Kaynağı kendiniz arayın.
Doğrulanması gereken iddialar
Dil modelleri en sık belirli ayrıntılarda halüsinasyon görür; bu yüzden araç bunları içeren cümleleri listeler: istatistikler ve yüzdeler, para tutarları, tarihler, "göre" gibi atıf kalıpları, "ilk", "en büyük", "her zaman" ve "asla" gibi üstünlük ve mutlaklık ifadeleri ve bir kişiye atfedilen alıntılar. Bunların doğru olup olmadığını söyleyemez; nereye bakmanız gerektiğini gösterir. Araç ayrıca "son eğitim güncellememe göre" gibi bilgi sınırı uyarılarını da işaretler; bu, cevabın güncel olmayabileceğini hatırlatır.
En önemli sınırlama
Bu araç bir kaynağın var olduğunu doğrular, iddiayı desteklediğini değil. Yaygın bir halüsinasyon, gerçek bir makaleyi içinde hiçbir yerde geçmeyen bir sayı için kaynak göstermektir. Yeşil bir onay işareti yalnızca "bu makale gerçek" demektir, daha fazlası değil. Bir iddiaya güvenmeden önce kaynağı açın ve onu destekleyen pasajı bulun.
Crossref çoğu dergi makalesini kapsar ama birçok kitabı, raporu, tezi ve konferans bildirisini kapsamaz. "Kontrol edilemedi" olarak işaretlenen bir kaynak tamamen gerçek olabilir. Bir kütüphane kataloğunda, Google Scholar'da veya yayıncının web sitesinde de bulamıyorsanız uydurma sayın.
İpuçları
- Sohbet botundan her iddia için bir DOI veya bağlantı vermesini isteyin. Belirli tanımlayıcılar kontrol edilebilir; "2023'te yapılan bir çalışma" gibi belirsiz anmalar edilemez.
- "Kontrol edilemedi" olarak işaretlenen bir bağlantıyı tarayıcınızda açın. Yönlendirme Kontrolü, bir bağlantının gerçekte nereye çıktığını gösterir.
- Bir PDF makalenin veya raporun kaynakçasını kontrol etmek için onu PDF'den Metne ile dönüştürün ve kaynakça listesini yapıştırın.
Sıkça sorulan sorular
Yapay zekâ halüsinasyonu nedir?
Halüsinasyon, bir dil modelinin olgu olarak sunduğu ama yanlış veya dayanaksız olan ifadedir: uydurma bir çalışma, sahte bir alıntı, yanlış bir tarih ya da hiç var olmamış bir sayfaya bağlantı.
Bilgilerin doğru olup olmadığını kontrol ediyor mu?
Hayır. Atıf yapılan kaynakların var olup olmadığını kontrol eder ve doğrulamanız gereken cümleleri listeler. Bir iddianın doğru olup olmadığına karar vermek için yine kaynağı okuyan bir insan gerekir.
Metnim bir sunucuya gönderiliyor mu?
Yalnızca bulduğu bağlantılar, DOI'ler, arXiv kimlikleri, ISBN'ler ve kaynakça satırları bağlantı denetleyicimiz, Crossref ve Open Library üzerinden sorgulanır. Metnin geri kalanı tarayıcınızda kalır.
Gerçek bir web sitesi neden "kontrol edilemedi" gösteriyor?
Birçok site otomatik istekleri engeller veya ne sıklıkta yanıt vereceğini sınırlar; bu da 403 veya 429 gibi kodlar döndürür. Bu, sayfanın var olup olmadığı hakkında hiçbir şey söylemez; sayfayı kendiniz açın.
Güncellendi