Yapay zeka neden uydurur ve bunu azaltan 4 istem alışkanlığı

Kira sözleşmenizde gecikme ücreti maddesi yok. Bir sohbet botuna gecikme ücretinin ne olduğunu soruyorsunuz ve bazen size bir yüzde ve son ödeme tarihiyle yanıt veriyor. Kendinden emin, spesifik ve uydurma.

Bu bir halüsinasyondur: model, olgusal olarak yanlış olan veya verdiğiniz bağlama uymayan akıcı metin yazar. Anthropic'in halüsinasyonları azaltma konusundaki belgeleri (sayfa 27 Ekim 2026'da kontrol edildi; yayın tarihi belirtilmemiş) en gelişmiş modellerin bile bunu bazen yaptığını söylüyor ve yardımcı olan alışkanlıkları listeliyor. Bunlardan dördü bir isteme sığar ve aşağıdaki gibi olduğu gibi yapıştırabilirsiniz.

Bir model yanlışken neden emin görünür#

Bir dil modeli olguları araştırmaz. Metni sürdürür: şimdiye kadar verilen her şey göz önüne alındığında, büyük olasılıkla sırada gelen kelimeleri seçer. Telefonunuzdaki otomatik tamamlamayı düşünün, sadece çok daha fazla okumuş hali. Gerçek yanıt modelin öğrendiği bir şey olduğunda, olası kelimeler ve gerçek kelimeler örtüşür. Olmadığında, olası kelimeler hâlâ akıcıdır ve akıcı olmak emin görünür.

Karşılaşacağınız uydurma yanıtların çoğunu iki durum açıklar:

• Olgu modelde yoktur. Modelin eğitimi bittikten sonra gerçekleşmiştir veya modelin hiç görmediği özel belgenizde yer alır. Geçen ayın haberlerini sorarsanız, eski kalıplardan oluşturulmuş kendinden emin bir yanıt alabilirsiniz.
• Olgu belgenizde eksiktir, ancak soru var olduğunu varsayar. Model boşluğu doldurur. Her sınav sorusu için bir şeyler yazmak zorunda olan ve hiçbirini boş bırakmasına izin verilmeyen bir öğrenci düşünün.

Uydurma yanıtları azaltan dört alışkanlık#

Bir kira sözleşmesi yapıştırdığınızı ve gecikme ücretini öğrenmek istediğinizi varsayalım. Bu sözleşmede gecikme ücreti maddesi yok ve buradan itibaren test durumumuz bu olacak.

1. "Bilmiyorum" demeye izin verin#

Her sorunun yanıtlanması gerektiğine inanan bir model onu yanıtlar. Ona bunun kural olmadığını söyleyin:

If the document doesn't say, answer exactly: "Not stated in the document."
Do not guess.

Anthropic bunu ilk ve en basit adım olarak listeliyor: modele bilmediğini kabul etmesi için açıkça izin verin.

2. Önce alıntı, sonra yanıt#

Uzun belgeler için (Anthropic'in kılavuzu yaklaşık 20.000 token, kabaca 15.000 kelime sınırını çizer), herhangi bir analizden önce kelimesi kelimesine alıntı isteyin ve yanıtı bunlara dayandırın:

First, copy the sentences relevant to my question, word for word,
under the heading "Quotes". If there are none, write "No relevant quotes."
Then answer using only those quotes.

Model, herhangi bir sonuca varmadan önce gerçekten orada olan metni işaret etmek zorundadır. Alıntıları okumak da sizin beş saniyenizi alır.

3. Atıf yaptırın ve destekleyemediğini çıkarın#

Her iddiadan sonra destekleyici bir alıntı isteyin, ardından modelin kendini kontrol etmesini sağlayın:

After each claim, put the supporting quote in brackets.
Then re-read your answer: if a claim has no quote, delete it.

Bu, Anthropic'in doğrulama adımıdır: alıntı yoksa iddia da yok.

4. Modeli verdiğiniz metinle sınırlayın#

Use only the document between the <document> tags.
Do not use outside knowledge.

Anthropic, dış bilgiyi sağlanan belgelerle sınırlamayı gelişmiş teknikleri arasında listeliyor. Kendi belgeleriniz üzerine bir bot kuruyorsanız kopyalamanız gereken alışkanlık da budur: bot, hafızasından değil, sayfalarınızdan yanıt verir.

Tek bir örnekte öncesi ve sonrası#

Aynı sözleşme, aynı soru, iki istem. Soldaki, çoğumuzun başladığı şekildir.

Here is my rental agreement:
[agreement text]

What is the late fee?

<document>
[agreement text]
</document>

Question: What is the late fee?

Use only the document above. First copy the relevant
sentences word for word under "Quotes" (or write
"No relevant quotes."). Then answer using only those
quotes, with the quote in brackets after each claim.
If the document doesn't say, answer exactly:
"Not stated in the document."

"Sonrası" istemi daha uzundur ve bu sorun değil: bir kez yazarsınız ve yeniden kullanırsınız.

Dört alışkanlığın tamamı tek bir API isteğinde#

Bir modeli API üzerinden çağırıyorsanız, alışkanlıklar sistem mesajına ve belgeniz etiketlerle sarılmış olarak kullanıcı mesajına girer. Bu istek CheapTokens'in OpenAI uyumlu uç noktasını kullanır; anahtar bir ortam değişkeninden gelir ve tam model kimliği MiniMaxAI/MiniMax-M2.7'dir (kimlikleri CheapTokens belgelerinden alın, çünkü adlar sağlayıcılar arasında farklılık gösterir).

curl https://api.cheaptokens.dev/v1/chat/completions \
  -H "Authorization: Bearer $CHEAPTOKENS_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MiniMaxAI/MiniMax-M2.7",
    "messages": [
      {"role": "system", "content": "Use only the document in the <document> tags. No outside knowledge. First list word-for-word quotes relevant to the question under “Quotes”, or write “No relevant quotes.” Then answer using only those quotes, with the quote in brackets after each claim. If the document does not say, answer: “Not stated in the document.”"},
      {"role": "user", "content": "<document>[paste the agreement here]</document> What is the late fee?"}
    ]
  }'

Yanıt choices[0].message.content içindedir. Bu ilk çağrınızsa, CheapTokens ile ilk API isteğiniz anahtarı ve bakiyeyi adım adım anlatır.

Alıntı yapmanın maliyeti#

Alıntı yapmak yanıtı uzatır ve çoğu modelde yanıt, bir isteğin daha pahalı tarafıdır (bkz. girdi ve çıktı tokenları). Bu nedenle önce alıntı alışkanlığını karşılamak ucuzdur ama bedava değildir.

40 sayfalık bir raporun yaklaşık 25.000 token olduğunu ve alıntılar ile yanıtın toplamda yaklaşık 1.500 tuttuğunu varsayalım. MiniMax-M2.7 üzerinde böyle bir istek $0.0015 tutar. Tablo, aynı isteği her modelde, bir OpenRouter sütunuyla birlikte gösterir, böylece girdi ve çıktıyı birlikte sayarak toplamda karşılaştırabilirsiniz:

MiniMax-M2.7, her saat sabit bir fiyatla 180K bağlam ve yanıtta 8.192 tokena kadar destekler, böylece 25.000 tokenlık bir rapor ve uzun bir alıntılı yanıt ikisi de sığar. Güncel fiyatlar fiyatlandırma sayfasında ve modeller belgelerde açıklanmıştır.

Bu alışkanlıkların çözmediği şeyler#

Uydurma yanıtları büyük ölçüde azaltırlar, ancak ortadan kaldırmazlar. Anthropic bunu doğrudan söylüyor: önemli olan her şeyi kontrol edin. Bir sözleşmede bu, sayılar, tarihler ve adların orijinal sayfayla karşılaştırılması anlamına gelir.

Aynı sayfadan iki numara daha bilmeye değer. Best-of-N: aynı soruyu birkaç kez sorun ve karşılaştırın, çünkü her çalıştırmada değişen bir ayrıntı modelin tahmin ettiğinin işaretidir. Aynı istek aynı yanıt olarak dönebilir, bu yüzden ifadeyi biraz veya sıcaklığı değiştirin (bkz. sistem istemi ve sıcaklık). Ve bir düşünme modu, modelin yanıtlamadan önce kendi akıl yürütmesini kontrol etmesini sağlar, bu da ekstra token maliyeti getirir (düşünmenin neden daha pahalı olduğu).