AI चीज़ें क्यों गढ़ता है और 4 प्रॉम्प्ट आदतें जो इसे कम करती हैं

आपके रेंटल एग्रीमेंट में लेट-फीस का कोई क्लॉज़ नहीं है। आप एक चैटबॉट से पूछते हैं कि लेट फीस क्या है, और कभी-कभी वह प्रतिशत और देय तिथि के साथ जवाब देता है। आत्मविश्वासी, विशिष्ट, और मनगढ़ंत।

यह एक हैलुसिनेशन है: मॉडल धाराप्रवाह टेक्स्ट लिखता है जो तथ्यात्मक रूप से गलत है या आपके दिए गए संदर्भ से मेल नहीं खाता। हैलुसिनेशन कम करने पर Anthropic का दस्तावेज़ (पेज 27 अक्टूबर 2026 को जाँचा गया; इसमें कोई प्रकाशन तिथि नहीं है) कहता है कि सबसे उन्नत मॉडल भी कभी-कभी ऐसा करते हैं, और यह उन आदतों को सूचीबद्ध करता है जो मदद करती हैं। उनमें से चार एक प्रॉम्प्ट में फिट होती हैं, और आप उन्हें नीचे जैसा है वैसा ही पेस्ट कर सकते हैं।

मॉडल गलत होने पर भी पक्का क्यों लगता है#

एक भाषा मॉडल तथ्यों को खोजता नहीं है। यह टेक्स्ट को जारी रखता है: अब तक की सब कुछ देखते हुए, यह उन शब्दों को चुनता है जो सबसे संभावित रूप से आगे आने वाले हैं। अपने फ़ोन के ऑटोकम्प्लीट के बारे में सोचें, बस बहुत बेहतर पढ़ा हुआ। जब सच्चा उत्तर कुछ ऐसा होता है जो मॉडल ने सीखा है, तो संभावित शब्द और सच्चे शब्द मेल खाते हैं। जब नहीं होता, तो संभावित शब्द अभी भी धाराप्रवाह होते हैं, और धाराप्रवाह पक्का जैसा लगता है।

दो स्थितियाँ आपके सामने आने वाले बहुत से मनगढ़ंत उत्तरों की व्याख्या करती हैं:

• तथ्य मॉडल में नहीं है। यह मॉडल के प्रशिक्षण समाप्त होने के बाद हुआ, या यह आपके निजी दस्तावेज़ में है जिसे मॉडल ने कभी नहीं देखा। पिछले महीने की खबरों के बारे में पूछें और आपको पुराने पैटर्न से बना एक आत्मविश्वासी उत्तर मिल सकता है।
• तथ्य आपके दस्तावेज़ में गायब है, लेकिन प्रश्न मानता है कि यह मौजूद है। मॉडल अंतराल भर देता है। एक छात्र की कल्पना करें जिसे हर परीक्षा प्रश्न के लिए कुछ लिखना होता है और कभी भी कोई खाली नहीं छोड़ने दिया जाता।

मनगढ़ंत उत्तरों को कम करने वाली चार आदतें#

मान लें कि आपने एक रेंटल एग्रीमेंट पेस्ट किया है और लेट फीस चाहते हैं। इस एग्रीमेंट में लेट-फीस का कोई क्लॉज़ नहीं है, और यह यहाँ से हमारा परीक्षण मामला होगा।

1. "मुझे नहीं पता" की अनुमति दें#

एक मॉडल जो मानता है कि हर प्रश्न का उत्तर दिया जाना चाहिए, वह उत्तर देगा। इसे बताएं कि यह नियम नहीं है:

If the document doesn't say, answer exactly: "Not stated in the document."
Do not guess.

Anthropic इसे पहला, सबसे सरल कदम बताता है: स्पष्ट रूप से मॉडल को यह स्वीकार करने की अनुमति दें कि वह नहीं जानता।

2. पहले उद्धृत करें, फिर उत्तर दें#

लंबे दस्तावेज़ों के लिए (Anthropic का मार्गदर्शन लगभग 20,000 टोकन, मोटे तौर पर 15,000 शब्दों पर रेखा खींचता है), किसी भी विश्लेषण से पहले शब्द-दर-शब्द उद्धरण मांगें, और उत्तर को उन पर आधारित करें:

First, copy the sentences relevant to my question, word for word,
under the heading "Quotes". If there are none, write "No relevant quotes."
Then answer using only those quotes.

मॉडल को किसी भी निष्कर्ष पर पहुँचने से पहले वास्तव में मौजूद टेक्स्ट की ओर इशारा करना होता है। उद्धरण पढ़ने में आपको पाँच सेकंड भी लगते हैं।

3. इसे उद्धृत करने दें, और जो साबित न हो उसे हटा दें#

प्रत्येक दावे के बाद एक समर्थन उद्धरण मांगें, फिर मॉडल से स्वयं जाँच करवाएँ:

After each claim, put the supporting quote in brackets.
Then re-read your answer: if a claim has no quote, delete it.

यह Anthropic का सत्यापन चरण है: कोई उद्धरण नहीं, कोई दावा नहीं।

4. इसे आपके दिए गए टेक्स्ट तक सीमित रखें#

Use only the document between the <document> tags.
Do not use outside knowledge.

Anthropic बाहरी ज्ञान को प्रदान किए गए दस्तावेज़ों तक सीमित करने को अपनी उन्नत तकनीकों में सूचीबद्ध करता है। यह वह आदत भी है जिसे आपको कॉपी करना चाहिए यदि आप अपने स्वयं के दस्तावेज़ों पर एक बॉट बना रहे हैं: बॉट आपके पेजों से उत्तर देता है, स्मृति से नहीं।

एक उदाहरण पर पहले और बाद#

वही एग्रीमेंट, वही प्रश्न, दो प्रॉम्प्ट। बाईं ओर वाला वह है जैसे हममें से अधिकांश शुरू करते हैं।

Here is my rental agreement:
[agreement text]

What is the late fee?

<document>
[agreement text]
</document>

Question: What is the late fee?

Use only the document above. First copy the relevant
sentences word for word under "Quotes" (or write
"No relevant quotes."). Then answer using only those
quotes, with the quote in brackets after each claim.
If the document doesn't say, answer exactly:
"Not stated in the document."

"बाद में" वाला प्रॉम्प्ट लंबा है, और यह ठीक है: आप इसे एक बार लिखते हैं और दोबारा उपयोग करते हैं।

एक API अनुरोध में सभी चार आदतें#

यदि आप API के माध्यम से एक मॉडल को कॉल करते हैं, तो आदतें सिस्टम संदेश में जाती हैं और आपका दस्तावेज़ उपयोगकर्ता संदेश में, टैग में लिपटा हुआ। यह अनुरोध CheapTokens OpenAI-संगत एंडपॉइंट का उपयोग करता है; कुंजी एक पर्यावरण चर से आती है, और पूर्ण मॉडल आईडी MiniMaxAI/MiniMax-M2.7 है (आईडी CheapTokens दस्तावेज़ से लें, क्योंकि प्रदाताओं के बीच नाम भिन्न होते हैं)।

curl https://api.cheaptokens.dev/v1/chat/completions \
  -H "Authorization: Bearer $CHEAPTOKENS_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MiniMaxAI/MiniMax-M2.7",
    "messages": [
      {"role": "system", "content": "Use only the document in the <document> tags. No outside knowledge. First list word-for-word quotes relevant to the question under “Quotes”, or write “No relevant quotes.” Then answer using only those quotes, with the quote in brackets after each claim. If the document does not say, answer: “Not stated in the document.”"},
      {"role": "user", "content": "<document>[paste the agreement here]</document> What is the late fee?"}
    ]
  }'

उत्तर choices[0].message.content में है। यदि यह आपका पहला कॉल है, तो CheapTokens के साथ आपका पहला API अनुरोध कुंजी और शेष राशि के चरण को चरण-दर-चरण समझाता है।

उद्धरण की लागत#

उद्धरण उत्तर को लंबा बनाते हैं, और अधिकांश मॉडलों पर उत्तर अनुरोध का अधिक महंगा पक्ष होता है (इनपुट बनाम आउटपुट टोकन देखें)। इसलिए पहले-उद्धरण की आदत वहन करने में सस्ती है लेकिन मुफ़्त नहीं।

मान लें कि 40-पेज की रिपोर्ट लगभग 25,000 टोकन है और उद्धरण और उत्तर मिलकर लगभग 1,500 होते हैं। MiniMax-M2.7 पर ऐसा एक अनुरोध $0.0015 का होता है। तालिका हर मॉडल पर वही अनुरोध दिखाती है, एक OpenRouter कॉलम के साथ, ताकि आप कुल मिलाकर तुलना कर सकें, इनपुट और आउटपुट को एक साथ गिनते हुए:

MiniMax-M2.7 किसी भी घंटे एक निश्चित मूल्य पर 180K संदर्भ और उत्तर में 8,192 टोकन तक लेता है, इसलिए 25,000-टोकन की रिपोर्ट और एक लंबा उद्धृत उत्तर दोनों फिट होते हैं। वर्तमान कीमतें मूल्य निर्धारण पृष्ठ पर हैं, और मॉडलों का वर्णन दस्तावेज़ में है।

ये आदतें क्या ठीक नहीं करतीं#

वे मनगढ़ंत उत्तरों को बहुत कम करती हैं, लेकिन उन्हें हटाती नहीं हैं। Anthropic सीधे ऐसा कहता है: किसी भी महत्वपूर्ण चीज़ की जाँच करें। एक अनुबंध में इसका मतलब है संख्याएँ, तिथियाँ और नाम, मूल पृष्ठ के विरुद्ध।

उसी पृष्ठ से दो और तरकीबें जानने योग्य हैं। Best-of-N: एक ही प्रश्न कुछ बार पूछें और तुलना करें, क्योंकि एक विवरण जो हर बार बदलता है, इस बात का संकेत है कि मॉडल अनुमान लगा रहा है। एक समान अनुरोध समान उत्तर के रूप में वापस आ सकता है, इसलिए शब्दों को थोड़ा या तापमान बदलें (सिस्टम प्रॉम्प्ट और तापमान देखें)। और एक सोच मोड मॉडल को उत्तर देने से पहले अपने स्वयं के तर्क की जाँच करने देता है, जिसमें अतिरिक्त टोकन लगते हैं (सोच अधिक क्यों खर्च करती है)।