لماذا يختلق الذكاء الاصطناعي الأشياء و4 عادات في الموجه تقلل ذلك

لا يحتوي عقد الإيجار الخاص بك على بند لرسوم التأخير. تسأل روبوت محادثة عن قيمة رسوم التأخير، فيجيبك أحيانًا بنسبة مئوية وتاريخ استحقاق. بثقة، وتحديد، واختلاق.

هذا هو الهلوسة: يكتب النموذج نصًا طليقًا لكنه خاطئ واقعيًا أو لا يتطابق مع السياق الذي قدمته. تقول وثائق Anthropic حول تقليل الهلوسة (تم فحص الصفحة في 27 أكتوبر 2026؛ ولا تحمل تاريخ نشر) إن حتى أكثر النماذج تقدمًا تفعل ذلك أحيانًا، وتسرد العادات التي تساعد. أربع منها تتناسب مع موجه (prompt)، ويمكنك لصقها كما هي أدناه.

لماذا يبدو النموذج واثقًا وهو مخطئ#

لا يبحث نموذج اللغة عن الحقائق. بل يستمر في النص: بناءً على كل ما قيل حتى الآن، يختار الكلمات التي من المرجح أن تأتي تاليًا. فكر في الإكمال التلقائي على هاتفك، لكنه أكثر اطلاعًا بكثير. عندما تكون الإجابة الصحيحة شيئًا تعلمه النموذج، تتطابق الكلمات المحتملة مع الكلمات الصحيحة. وعندما لا تكون كذلك، تظل الكلمات المحتملة طليقة، والطلاقة تبدو كالثقة.

هناك حالتان تفسران الكثير من الإجابات المختلقة التي ستواجهها:

• الحقيقة ليست في النموذج. حدثت بعد انتهاء تدريب النموذج، أو توجد في مستندك الخاص الذي لم يره النموذج قط. اسأل عن أخبار الشهر الماضي وقد تحصل على إجابة واثقة مبنية على أنماط أقدم.
• الحقيقة غائبة عن مستندك، لكن السؤال يفترض وجودها. يملأ النموذج الفجوة. تخيل طالبًا يجب أن يكتب شيئًا لكل سؤال في الامتحان ولا يُسمح له أبدًا بترك سؤال فارغ.

أربع عادات تقلل الإجابات المختلقة#

لنفترض أنك لصقت عقد إيجار وتريد رسوم التأخير. لا يحتوي هذا العقد على بند لرسوم التأخير، وسيكون حالة اختبارنا من الآن فصاعدًا.

1. اسمح بـ "لا أعرف"#

النموذج الذي يعتقد أن كل سؤال يجب الإجابة عليه سيجيب عليه. أخبره أن هذه ليست القاعدة:

If the document doesn't say, answer exactly: "Not stated in the document."
Do not guess.

تسرد Anthropic هذه كأول وأبسط خطوة: امنح النموذج صراحةً الإذن بالاعتراف بأنه لا يعرف.

2. اقتبس أولًا، أجب ثانيًا#

للمستندات الطويلة (تضع إرشادات Anthropic الحد عند حوالي 20,000 رمز، أي نحو 15,000 كلمة)، اطلب اقتباسات حرفية قبل أي تحليل، واجعل الإجابة تستند إليها:

First, copy the sentences relevant to my question, word for word,
under the heading "Quotes". If there are none, write "No relevant quotes."
Then answer using only those quotes.

يجب أن يشير النموذج إلى نص موجود فعليًا قبل أن يستنتج أي شيء. وقراءة الاقتباسات تستغرق منك خمس ثوانٍ أيضًا.

3. اجعله يستشهد، وأسقط ما لا يستطيع دعمه#

اطلب اقتباسًا داعمًا بعد كل ادعاء، ثم اجعل النموذج يتحقق من نفسه:

After each claim, put the supporting quote in brackets.
Then re-read your answer: if a claim has no quote, delete it.

هذه هي خطوة التحقق لدى Anthropic: لا اقتباس، لا ادعاء.

4. قصره على النص الذي قدمته#

Use only the document between the <document> tags.
Do not use outside knowledge.

تسرد Anthropic تقييد المعرفة الخارجية على المستندات المقدمة ضمن تقنياتها المتقدمة. وهي أيضًا العادة التي يجب نسخها إذا كنت تبني روبوتًا على مستنداتك الخاصة: يجيب الروبوت من صفحاتك، لا من الذاكرة.

قبل وبعد على مثال واحد#

نفس العقد، نفس السؤال، موجهان. الأيسر هو كيف يبدأ معظمنا.

Here is my rental agreement:
[agreement text]

What is the late fee?

<document>
[agreement text]
</document>

Question: What is the late fee?

Use only the document above. First copy the relevant
sentences word for word under "Quotes" (or write
"No relevant quotes."). Then answer using only those
quotes, with the quote in brackets after each claim.
If the document doesn't say, answer exactly:
"Not stated in the document."

موجه "بعد" أطول، وهذا لا بأس به: تكتبه مرة واحدة وتعيد استخدامه.

العادات الأربع كلها في طلب API واحد#

إذا استدعيت نموذجًا عبر API، تذهب العادات إلى رسالة النظام (system message) ويذهب مستندك إلى رسالة المستخدم (user message)، ملفوفًا بوسوم. يستخدم هذا الطلب نقطة نهاية CheapTokens المتوافقة مع OpenAI؛ يأتي المفتاح من متغير بيئة، ومعرف النموذج الكامل هو MiniMaxAI/MiniMax-M2.7 (خذ المعرفات من وثائق CheapTokens، لأن الأسماء تختلف بين المزودين).

curl https://api.cheaptokens.dev/v1/chat/completions \
  -H "Authorization: Bearer $CHEAPTOKENS_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MiniMaxAI/MiniMax-M2.7",
    "messages": [
      {"role": "system", "content": "Use only the document in the <document> tags. No outside knowledge. First list word-for-word quotes relevant to the question under “Quotes”, or write “No relevant quotes.” Then answer using only those quotes, with the quote in brackets after each claim. If the document does not say, answer: “Not stated in the document.”"},
      {"role": "user", "content": "<document>[paste the agreement here]</document> What is the late fee?"}
    ]
  }'

الرد في choices[0].message.content. إذا كان هذا أول استدعاء لك، فإن أول طلب API لك مع CheapTokens يشرح المفتاح وخطوة الرصيد خطوة بخطوة.

ماذا يكلف الاقتباس#

الاقتباس يجعل الإجابة أطول، وفي معظم النماذج تكون الإجابة هي الجانب الأغلى في الطلب (انظر رموز الإدخال مقابل الإخراج). لذا فإن عادة الاقتباس أولًا رخيصة التكلفة لكنها ليست مجانية.

لنفترض أن تقريرًا من 40 صفحة يبلغ حوالي 25,000 رمز والاقتباسات مع الإجابة تصل إلى حوالي 1,500. طلب واحد كهذا على MiniMax-M2.7 يكلف $0.0015. يوضح الجدول نفس الطلب على كل نموذج، مع عمود OpenRouter، حتى تتمكن من المقارنة بالإجمالي، مع احتساب الإدخال والإخراج معًا:

يأخذ MiniMax-M2.7 سياقًا بحجم 180K وما يصل إلى 8,192 رمزًا في الإجابة بسعر ثابت واحد في أي ساعة، لذا فإن تقريرًا من 25,000 رمز وإجابة مقتبسة طويلة كلاهما يتناسب. الأسعار الحالية على صفحة الأسعار، والنماذج موصوفة في الوثائق.

ما لا تصلحه هذه العادات#

إنها تقلل الإجابات المختلقة كثيرًا، لكنها لا تزيلها. تقول Anthropic ذلك مباشرة: تحقق من أي شيء مهم. في العقد يعني ذلك الأرقام والتواريخ والأسماء، مقابل الصفحة الأصلية.

هناك حيلتان أخريان من نفس الصفحة تستحقان المعرفة. Best-of-N: اطرح نفس السؤال عدة مرات وقارن، لأن تفصيلًا يتغير من تشغيل لآخر هو علامة على أن النموذج يخمن. قد يعود طلب مطابق برد مطابق، لذا غيّر الصياغة قليلًا أو درجة الحرارة (temperature) (انظر موجه النظام ودرجة الحرارة). ووضع التفكير (thinking mode) يتيح للنموذج التحقق من استدلاله قبل أن يجيب، مما يكلف رموزًا إضافية (لماذا يكلف التفكير أكثر).