Чому AI вигадує і 4 звички в промптах, що це зменшують

У вашій орендній угоді немає пункту про пеню за прострочення. Ви запитуєте в чат-бота, яка пеня, і іноді він відповідає відсотком і датою. Впевнено, конкретно й вигадано.

Це галюцинація: модель пише плавний текст, який фактично хибний або не відповідає наданому вами контексту. У документації Anthropic про зменшення галюцинацій (сторінку перевірено 27 жовтня 2026 року; дати публікації на ній немає) сказано, що навіть найдосконаліші моделі іноді так роблять, і там перелічено звички, які допомагають. Чотири з них уміщуються в промпт, і ви можете вставити їх як є нижче.

Чому модель звучить упевнено, коли помиляється#

Мовна модель не шукає факти. Вона продовжує текст: з огляду на все сказане досі вона обирає слова, які найімовірніше йдуть далі. Згадайте автодоповнення на телефоні, тільки значно начитаніше. Коли справжня відповідь — це те, що модель вивчила, ймовірні слова збігаються зі справжніми. Коли ні, ймовірні слова все одно плавні, а плавне звучить як упевнене.

Дві ситуації пояснюють багато вигаданих відповідей, які ви зустрінете:

• Факту немає в моделі. Він стався після завершення навчання моделі або міститься у вашому приватному документі, якого модель ніколи не бачила. Запитайте про новини минулого місяця — і можете отримати впевнену відповідь, побудовану на старіших шаблонах.
• Факту немає у вашому документі, але питання припускає, що він є. Модель заповнює прогалину. Уявіть студента, який мусить щось написати на кожне екзаменаційне питання і якому ніколи не дозволено залишити його порожнім.

Чотири звички, що зменшують вигадані відповіді#

Припустімо, ви вставили орендну угоду й хочете дізнатися про пеню. У цій угоді немає пункту про пеню, і це буде наш тестовий випадок надалі.

1. Дозвольте «я не знаю»#

Модель, яка вважає, що на кожне питання треба відповісти, відповість. Скажіть їй, що це не правило:

If the document doesn't say, answer exactly: "Not stated in the document."
Do not guess.

Anthropic наводить це як перший, найпростіший крок: явно дати моделі дозвіл визнати, що вона не знає.

2. Спершу цитата, потім відповідь#

Для довгих документів (у настановах Anthropic межа — близько 20 000 токенів, приблизно 15 000 слів) просіть дослівні цитати перед будь-яким аналізом і зробіть так, щоб відповідь на них спиралася:

First, copy the sentences relevant to my question, word for word,
under the heading "Quotes". If there are none, write "No relevant quotes."
Then answer using only those quotes.

Модель має вказати на текст, який справді є, перш ніж щось висновувати. Читання цитат також забирає у вас п'ять секунд.

3. Змусьте цитувати й відкидайте те, що вона не може підтвердити#

Просіть цитату-підтвердження після кожного твердження, а потім хай модель перевірить себе:

After each claim, put the supporting quote in brackets.
Then re-read your answer: if a claim has no quote, delete it.

Це крок перевірки від Anthropic: немає цитати — немає твердження.

4. Обмежте її текстом, який ви дали#

Use only the document between the <document> tags.
Do not use outside knowledge.

Anthropic серед своїх просунутих технік наводить обмеження зовнішніх знань наданими документами. Це також та звичка, яку варто скопіювати, якщо ви будуєте бота на власних документах: бот відповідає з ваших сторінок, а не з пам'яті.

До і після на одному прикладі#

Та сама угода, те саме питання, два промпти. Лівий — це те, як більшість із нас починає.

Here is my rental agreement:
[agreement text]

What is the late fee?

<document>
[agreement text]
</document>

Question: What is the late fee?

Use only the document above. First copy the relevant
sentences word for word under "Quotes" (or write
"No relevant quotes."). Then answer using only those
quotes, with the quote in brackets after each claim.
If the document doesn't say, answer exactly:
"Not stated in the document."

Промпт «після» довший, і це нормально: ви пишете його один раз і використовуєте повторно.

Усі чотири звички в одному API-запиті#

Якщо ви викликаєте модель через API, звички йдуть у системне повідомлення, а ваш документ — у повідомлення користувача, обгорнутий тегами. Цей запит використовує OpenAI-сумісну кінцеву точку CheapTokens; ключ береться зі змінної середовища, а повний ідентифікатор моделі — MiniMaxAI/MiniMax-M2.7 (беріть ідентифікатори з документації CheapTokens, бо назви різняться між провайдерами).

curl https://api.cheaptokens.dev/v1/chat/completions \
  -H "Authorization: Bearer $CHEAPTOKENS_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MiniMaxAI/MiniMax-M2.7",
    "messages": [
      {"role": "system", "content": "Use only the document in the <document> tags. No outside knowledge. First list word-for-word quotes relevant to the question under “Quotes”, or write “No relevant quotes.” Then answer using only those quotes, with the quote in brackets after each claim. If the document does not say, answer: “Not stated in the document.”"},
      {"role": "user", "content": "<document>[paste the agreement here]</document> What is the late fee?"}
    ]
  }'

Відповідь у choices[0].message.content. Якщо це ваш перший виклик, Ваш перший API-запит із CheapTokens покроково проведе вас через ключ і крок із балансом.

Скільки коштує цитування#

Цитування робить відповідь довшою, а на більшості моделей відповідь — це дорожчий бік запиту (див. вхідні та вихідні токени). Тож звичка «спершу цитата» дешева, але не безкоштовна.

Припустімо, звіт на 40 сторінок — це близько 25 000 токенів, а цитати плюс відповідь становлять близько 1 500. Один такий запит на MiniMax-M2.7 коштує $0.0015. У таблиці показано той самий запит на кожній моделі, з колонкою OpenRouter, щоб ви могли порівняти загалом, рахуючи вхідні та вихідні разом:

MiniMax-M2.7 бере контекст 180K і до 8 192 токенів у відповіді за однією фіксованою ціною в будь-яку годину, тож і звіт на 25 000 токенів, і довга відповідь із цитатами вміщуються. Актуальні ціни — на сторінці цін, а моделі описано в документації.

Чого ці звички не виправляють#

Вони значно зменшують вигадані відповіді, але не усувають їх. Anthropic каже це прямо: перевіряйте все важливе. У договорі це означає числа, дати й назви — за оригінальною сторінкою.

Ще два прийоми з тієї самої сторінки варто знати. Best-of-N: запитайте те саме кілька разів і порівняйте, бо деталь, яка змінюється від запуску до запуску, — ознака того, що модель вгадує. Ідентичний запит може повернутися як ідентична відповідь, тож трохи змініть формулювання або температуру (див. системний промпт і температура). А режим міркування дає моделі змогу перевірити власні міркування перед відповіддю, що коштує додаткових токенів (чому міркування коштує дорожче).