Tại sao AI bịa đặt và 4 thói quen prompt giúp giảm thiểu

Hợp đồng thuê nhà của bạn không có điều khoản phí trễ hạn. Bạn hỏi chatbot phí trễ hạn là bao nhiêu, và đôi khi nó trả lời bằng một tỷ lệ phần trăm và một ngày đến hạn. Tự tin, cụ thể và bịa đặt.

Đó là một ảo giác: mô hình viết văn bản trôi chảy nhưng sai sự thật hoặc không khớp với ngữ cảnh bạn đưa ra. Tài liệu của Anthropic về giảm ảo giác (trang được kiểm tra ngày 27 tháng 10 năm 2026; không có ngày xuất bản) nói rằng ngay cả những mô hình tiên tiến nhất đôi khi cũng làm vậy, và liệt kê những thói quen hữu ích. Bốn trong số đó nằm gọn trong một prompt, và bạn có thể dán nguyên văn bên dưới.

Tại sao mô hình nghe chắc chắn khi sai#

Một mô hình ngôn ngữ không tra cứu sự thật. Nó tiếp tục văn bản: dựa trên mọi thứ từ trước đến giờ, nó chọn những từ có khả năng xuất hiện tiếp theo cao nhất. Hãy nghĩ đến tính năng tự động hoàn thành trên điện thoại, chỉ là đọc nhiều hơn hẳn. Khi câu trả lời đúng là điều mô hình đã học, những từ có khả năng và những từ đúng khớp nhau. Khi không, những từ có khả năng vẫn trôi chảy, và trôi chảy nghe như chắc chắn.

Hai tình huống giải thích nhiều câu trả lời bịa đặt bạn sẽ gặp:

• Sự thật không có trong mô hình. Nó xảy ra sau khi quá trình huấn luyện mô hình kết thúc, hoặc nằm trong tài liệu riêng của bạn mà mô hình chưa từng thấy. Hỏi về tin tức tháng trước và bạn có thể nhận được câu trả lời tự tin được xây dựng từ các mẫu cũ.
• Sự thật thiếu trong tài liệu của bạn, nhưng câu hỏi giả định nó tồn tại. Mô hình lấp đầy khoảng trống. Hãy hình dung một học sinh phải viết gì đó cho mọi câu hỏi thi và không bao giờ được để trống.

Bốn thói quen giảm câu trả lời bịa đặt#

Giả sử bạn đã dán một hợp đồng thuê nhà và muốn biết phí trễ hạn. Hợp đồng này không có điều khoản phí trễ hạn, và nó sẽ là trường hợp thử nghiệm của chúng ta từ đây.

1. Cho phép "Tôi không biết"#

Một mô hình tin rằng mọi câu hỏi đều phải được trả lời sẽ trả lời nó. Hãy nói với nó rằng đó không phải là quy tắc:

If the document doesn't say, answer exactly: "Not stated in the document."
Do not guess.

Anthropic liệt kê đây là bước đầu tiên, đơn giản nhất: trao cho mô hình quyền rõ ràng để thừa nhận nó không biết.

2. Trích dẫn trước, trả lời sau#

Với tài liệu dài (hướng dẫn của Anthropic vạch ranh giới khoảng 20.000 token, tức khoảng 15.000 từ), hãy yêu cầu trích dẫn nguyên văn trước khi phân tích, và làm cho câu trả lời dựa trên chúng:

First, copy the sentences relevant to my question, word for word,
under the heading "Quotes". If there are none, write "No relevant quotes."
Then answer using only those quotes.

Mô hình phải chỉ ra văn bản thực sự có trước khi kết luận bất cứ điều gì. Đọc các trích dẫn cũng mất của bạn năm giây.

3. Bắt nó trích dẫn, và bỏ những gì nó không chứng minh được#

Yêu cầu một trích dẫn hỗ trợ sau mỗi khẳng định, sau đó để mô hình tự kiểm tra:

After each claim, put the supporting quote in brackets.
Then re-read your answer: if a claim has no quote, delete it.

Đây là bước xác minh của Anthropic: không trích dẫn, không khẳng định.

4. Giới hạn nó trong văn bản bạn đã đưa#

Use only the document between the <document> tags.
Do not use outside knowledge.

Anthropic liệt kê việc hạn chế kiến thức bên ngoài vào các tài liệu được cung cấp trong số các kỹ thuật nâng cao. Đây cũng là thói quen cần sao chép nếu bạn đang xây dựng một bot trên tài liệu của riêng mình: bot trả lời từ các trang của bạn, không phải từ ký ức.

Trước và sau trên một ví dụ#

Cùng một hợp đồng, cùng một câu hỏi, hai prompt. Cái bên trái là cách hầu hết chúng ta bắt đầu.

Here is my rental agreement:
[agreement text]

What is the late fee?

<document>
[agreement text]
</document>

Question: What is the late fee?

Use only the document above. First copy the relevant
sentences word for word under "Quotes" (or write
"No relevant quotes."). Then answer using only those
quotes, with the quote in brackets after each claim.
If the document doesn't say, answer exactly:
"Not stated in the document."

Prompt "sau" dài hơn, và điều đó không sao: bạn viết nó một lần và dùng lại.

Cả bốn thói quen trong một yêu cầu API#

Nếu bạn gọi một mô hình qua API, các thói quen đi vào tin nhắn hệ thống và tài liệu của bạn đi vào tin nhắn người dùng, được bọc trong thẻ. Yêu cầu này dùng điểm cuối tương thích OpenAI của CheapTokens; khóa đến từ một biến môi trường, và id mô hình đầy đủ là MiniMaxAI/MiniMax-M2.7 (lấy id từ tài liệu CheapTokens, vì tên khác nhau giữa các nhà cung cấp).

curl https://api.cheaptokens.dev/v1/chat/completions \
  -H "Authorization: Bearer $CHEAPTOKENS_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MiniMaxAI/MiniMax-M2.7",
    "messages": [
      {"role": "system", "content": "Use only the document in the <document> tags. No outside knowledge. First list word-for-word quotes relevant to the question under “Quotes”, or write “No relevant quotes.” Then answer using only those quotes, with the quote in brackets after each claim. If the document does not say, answer: “Not stated in the document.”"},
      {"role": "user", "content": "<document>[paste the agreement here]</document> What is the late fee?"}
    ]
  }'

Câu trả lời nằm trong choices[0].message.content. Nếu đây là lần gọi đầu tiên của bạn, Yêu cầu API đầu tiên của bạn với CheapTokens hướng dẫn từng bước về khóa và bước số dư.

Trích dẫn tốn gì#

Trích dẫn làm câu trả lời dài hơn, và trên hầu hết các mô hình, câu trả lời là phía đắt hơn của một yêu cầu (xem token đầu vào so với đầu ra). Do đó thói quen trích dẫn trước rẻ để chi trả nhưng không miễn phí.

Giả sử một báo cáo 40 trang khoảng 25.000 token và các trích dẫn cộng với câu trả lời khoảng 1.500. Một yêu cầu như vậy trên MiniMax-M2.7 tốn $0.0015. Bảng hiển thị cùng yêu cầu trên mọi mô hình, với một cột OpenRouter, để bạn có thể so sánh tổng cộng, với đầu vào và đầu ra được tính cùng nhau:

MiniMax-M2.7 nhận ngữ cảnh 180K và tối đa 8.192 token trong một câu trả lời với một mức giá cố định vào bất kỳ giờ nào, vì vậy một báo cáo 25.000 token và một câu trả lời trích dẫn dài đều vừa. Giá hiện tại ở trang giá, và các mô hình được mô tả trong tài liệu.

Những gì các thói quen này không khắc phục#

Chúng giảm câu trả lời bịa đặt rất nhiều, nhưng không loại bỏ chúng. Anthropic nói thẳng điều đó: hãy kiểm tra bất cứ điều gì quan trọng. Trong một hợp đồng, điều đó có nghĩa là các con số, ngày tháng và tên, đối chiếu với trang gốc.

Hai mẹo nữa từ cùng trang đáng biết. Best-of-N: hỏi cùng một câu hỏi vài lần và so sánh, vì một chi tiết thay đổi giữa các lần chạy là dấu hiệu mô hình đang đoán. Một yêu cầu giống hệt có thể trả về một câu trả lời giống hệt, vì vậy hãy thay đổi cách diễn đạt một chút hoặc nhiệt độ (xem lời nhắc hệ thống và nhiệt độ). Và chế độ suy nghĩ cho phép mô hình kiểm tra lý luận của chính nó trước khi trả lời, tốn thêm token (tại sao suy nghĩ tốn hơn).