কেন AI বানানো কথা বলে এবং ৪টি প্রম্পট অভ্যাস যা তা কমায়

আপনার ভাড়ার চুক্তিতে কোনো বিলম্ব-ফি ধারা নেই। আপনি একটি চ্যাটবটকে জিজ্ঞেস করেন বিলম্ব-ফি কত, আর মাঝে মাঝে এটি একটি শতাংশ ও একটি নির্ধারিত তারিখ দিয়ে উত্তর দেয়। আত্মবিশ্বাসী, নির্দিষ্ট, এবং বানানো।

এটাই একটি হ্যালুসিনেশন: মডেল সাবলীল টেক্সট লেখে যা তথ্যগতভাবে ভুল বা আপনার দেওয়া প্রসঙ্গের সাথে মেলে না। হ্যালুসিনেশন কমানোর বিষয়ে Anthropic-এর ডকুমেন্টেশন (পৃষ্ঠাটি ২৭ অক্টোবর ২০২৬-এ যাচাই করা; এতে কোনো প্রকাশনার তারিখ নেই) বলে, এমনকি সবচেয়ে উন্নত মডেলও মাঝে মাঝে এটি করে, এবং এটি সেই অভ্যাসগুলো তালিকাভুক্ত করে যা সাহায্য করে। এর মধ্যে চারটি একটি প্রম্পটের ভেতরে ফিট করে, এবং আপনি সেগুলো নিচে যেমন আছে তেমনই পেস্ট করতে পারেন।

কেন একটি মডেল ভুল হওয়া সত্ত্বেও নিশ্চিত শোনায়#

একটি ভাষা মডেল তথ্য খুঁজে দেখে না। এটি টেক্সট চালিয়ে যায়: এখন পর্যন্ত সবকিছু দেওয়া হলে, এটি সেই শব্দগুলো বেছে নেয় যা পরবর্তীতে আসার সম্ভাবনা সবচেয়ে বেশি। আপনার ফোনের অটোকমপ্লিটের কথা ভাবুন, শুধু অনেক বেশি পড়ুয়া। যখন সত্য উত্তরটি এমন কিছু যা মডেল শিখেছে, তখন সম্ভাব্য শব্দগুলো এবং সত্য শব্দগুলো মিলে যায়। যখন তা নয়, তখন সম্ভাব্য শব্দগুলো তখনও সাবলীল, আর সাবলীল শোনায় নিশ্চিতের মতো।

দুটি পরিস্থিতি আপনার দেখা অনেক বানানো উত্তর ব্যাখ্যা করে:

• তথ্যটি মডেলের মধ্যে নেই। এটি মডেলের প্রশিক্ষণ শেষ হওয়ার পরে ঘটেছে, অথবা এটি আপনার ব্যক্তিগত ডকুমেন্টে আছে যা মডেল কখনও দেখেনি। গত মাসের খবর সম্পর্কে জিজ্ঞেস করুন এবং আপনি পুরোনো প্যাটার্ন থেকে তৈরি একটি আত্মবিশ্বাসী উত্তর পেতে পারেন।
• তথ্যটি আপনার ডকুমেন্টে অনুপস্থিত, কিন্তু প্রশ্নটি ধরে নেয় এটি আছে। মডেল শূন্যস্থান পূরণ করে। এমন একজন শিক্ষার্থীর কথা ভাবুন যাকে প্রতিটি পরীক্ষার প্রশ্নের জন্য কিছু লিখতে হয় এবং কখনও একটি খালি রাখার অনুমতি নেই।

বানানো উত্তর কমায় এমন চারটি অভ্যাস#

ধরুন আপনি একটি ভাড়ার চুক্তি পেস্ট করেছেন এবং বিলম্ব-ফি চান। এই চুক্তিতে কোনো বিলম্ব-ফি ধারা নেই, এবং এটি এখান থেকে আমাদের পরীক্ষার কেস হবে।

১. "আমি জানি না" অনুমতি দিন#

একটি মডেল যা বিশ্বাস করে প্রতিটি প্রশ্নের উত্তর দিতে হবে, সে উত্তর দেবে। এটিকে বলুন যে এটি নিয়ম নয়:

If the document doesn't say, answer exactly: "Not stated in the document."
Do not guess.

Anthropic এটিকে প্রথম, সবচেয়ে সহজ ধাপ হিসেবে তালিকাভুক্ত করে: স্পষ্টভাবে মডেলকে এটি স্বীকার করার অনুমতি দিন যে সে জানে না।

২. আগে উদ্ধৃতি, পরে উত্তর#

দীর্ঘ ডকুমেন্টের জন্য (Anthropic-এর নির্দেশনা প্রায় ২০,০০০ টোকেনে সীমা টানে, মোটামুটি ১৫,০০০ শব্দ), কোনো বিশ্লেষণের আগে শব্দে-শব্দে উদ্ধৃতি চান, এবং উত্তরকে সেগুলোর উপর নির্ভরশীল করুন:

First, copy the sentences relevant to my question, word for word,
under the heading "Quotes". If there are none, write "No relevant quotes."
Then answer using only those quotes.

মডেলকে কোনো সিদ্ধান্তে পৌঁছানোর আগে এমন টেক্সটের দিকে ইশারা করতে হবে যা সত্যিই আছে। উদ্ধৃতিগুলো পড়তে আপনারও পাঁচ সেকেন্ড লাগে।

৩. উদ্ধৃতি দিন, এবং যা প্রমাণ করতে পারে না তা বাদ দিন#

প্রতিটি দাবির পরে একটি সমর্থনকারী উদ্ধৃতি চান, তারপর মডেলকে নিজেই যাচাই করতে দিন:

After each claim, put the supporting quote in brackets.
Then re-read your answer: if a claim has no quote, delete it.

এটি Anthropic-এর যাচাইকরণ ধাপ: উদ্ধৃতি নেই, দাবি নেই।

৪. এটিকে আপনার দেওয়া টেক্সটে সীমাবদ্ধ রাখুন#

Use only the document between the <document> tags.
Do not use outside knowledge.

Anthropic বাইরের জ্ঞান প্রদত্ত ডকুমেন্টে সীমাবদ্ধ করাকে তার উন্নত কৌশলগুলোর মধ্যে তালিকাভুক্ত করে। আপনি যদি নিজের ডকুমেন্টের উপর একটি বট তৈরি করেন তবে এটিও অনুকরণ করার অভ্যাস: বট আপনার পৃষ্ঠাগুলো থেকে উত্তর দেয়, স্মৃতি থেকে নয়।

একটি উদাহরণে আগে ও পরে#

একই চুক্তি, একই প্রশ্ন, দুটি প্রম্পট। বামটি হলো আমরা বেশিরভাগই যেভাবে শুরু করি।

Here is my rental agreement:
[agreement text]

What is the late fee?

<document>
[agreement text]
</document>

Question: What is the late fee?

Use only the document above. First copy the relevant
sentences word for word under "Quotes" (or write
"No relevant quotes."). Then answer using only those
quotes, with the quote in brackets after each claim.
If the document doesn't say, answer exactly:
"Not stated in the document."

"পরে" প্রম্পটটি দীর্ঘ, এবং তা ঠিক আছে: আপনি এটি একবার লেখেন এবং পুনরায় ব্যবহার করেন।

একটি API অনুরোধে চারটি অভ্যাস#

আপনি যদি API-এর মাধ্যমে একটি মডেল কল করেন, অভ্যাসগুলো সিস্টেম মেসেজে যায় এবং আপনার ডকুমেন্ট ট্যাগে মোড়ানো অবস্থায় ইউজার মেসেজে যায়। এই অনুরোধটি CheapTokens OpenAI-সামঞ্জস্যপূর্ণ এন্ডপয়েন্ট ব্যবহার করে; কীটি একটি এনভায়রনমেন্ট ভেরিয়েবল থেকে আসে, এবং সম্পূর্ণ মডেল আইডি হলো MiniMaxAI/MiniMax-M2.7 (CheapTokens ডকস থেকে আইডি নিন, কারণ প্রদানকারীদের মধ্যে নাম ভিন্ন হয়)।

curl https://api.cheaptokens.dev/v1/chat/completions \
  -H "Authorization: Bearer $CHEAPTOKENS_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MiniMaxAI/MiniMax-M2.7",
    "messages": [
      {"role": "system", "content": "Use only the document in the <document> tags. No outside knowledge. First list word-for-word quotes relevant to the question under “Quotes”, or write “No relevant quotes.” Then answer using only those quotes, with the quote in brackets after each claim. If the document does not say, answer: “Not stated in the document.”"},
      {"role": "user", "content": "<document>[paste the agreement here]</document> What is the late fee?"}
    ]
  }'

উত্তরটি choices[0].message.content-এ আছে। এটি যদি আপনার প্রথম কল হয়, CheapTokens দিয়ে আপনার প্রথম API অনুরোধ ধাপে ধাপে কী এবং ব্যালেন্সের মধ্য দিয়ে যায়।

উদ্ধৃতির খরচ কত#

উদ্ধৃতি উত্তরকে দীর্ঘ করে, এবং বেশিরভাগ মডেলে উত্তরটি একটি অনুরোধের বেশি দামি দিক (দেখুন ইনপুট বনাম আউটপুট টোকেন)। তাই আগে-উদ্ধৃতি অভ্যাসটি সামলানো সস্তা কিন্তু বিনামূল্যে নয়।

ধরুন একটি ৪০-পৃষ্ঠার প্রতিবেদন প্রায় ২৫,০০০ টোকেন এবং উদ্ধৃতি ও উত্তর মিলে প্রায় ১,৫০০ হয়। MiniMax-M2.7-এ এমন একটি অনুরোধের খরচ $0.0015। টেবিলটি প্রতিটি মডেলে একই অনুরোধ দেখায়, একটি OpenRouter কলামসহ, যাতে আপনি ইনপুট ও আউটপুট একসাথে গণনা করে মোটে তুলনা করতে পারেন:

MiniMax-M2.7 যেকোনো সময়ে এক নির্দিষ্ট মূল্যে ১৮০K কনটেক্সট এবং উত্তরে সর্বোচ্চ ৮,১৯২ টোকেন নেয়, তাই একটি ২৫,০০০-টোকেন প্রতিবেদন এবং একটি দীর্ঘ উদ্ধৃত উত্তর দুটোই ফিট করে। বর্তমান মূল্য মূল্য পৃষ্ঠায় আছে, এবং মডেলগুলো ডকসে বর্ণিত।

এই অভ্যাসগুলো যা ঠিক করে না#

তারা বানানো উত্তর অনেক কমায়, কিন্তু সেগুলো সরায় না। Anthropic সরাসরি এটা বলে: গুরুত্বপূর্ণ যেকোনো কিছু যাচাই করুন। একটি চুক্তিতে এর মানে হলো সংখ্যা, তারিখ ও নাম মূল পৃষ্ঠার সাথে মিলিয়ে দেখা।

একই পৃষ্ঠার আরও দুটি কৌশল জানার মতো। Best-of-N: একই প্রশ্ন কয়েকবার জিজ্ঞেস করুন এবং তুলনা করুন, কারণ একটি বিবরণ যা প্রতি রানে বদলে যায় তা হলো মডেল অনুমান করছে এর একটি লক্ষণ। একটি অভিন্ন অনুরোধ অভিন্ন উত্তর হিসেবে ফিরে আসতে পারে, তাই শব্দচয়ন একটু বদলান বা তাপমাত্রা (দেখুন সিস্টেম প্রম্পট ও তাপমাত্রা)। এবং একটি থিংকিং মোড মডেলকে উত্তর দেওয়ার আগে নিজের যুক্তি যাচাই করতে দেয়, যা অতিরিক্ত টোকেন খরচ করে (কেন থিংকিং বেশি খরচ করে)।