open weights کیا ہیں؟ 2-bit اور 4-bit quantization کی وضاحت

آپ ایک ماڈل کے اعلان کو کھولتے ہیں اور UD-Q2_K_XL نام کی فائل کے ساتھ "open weights" دیکھتے ہیں۔ مختصر جواب: open weights کا مطلب ہے کہ ڈویلپر نے ماڈل کی فائلیں شائع کی ہیں، لہٰذا کوئی بھی انہیں ڈاؤن لوڈ کر کے چلا سکتا ہے۔ 2-bit کا مطلب ہے کہ اندر کا ہر عدد صرف دو بٹس میں محفوظ ہے: فائل کافی چھوٹی ہو جاتی ہے اور ماڈل تھوڑا دھندلا ہو جاتا ہے۔ اگر آپ ڈاؤن لوڈ سے بچنا چاہیں تو آپ API کے ذریعے ماڈلز کو کال کر سکتے ہیں؛ CheapTokens docs پہلی درخواست دکھاتے ہیں۔

نیچے دی گئی مثال حقیقی ہے۔ MiniMax-M3.1-Flash کے لیے Unsloth کا ماڈل صفحہ (بغیر تاریخ؛ 27 اکتوبر 2026 کو چیک کیا گیا) ایک ایسے ماڈل کے لیے 129.4 GB سے 259.1 GB تک GGUF فائلیں درج کرتا ہے جس کا ہم نے M3.1 Flash launch post میں احاطہ کیا تھا۔ یہاں ہر سائز اور میموری کا عدد اسی صفحے سے ہے۔

وہ الفاظ جو آپ بار بار سنتے ہیں#

428 ارب ڈائلز والے مکسنگ ڈیسک کا تصور کریں۔ ٹریننگ ہر ڈائل کو اس وقت تک ہلکا سا موڑتی ہے جب تک آؤٹ پٹ درست نہ لگے۔ تمام ڈائلز کی آخری پوزیشن ماڈل کے weights ہیں۔ وہ فہرست شائع کریں اور آپ کے پاس open-weight ماڈل ہے؛ اسے اپنے سرورز پر رکھیں اور داخل ہونے کا واحد راستہ API ہے۔

نئے لوگوں کے لیے دو پھندے۔ "Open-weight" خود بخود "کسی بھی استعمال کے لیے مفت" نہیں: لائسنس فیصلہ کرتا ہے، اور Unsloth کا صفحہ اسے بیان نہیں کرتا، لہٰذا کچھ تجارتی بنانے سے پہلے ماڈل کارڈ (Hugging Face پر MiniMaxAI/MiniMax-M3.1-Flash) پڑھیں۔ اور "ڈاؤن لوڈ کے لیے مفت" کا مطلب "چلانے کے لیے مفت" نہیں، جو اگلے حصے دکھاتے ہیں۔

ایک ماڈل 130–260 GB کا ڈاؤن لوڈ کیوں ہے#

ان 428 ارب weights میں سے ہر ایک ایک عدد ہے، اور اعداد جگہ لیتے ہیں۔ قاعدہ یہ ہے: تعداد × بٹس ÷ 8 = بائٹس۔ آگے پڑھنے سے پہلے اسے آزمائیں۔

اب بڑا پیمانہ لیں۔ فی weight 2 بٹس پر بھی، 428 × 2 ÷ 8 = 107 GB پورے ماڈل کی کم از کم حد ہے۔ اصل 2-bit فائل 143.9 GB ہے، حد سے تھوڑی اوپر، لہٰذا فائل کے نام میں بٹ کا عدد ایک لیبل ہے، درست گنتی نہیں۔

"23B active" کا عدد رفتار کے بارے میں ہے، اسٹوریج کے بارے میں نہیں۔ ہر ٹوکن پر ماڈل کا صرف ایک حصہ کام کرتا ہے، جو اسے تیز بناتا ہے، لیکن یہ حصہ ہر ٹوکن پر بدلتا ہے، لہٰذا تمام 428B weights لوڈ اور منتظر رہنے چاہئیں۔

2-bit اور 4-bit اصل میں کیا کرتے ہیں#

ایک پیمانے کا تصور کریں۔ بٹس طے کرتے ہیں کہ اس پر کتنے نشان ہیں: 2 بٹس 4 نشان دیتے ہیں، 4 بٹس 16، 8 بٹس 256، اور معمول کے 16 بٹس 65,536۔ Quantization ہر weight کو قریب ترین نشان پر گول کرتا ہے۔ کم نشان کا مطلب چھوٹی فائل اور ہر عدد پر بڑی گولائی کی غلطی۔

یہاں اس ماڈل کے لیے Unsloth کی لائن اپ ہے، اس میموری (RAM جمع VRAM) کے ساتھ جو ایک سیشن کے لیے 16K context پر درکار ہے۔ سائز اعشاری GB میں ہیں۔

نام پڑھنا: UD-Q2_K_XL تقریباً 2 بٹس پر ایک Unsloth Dynamic build ہے؛ ہندسہ سطح ہے اور حروف مختلف قسمیں ہیں۔ ہندسے سے حساب نہ لگائیں۔ 8-bit فائل 2-bit والی سے صرف تقریباً 1.8 گنا ہے (259.1 ÷ 143.9 ≈ 1.8)، 4 گنا نہیں۔ سائز ڈاؤن لوڈ صفحے سے پڑھیں۔

2 بٹس پر آپ کیا کھو دیتے ہیں#

اسے تصویر کو چھوٹی JPEG کے طور پر محفوظ کرنے سے موازنہ کریں: تصویر کا زیادہ تر حصہ بچ جاتا ہے، اور نقصان باریک تفصیل میں ظاہر ہوتا ہے۔ Unsloth بتاتا ہے کہ اس کی 2-bit فائل (143.9 GB) سات زمروں—کوڈنگ، ریاضی، چیٹ، ٹولز، کثیراللسانی، استدلال اور ایجنٹک—میں اصل ماڈل کے ساتھ 91.5% وزنی اتفاق تک پہنچتی ہے۔

یہ عدد غور سے پڑھیں۔ یہ Unsloth کا اپنا پیمانہ ہے، اور صفحہ بنیادی خط اور وزن کاری واضح نہیں کرتا، لہٰذا اسے کھردری رہنمائی سمجھیں، آزاد جانچ نہیں۔ اتفاق درستگی بھی نہیں: یہ بتاتا ہے کہ چھوٹی فائل بڑی کی طرح کتنی قریب سے برتاؤ کرتی ہے، نہ یہ کہ کوئی کتنی بار درست ہے۔ چھوٹے فرق قدموں کی لمبی زنجیر میں جمع ہو سکتے ہیں، جیسے بیس ٹول کالز چلانے والا ایجنٹ، لہٰذا کسی quant پر انحصار کرنے سے پہلے اسے اپنے کام پر آزمائیں۔ زیادہ سطحیں اصل کے قریب رہتی ہیں اور زیادہ میموری لیتی ہیں۔

ڈاؤن لوڈ کریں یا API کال کریں؟#

فرض کریں آپ اعلان پڑھنے کے بعد ماڈل آزمایا چاہتے ہیں۔ وہ سطر چنیں جو آپ جیسے لگے۔

تیسری سطر کے لیے، یہ دیکھنے کے لیے ایک درخواست کافی ہے کہ یہ کیسا لگتا ہے۔ یہ والی DeepSeek-V4-Flash کو جاتی ہے، جس کی 380K context window ہے اور جو 32,768 ٹوکنز تک لمبے جواب دیتا ہے، دن کے کسی بھی وقت ایک ہی قیمت پر:

curl https://api.cheaptokens.dev/v1/chat/completions \
  -H "Authorization: Bearer $CHEAPTOKENS_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "deepseek-ai/DeepSeek-V4-Flash-0731", "messages": [{"role": "user", "content": "In two sentences: what does open-weight mean?"}], "max_tokens": 200}'

جواب choices[0].message.content میں واپس آتا ہے، اور usage فیلڈ بتاتا ہے کہ آپ نے کتنے ٹوکنز کی ادائیگی کی۔ ٹوکن کیا ہے، یقین نہیں؟ plain-English explanation پانچ منٹ لیتی ہے۔ MiniMax-M2.7 اسی طرح دستیاب ہے، 180K context window اور فی جواب 8,192 ٹوکنز تک کے ساتھ۔ دونوں OpenAI/Anthropic-compatible API استعمال کرتے ہیں، اور ایک بیلنس ہر ماڈل کو کور کرتا ہے۔

بل پر یہ کیسا لگتا ہے؟ فرض کریں ایک چھوٹا سپورٹ بوٹ روزانہ 2,000 درخواستیں بھیجتا ہے، ہر ایک میں 1,500 ٹوکنز اندر اور 500 باہر۔ MiniMax-M2.7 پر ایسی ایک درخواست کی قیمت $0.00015 ہے۔ یہاں ہر ماڈل کے لیے پورا دن، OpenRouter کے ساتھ:

مجموعی طور پر، ان پٹ اور آؤٹ پٹ کو ملا کر، CheapTokens OpenRouter سے سستا نکلتا ہے۔ ہر ماڈل کی موجودہ قیمتیں pricing page پر ہیں۔

اگر آپ کے پاس ہارڈ ویئر ہے اور رفتار اور چلانے کے اخراجات کا موازنہ کرنا چاہتے ہیں تو Run DeepSeek locally or use an API اس پر گزرتا ہے۔ اور توقع رکھیں کہ یہ الفاظ جلد پھر آئیں گے: Kimi K3.1 Pro کے open weights 4 نومبر کو متوقع ہیں، جیسا کہ ہماری launch post بیان کرتی ہے۔