32 منٹ
تین طریقے
AI کی خبروں کا زیادہ تر حصہ بڑے ماڈلز پر مرکوز ہے: کھربوں parameter والے سرکردہ ماڈل جو ورجینیا یا آئیووا میں گودام جتنے بڑے GPU clusters پر چلتے ہیں۔ سائز کے دوسرے سرے پر ایک خاموش انقلاب ہو رہا ہے۔ Microsoft کا Phi خاندان، Google کا Gemma خاندان، Alibaba کے Qwen کے چھوٹے ماڈل، اور Meta کے Llama 3.2 کے 1B اور 3B ماڈل سب ایک لیپ ٹاپ، فون، یا ایک سستے سرور پر چل سکتے ہیں۔ یہ Claude یا GPT-5 جتنے طاقتور نہیں ہیں۔ مگر حیران کن طور پر بہت سے کارآمد کاموں کے لیے کافی ہیں۔ پاکستان کے ہر پیشہ ور کے لیے جو ایسے ماحول میں کام کرتا ہے جہاں انٹرنیٹ ناقابلِ اعتبار ہے، بجلی کبھی کبھار آتی ہے، یا ڈیٹا کی رازداری پر سمجھوتہ ممکن نہیں، یہ سال کی سب سے اہم پیش رفت ہے، اور اکثر لوگوں نے اس کا نام بھی نہیں سنا۔
چھوٹے ماڈل کیوں موجود ہیں۔ سرکردہ ماڈل میں اربوں parameter ہوتے ہیں کیونکہ زیادہ parameter زیادہ تعلق محفوظ کرتے ہیں اور زیادہ رواں آؤٹ پُٹ پیدا کرتے ہیں۔ چھوٹے ماڈل، جن کی حد ایک سے دس ارب parameter تک ہے، distillation نامی عمل سے بنائے جاتے ہیں، جس میں ایک چھوٹے student ماڈل کو منتخب کاموں کے مجموعے پر بڑے teacher ماڈل کے آؤٹ پُٹ کی نقل کرنا سکھایا جاتا ہے۔ نتیجہ ایک ایسا ماڈل ہے جو عملی صلاحیت کا تقریباً اسّی فیصد دسویں یا سویں حصے میں سمیٹ لیتا ہے۔ بدلہ سادہ ہے: چھوٹے ماڈل لمبے، پیچیدہ استدلال میں کمزور ہوتے ہیں اور حقیقت کی غلطی کی شرح زیادہ ہوتی ہے۔ یہ خلاصہ، ترجمہ، درجہ بندی، اور ساختہ معلومات نکالنے جیسے محدود، طے شدہ کاموں میں بہترین ہیں۔
چھوٹا کب جیتتا ہے، عملی پاکستانی الفاظ میں۔ لیہ کا سرکاری ڈسپنسری، دن میں چھ گھنٹے بجلی کے بغیر، ایک لیپ ٹاپ پر 3B parameter کا طبی اسسٹنٹ چلا سکتا ہے۔ اسسٹنٹ لیڈی ہیلتھ ورکر کے درج کردہ مریض کی علامات اردو میں لیتا ہے، اردو میں ہی سفارش دیتا ہے، اور اسے انٹرنیٹ کی ضرورت نہیں۔ فیصل آباد کی ایک چھوٹی ٹیکسٹائل فیکٹری مینیجر کے ڈیسک ٹاپ پر Phi 3 mini ماڈل چلا کر روزانہ پیداوار کی رپورٹس کا خلاصہ بنا سکتی ہے، بغیر کوئی تجارتی ڈیٹا غیر ملکی کلاؤڈ کو بھیجے۔ تھرپارکر کا ایک سکول جہاں دس استادوں پر ایک سست انٹرنیٹ کنکشن ہے، مشترکہ کمپیوٹر پر ایک آف لائن سبق منصوبہ اسسٹنٹ رکھ سکتا ہے۔ معاشی نکتہ یہ ہے کہ چھوٹے مقامی ماڈل اکائی کی معیشت بدل دیتے ہیں۔ یہ فی پرامپٹ لاگت اور انٹرنیٹ پر انحصار ختم کر دیتے ہیں۔
فوری چیک
فوری چیک: جدید AI روایتی قاعدہ بنیاد پروگرام سے کس طرح مختلف ہے؟
کیوں؟
سائز کے انتخاب کے تین نمونے۔ بڑا کلاؤڈ: مشکل استدلال اور پیچیدہ مسودہ سازی کے لیے سرکردہ بند ماڈل استعمال کریں جہاں نیٹ ورک اور قیمت قابلِ قبول ہو۔ چھوٹا edge: حساس، بار بار ہونے والے، محدود کاموں کے لیے 3B سے 8B ماڈل مقامی طور پر چلائیں۔ مخلوط: پہلے چھوٹا ماڈل فلٹر کے طور پر چلائیں اور صرف مشکل صورتیں کلاؤڈ ماڈل تک پہنچائیں، بڑے ماڈل کی قیمت صرف وہاں ادا کریں جہاں اس کی صلاحیت چاہیے۔
ماخذ
آگے پڑھنے کے ذرائع۔ Microsoft Phi 3 اور Phi 4 کی تکنیکی رپورٹیں Microsoft research کی سائٹ پر۔ Google Gemma کا ماڈل کارڈ ai.google.dev/gemma پر۔ Meta Llama 3.2 کا اعلانیہ صفحہ جس میں 1B اور 3B موبائل دوست ماڈل بیان ہوئے۔ Ollama کی دستاویز ollama.com پر اور LM Studio کی صارف کی رہنمائی lmstudio.ai پر، عملی ترتیب کے لیے۔ Hugging Face کا open LLM لیڈربورڈ، چھوٹے ماڈلز پر چھان کر، موجودہ معیار کی درجہ بندی کے لیے۔ پاکستانی مثالوں کے لیے، LUMS Centre for Speech and Language Technologies کا بلاگ اور NUST کے AI تحقیقی گروپ کا کم وسائل والی زبانوں کے ماڈلز پر شائع شدہ کام۔