35 منٹ
تین طریقے
2022 میں Google Brain کے کچھ محققین نے ایک ایسی بات دیکھی جس نے پرامپٹ انجینئرنگ کو راتوں رات بدل دیا۔ اگر آپ کسی لینگویج ماڈل سے کوئی کئی مرحلوں والا مسئلہ حل کرنے کو کہیں اور پرامپٹ میں صرف یہ جملہ شامل کر دیں "آئیں قدم بہ قدم سوچتے ہیں"، تو reasoning کے کاموں پر درستگی بڑھ جاتی ہے، کبھی کبھی تین گنا۔ مقالہ تھا Wei اور دیگر، "Chain-of-Thought Prompting Elicits Reasoning in Large Language Models"۔ اب اس کو chain-of-thought یا مختصراً CoT کہتے ہیں، اور یہ ان چند پرامپٹ انجینئرنگ ترکیبوں میں سے ہے جو تحقیق سے نکل کر ہر سنجیدہ تعیناتی میں پہنچ چکی ہے۔ اور یہ ان میں سے بھی ہے جن کا غلط استعمال آسان ہے۔ یہ سبق سکھائے گا کہ کب استعمال کرنا ہے، کب نہیں، اور صاف طریقے سے کیسے کرنا ہے۔
پہلا طریقہ: واضح "قدم بہ قدم سوچیں" CoT۔ آپ کام معمول کے مطابق لکھتے ہیں اور آخر میں ایک جملہ شامل کرتے ہیں، "حتمی جواب دینے سے پہلے اس پر قدم بہ قدم سوچیں"۔ بس۔ حساب، کئی شرطوں والی منطق، قانونی تشریح، اور کسی بھی ایسے کام کے لیے جہاں جواب درمیانی نتائج کے سلسلے پر منحصر ہو، یہ ایک جملہ ماڈل کو اکثر غلط سے مستقل درست کی طرف لے جائے گا۔ وجہ یہ ہے کہ اب ماڈل درمیانی مراحل کو متن کے طور پر پیدا کرتا ہے، اور ہر قدم اگلے قدم کو مشروط کرتا ہے، جو وہ احتیاطی reasoning مجبور کر دیتا ہے جسے روانی والی اگلے-لفظ پیدائش اکثر چھوڑ دیتی ہے۔
دوسرا طریقہ: نام شدہ مراحل والا ساختی CoT۔ آپ خود مراحل کا نام لیتے ہیں، ترتیب کے ساتھ۔ زکوٰۃ کے حساب کے لیے: "مرحلہ 1: تمام اثاثے اور ان کی PKR میں قیمتیں درج کریں۔ مرحلہ 2: ہر اثاثے کی کلاس پر متعلقہ زکوٰۃ کی شرح لگائیں۔ مرحلہ 3: زکوٰۃ کی رقوم جمع کریں۔ مرحلہ 4: حتمی واجب الادا زکوٰۃ بتائیں۔" اب ماڈل آپ کے ڈھانچے پر چلتا ہے۔ یہ کھلے "قدم بہ قدم سوچیں" سے کہیں زیادہ قابل اعتماد ہے کیونکہ آپ ماڈل پر بھروسہ نہیں کر رہے کہ صحیح مراحل دریافت کرے، بلکہ خود لگا رہے ہیں۔ ان ڈومینز کے لیے جہاں آپ طریقہ کار جانتے ہیں (ٹیکس، آڈٹ، قانونی due diligence) ساختی CoT کھلے CoT کو ہر بار شکست دے گا۔
فوری چیک
فوری چیک: جدید AI روایتی قاعدہ بنیاد پروگرام سے کس طرح مختلف ہے؟
کیوں؟
CoT کیوں کام کرتا ہے۔ لینگویج ماڈل کے پاس ہر ٹوکن پیدا کرنے کے لیے طے شدہ مقدار میں compute ہے۔ اگر آپ ایک لفظ کا فوری جواب مجبور کریں، تو ایک ٹوکن کی سوچ ملے گی۔ اگر جواب سے پہلے لمبا reasoning دینے دیں، تو لمبا سوچ کا سلسلہ ملے گا، ہر قدم اگلے کو نکھارے گا۔ CoT وہ پرامپٹ-سطح آلہ ہے جس سے آپ ماڈل سے زیادہ reasoning compute خریدتے ہیں، جو ورنہ رک کر سوچ نہیں سکتا۔
ماخذ
ذرائع۔ Wei، Wang، Schuurmans اور دیگر 2022، "Chain-of-Thought Prompting Elicits Reasoning in Large Language Models"۔ Kojima اور دیگر 2022، "Large Language Models are Zero-Shot Reasoners" (وہ پیپر جس نے سادہ "آئیں قدم بہ قدم سوچتے ہیں" ترکیب متعارف کرائی)۔ Claude میں chain-of-thought اور extended thinking پر Anthropic کی دستاویزات۔ Wang اور دیگر 2022، "Self-Consistency Improves Chain of Thought Reasoning in Language Models"، ایک مفید توسیع۔