اے آئی کا چلنا سینڈ باکس کے بغیر کیوں خطرناک ہے

تین طریقے

1. 1

   سینڈ باکس ایک باڑے والی جگہ ہے جہاں کوڈ چل سکتا ہے، فائلیں بن سکتی ہیں، کمانڈ چل سکتی ہیں، مگر اندر سے کچھ بھی باہر کے اہم سسٹم کو نہیں چھو سکتا۔ اصلی ڈسک، اصلی ڈیٹابیس، اصلی نیٹ ورک باڑے کے باہر ہیں۔ اگر اندر کا کوڈ کوئی تباہ کن کام کرے، تو نقصان باڑے پر رک جاتا ہے۔ جس طرح ڈیفنس لاہور کے ایک گھر کا چوکیدار ہر سامان کو اندر آنے سے پہلے دیکھتا ہے، اسی طرح سینڈ باکس ہر AI سے بنے کام کو آپ کے ماحول کو چھونے سے پہلے دیکھتا ہے۔

2. 2

   خطرے کا پہلا منظر: شیل تک رسائی مکمل اختیار ہے۔ جب آپ AI کو شیل کمانڈ براہِ راست چلانے دیتے ہیں، تو آپ نے دراصل اپنا یوزر اکاؤنٹ اس کے حوالے کر دیا۔ وہ آپ کی پڑھنے کی ہر فائل پڑھ سکتا ہے، آپ کی مٹانے کی ہر فائل مٹا سکتا ہے، آپ کا بھیجا جانے والا ہر HTTP درخواست بھیج سکتا ہے۔ جدید AI ماڈلز انسانی معنی میں نیت نہیں رکھتے، مگر ہدایات پر عمل کرتے ہیں، اور غلط جملے والی ہدایت تباہ کن کمانڈ بنا سکتی ہے۔ ماڈل رک کر نہیں پوچھے گا 'پکا ہے؟'۔ وہ کمانڈ چلائے گا کیونکہ آپ نے یہی کہا۔

3. 3

   دوسرا منظر: کوڈ بنانا کوڈ کا جائزہ نہیں۔ ماڈل صحیح لگنے والا کوڈ لکھنے میں ماہر ہے۔ یہ فیصلہ کرنے میں کہ آپ کے مخصوص ماحول میں یہ کوڈ محفوظ ہے یا نہیں، بہت کم قابلِ بھروسہ۔ ایک بالکل درست Python کوڈ جو پرانی لاگ فائلیں مٹاتا ہے، اس وقت تباہی بن جاتا ہے جب 'پرانی' کا مطلب 'آج سے پرانی' ہو اور سرور پر لاگ ہی واحد آڈٹ ٹریل ہوں۔ ماڈل نے وہی کیا جو کہا گیا۔ ماڈل کو نہیں پتہ تھا کیا اہم ہے۔ سینڈ باکس آپ کو نتائج کے حقیقی ہونے سے پہلے چلانے، دیکھنے اور پلٹنے کا موقع دیتا ہے۔

کیوں؟

Claude کے ساتھ آزمائیں

AI پرامپٹ: 'میں 500 افراد والے پاکستانی بینک میں IT آپریشنز چلاتا ہوں۔ میرے AI کے استعمالات کا جائزہ لیں اور بتائیں کن کاموں کو سینڈ باکس میں چلنا چاہیے اور کن کو براہِ راست رسائی مل سکتی ہے: (1) برانچوں کی روزانہ رپورٹوں کا خلاصہ، (2) کسٹمر ڈیٹابیس پر SQL کوئریز لکھنا، (3) صارفین کو ای میل کا مسودہ، (4) SBP کے لیے کمپلائنس رپورٹس بنانا، (5) اردو قرض درخواستوں کا ترجمہ۔ ہر ایک پر جواز دیں۔'