اے آئی میں شفافیت کا مطلب: بلیک باکس بمقابلہ شیشے کا باکس

تین طریقے

1. 1

   اے آئی میں شفافیت کے تین ٹھوس مطلب ہیں اور انہیں ملا دینا پاکستان کی زیادہ تر خراب پروکیورمنٹ کا سبب ہے۔ پہلا، ماڈل شفافیت: ماڈل کس ڈیٹا پر بنا، کس نے بنایا، آج کون سا ورژن چل رہا ہے۔ دوسرا، فیصلہ شفافیت: سسٹم کے کسی بھی نتیجے کے لیے کیا آپ بتا سکتے ہیں کہ یہی کیوں نکلا، کوئی اور کیوں نہیں۔ تیسرا، آپریشنل شفافیت: وینڈر یا خریدار کے ہاں کون لاگز دیکھ سکتا ہے، سیٹنگز بدل سکتا ہے، فیصلے پلٹ سکتا ہے، اور کس اختیار سے۔ جو وینڈر ایک پر پورا اترے اور باقی دو خاموشی سے چھوڑ دے، وہ آپ کو آدھے شیشے کا باکس بیچ رہا ہے۔

2. 2

   بلیک باکس سسٹم وہ ہے جس کے اندرونی کام ان لوگوں سے چھپے ہیں جن پر اس کا نتیجہ اثر کرتا ہے۔ نتائج بہترین ہو سکتے ہیں۔ ماڈل کا وزن Hugging Face پر کھلا بھی ہو سکتا ہے۔ ان میں سے کچھ بھی اہم نہیں اگر BISP کیش کاؤنٹر پر کھڑا شہری، HBL کریڈٹ فیصلے کے سامنے قرض گزار، PEC امتحانی بورڈ کا استاد یہ نہیں جان سکتا کہ سسٹم نے اس کے کیس میں یہی کیوں کہا۔ بلیک باکس کی خاصیت رسائی کی ہے، ریاضی کی نہیں۔ FBR کی بند دراز میں رکھی سادہ قواعد کی شیٹ بھی اتنی ہی غیر شفاف ہے جتنا 70 ارب پیرامیٹر والا ٹرانسفارمر۔

3. 3

   شیشے کا باکس وہ ہے جہاں کسی بھی فیصلے کے لیے ایک مجاز شخص یہ ریکارڈ نکال سکے: یہ ان پٹ تھا، یہ ماڈل اور ورژن تھا، یہ وہ بنیادی وجوہات تھیں جنہوں نے ماڈل کو یہ نتیجہ دلوایا، یہ اعتماد کا درجہ تھا، یہ وہ انسان تھا جو فیصلہ پلٹ سکتا تھا، یہ وہ پالیسی تھی جس نے پلٹنے کی اجازت دی یا روکی۔ شیشے کا باکس کا مطلب یہ نہیں کہ ہر وزن شائع ہو۔ مطلب یہ ہے کہ ہر بامعنی فیصلے کا قابلِ بازآفرینی آڈٹ ٹریل ہو۔ شفافیت کئی پرتوں کی چیز ہے، مختلف سامعین کو باکس میں مختلف کھڑکیاں چاہئیں۔

کیوں؟

Claude کے ساتھ آزمائیں

اختتامی چیلنج، اگلے ہفتے سے پہلے تین اقدامات۔ (1) اپنے محکمے میں ایک اے آئی سے متعلق کام چنیں (شناختی کارڈ تصدیق، BISP اہلیت، ٹریفک چالان، FBR آڈٹ انتخاب، کچھ بھی)۔ لکھیں کیا یہ ابھی ماڈل، فیصلہ اور آپریشنل شفافیت پوری کرتا ہے۔ (2) سب سے زیادہ متاثرہ شہری طبقہ پہچانیں اور پوچھیں: اگر انہیں غلط جواب ملے، کیا وہ اردو میں اپیل کر سکتے ہیں؟ (3) سبق 02 سے ماڈل کارڈ کی درخواست اپنے وینڈر کو بھیجیں اور جواب کا اسکرین شاٹ لیں۔