AI کے سانحے: جب الگورتھم شہریوں کو نقصان پہنچائیں

تین طریقے

1. 1

   عوامی شعبے کے AI سانحے کو پہلے اصولوں پر لائیں تو ایک باقاعدہ نمونہ تین قدموں میں ملتا ہے۔ پہلا: حقیقی کارآمدگی کا مقصد جس کی ہر کوئی حمایت کرتا ہے۔ دوسرا: ایک آٹومیشن جو کئی انسانی فیصلوں کو ایک الگورتھمک فیصلے میں دباتی ہے، پیمانے کے نام پر انسانی جائزہ ہٹا کر۔ تیسرا: feedback signal جو نقصان جمع ہونے سے پہلے سامنے لانے کے لیے بہت سست یا خاموش ہے۔ سانحہ کسی ایک قدم میں نہیں۔ وہ مجموعے میں ہے، اور مجموعہ وہ ہے جسے سرکاری افسران منفرد طور پر دیکھ سکتے ہیں۔

2. 2

   Robodebt درسی کیس ہے مگر اکیلا نہیں۔ نیدرلینڈز کا SyRI ویلفیئر فراڈ نظام 2020 میں عدالت نے غیر متناسب طور پر کم آمدنی والے تارکینِ وطن محلوں کو نشانہ بنانے پر ختم کیا۔ UK کی Post Office کا Horizon سسٹم، اگرچہ سختی سے AI نہیں، نے سافٹ ویئر سے بنی بے ضابطگیوں سے 700 سے زائد سب پوسٹ ماسٹرز پر مقدمات چلائے، زندگیاں اور روزگار تباہ کیے، جو اب جدید برطانوی تاریخ کا سب سے بڑا انصاف کا قتل سمجھا جاتا ہے۔ Michigan کے MiDAS بے روزگاری فراڈ کا نظام 2013 تا 2015 میں 40,000 سے زائد لوگوں پر غلط الزام لگا چکا، 93 فیصد غلطی کی شرح کے ساتھ۔ فرانس کے CAF ویلفیئر فراڈ اسکورنگ کو سماجی تفریق پکا کرنے پر عدالت میں چیلنج کیا گیا۔ ہر ایک میں Robodebt والا نمونہ تھا۔

3. 3

   پاکستان کی مشابہتیں سوچنا آسان ہے، تسلیم کرنا مشکل۔ تصور کریں FBR کا AI پر چلتا فلیگ شپ جو 100,000 چھوٹے تاجروں کو خود کار نوٹس بھیجے، جنہیں ایسے ٹیکس چوری ماڈل نے نشان زد کیا جو کریانہ شعبے پر کبھی ٹیسٹ نہیں ہوا۔ تصور کریں BISP کا اخراج فیصلہ خاندانی گاڑی کی ملکیت پر، جب رجسٹرڈ گاڑی دراصل وفات یافتہ والد کی ہے جسے خاندان قانونی طور پر دوبارہ رجسٹر نہیں کر سکتا۔ تصور کریں ایک AI جو ڈومیسائل درخواستوں کو درجہ بند کرے اور ہزارہ ناموں کو خاموشی سے پیچھے کرے کیونکہ تربیتی ڈیٹا میں وہ کم تھے۔ ہر منظر ممکن ہے۔ ہر ایک قابلِ روک ہے، مگر صرف چین کے کسی افسر سے جو Robodebt کا نمونہ جلد پہچانے۔

کیوں؟

Claude کے ساتھ آزمائیں

AI پرامپٹ: 'آسٹریلوی Robodebt رائل کمیشن کی شائع شدہ نتائج پڑھیں۔ پاکستان کے ایڈیشنل سیکرٹری کے لیے ٹاپ دس اسباق نکالیں جو AI پر مبنی فلیگ شپ شہری خدمات پروگرام لانچ کرنے والے ہیں۔ ہر سبق کے لیے ایک مخصوص پیراگراف دیں جو وہ کابینہ سمری میں شامل کرے، اور ایک بیوروکریٹک حفاظت جو وزیر بدلنے کے بعد بھی برقرار رہے۔'