تعصب کا آڈٹ: پاکستانی سیاق میں انصاف کی پیمائش
Bias audits: measuring fairness in the Pakistani context
38 منٹ
تین طریقے
اے آئی میں تعصب وہ منظم نقصان ہے جو ایک گروہ کو دوسرے کے مقابلے میں ماڈل کے نتائج سے ملتا ہے، چاہے ان پٹ میں گروہی شناخت کا ذکر نہ ہو۔ ماڈل کو لفظ 'عورت' یا 'سندھی' یا 'مسیحی' دیکھنے کی ضرورت نہیں۔ وہ ذرائع سے اندازہ لگاتا ہے: نام کی ہجے، پوسٹل کوڈ، استعمال کی گئی زبان، دستاویز کی تصویری معیار۔ متعصب تاریخ پر تربیت یافتہ ماڈل صاف مستقبل کے ان پٹ پر بھی تعصب دہرائے گا۔ یہی مرکزی تضاد ہے: ماڈل کی سطحی غیر جانبداری ہی اس کے ورثے میں ملے تعصب کو خطرناک بناتی ہے۔
تعصب کا آڈٹ ماڈل کی کارکردگی کی منظم پیمائش ہے، حساس اور محفوظ سب گروپس کے درمیان۔ آڈٹ ایک پیمائش چنتا ہے (درستگی، غلط مثبت شرح، غلط منفی شرح، منظوری شرح، جذبات سکور)، ایک تقسیم چنتا ہے (جنس، زبان، صوبہ، عمر، مذہب کا اشاریہ)، ماڈل کو نمائندہ نمونے پر چلاتا ہے، اور بہترین و بدترین سب گروپ کے فرق کی رپورٹ دیتا ہے۔ اگر فرق پہلے سے طے شدہ حد سے زیادہ ہو، ماڈل آڈٹ میں ناکام، اور اصلاح کے بغیر چلانا ممنوع۔ آڈٹ ایک بار کا دروازہ نہیں۔ یہ بار بار، ترجیحاً سہ ماہی، تازہ پروڈکشن ڈیٹا پر پیمائش ہے۔
پاکستان کے مخصوص محور جنہیں عالمی وینڈرز پہلے سے ناپتے ہی نہیں۔ زبان: ناسخ اردو، رومن اردو، انگریزی۔ علاقہ: پنجاب، سندھ، KP، بلوچستان، AJK، GB۔ جنس: عائشہ، فاطمہ بمقابلہ احمد، بلال۔ مذہب کا اشاریہ: ڈیوڈ مسیح، سریش کمار جیسی شناخت۔ طبقاتی اشاریہ: CV جانچ میں اعلیٰ اسکول بمقابلہ سرکاری اسکول کے نام۔ معذوری کا اشاریہ: چیٹ بوٹ میں مددگار زبان۔ مہاجر اشاریہ: افغان ناموں کے انداز۔ اگر وینڈر آپ کے ضروری محوروں پر فی محور نمبر نہ دے سکے، تو آڈٹ ہوا ہی نہیں۔
فوری چیک
فوری چیک: جدید AI روایتی قاعدہ بنیاد پروگرام سے کس طرح مختلف ہے؟
کیوں؟
کیوں کا پہلا درجہ: اگر ماڈل 'صرف ریاضی کر رہا ہے' تو آڈٹ کیوں؟ کیونکہ متعصب تاریخ پر لاگو ریاضی متعصب مستقبل بناتی ہے، صرف زیادہ تیزی اور بڑے پیمانے پر۔ آڈٹ ہی واحد طریقہ ہے کہ شہری شکایت سے پہلے یہ پتہ چلے۔ شہری اکثر شکایت نہیں کرتے، وہ صرف کوشش چھوڑ دیتے ہیں۔
Claude کے ساتھ آزمائیں
اختتامی چیلنج، تین اقدامات۔ (1) اپنے ایک اے آئی سسٹم کے لیے، شہریوں کے سب سے اہم تین سب گروپ محور لکھیں؛ اگر تین نہیں لکھ سکتے، آپ کا آڈٹ نامکمل ہے۔ (2) ڈیٹا دیکھنے سے پہلے ایک عددی انصاف کی حد طے کریں (مثلاً درستگی کا فرق 5 فیصد سے زیادہ نہ ہو)؛ نتائج کے بعد طے ہونے والی حدیں حدیں نہیں۔ (3) اگلا سہ ماہی آڈٹ آج اپنے کیلنڈر پر رکھیں، ذمہ دار کا نام لکھ کر۔
ماخذ
ماخذ اور مزید مطالعہ۔ Buolamwini اور Gebru، Gender Shades (2018) چہرہ تجزیہ کے تعصب پر۔ Barocas، Hardt، Narayanan، Fairness and Machine Learning (fairmlbook.org)۔ NIST AI RMF MEASURE حصہ۔ EU AI Act کا آرٹیکل 10 ڈیٹا اور ڈیٹا گورننس پر۔ پاکستان قومی اے آئی پالیسی 2025 انصاف کی شقیں۔ SBP صارفین کے منصفانہ سلوک کی ہدایات۔ کیلیفورنیا ADMT ضوابط تعصب آڈٹ پر۔ UK ICO اے آئی اور ڈیٹا تحفظ پر رہنمائی۔