پاکستانی بینکوں میں گاہک سے بات کرنے والے چیٹ بوٹ

تین طریقے

1. 1

   بینکنگ میں LLM چیٹ بوٹ چار نئے رسک لاتے ہیں جو پرانے rule-based میں نہیں تھے۔ Hallucination: بوٹ غیر موجود پالیسی گھڑ سکتا ہے۔ Prompt injection: گاہک guardrails کو bypass کرا سکتا ہے۔ چینل کا فرق: واٹس ایپ کا غیر رسمی جواب رسمی commitment بن سکتا ہے۔ کمپلائنس کا اخراج: بوٹ وہ بتا دے جو انسان نہیں بتاتا۔ ہر ایک کا الگ کنٹرول۔

2. 2

   پہلا کنٹرول: ہر جواب کو اپنی منظور شدہ پالیسی پر ground کریں۔ Retrieval-augmented generation جہاں ماڈل صرف منظور شدہ مواد سے جواب دے، hallucination کو بہت کم کرتا ہے۔ بینک الفلاح اور HBL اس طرف بڑھ رہے ہیں۔ سرمایہ کاری vector database اور indexing pipeline، نئی بھرتی نہیں۔

3. 3

   دوسرا کنٹرول: مالی بات پر human-in-the-loop۔ پیسوں کی کارروائی، شرح، فیس، یا commitment پر بوٹ کا جواب 60 سیکنڈ میں انسان کو routed، پھر گاہک کو۔ گاہک 60 سیکنڈ تاخیر اپنی غلط معلومات سے بہتر سہتا ہے۔ سادہ، سستا، سب سے بڑا اثر۔

کیوں؟

Claude کے ساتھ آزمائیں

آزمانے کے لیے پرامپٹ: 'پاکستانی بینکنگ گاہک تجربہ آڈیٹر کے طور پر، رومن اردو اور اردو میں دس adversarial پرامپٹس بتاؤ جو بینک چیٹ بوٹ کو stress test کریں، prompt injection، hallucination، اور بدتمیز گاہک پر۔' red-team پیک۔