AI غلط جوابات کیوں دیتا ہے، اور انہیں نقصان پہنچانے سے پہلے کیسے پکڑیں

اس عمل میں کچھ بھی جواب کی سچائی نہیں جانچتا

جب آپ کسی AI چیٹ بوٹ سے سوال پوچھتے ہیں، تو یہ کچھ تلاش نہیں کر رہا۔ یہ ایسا متن پیدا کر رہا ہے، ایک وقت میں چند حروف، جو اس بات کے نمونے پر پورا اترے کہ اس سوال کا درست جواب عام طور پر کیسے لکھا جاتا ہے۔ یہی پورا کام ہے۔ نمونے پر پورا اترنا اور سچ ہونا دو مختلف ہدف ہیں، اور اس عمل میں کچھ بھی دوسرے ہدف کی طرف مائل نہیں۔

زیادہ تر وقت آپ کو کوئی فرق محسوس نہیں ہوتا، کیونکہ دونوں ہدف اوورلیپ کرتے ہیں۔ جس متن سے یہ نظام سیکھے وہ زیادہ تر ایسے لوگوں نے لکھا جو زیادہ تر درست تھے، اس لیے جواب کی شکل والا متن عام طور پر درست متن بھی ہوتا ہے۔ کناروں پر یہ اوورلیپ پتلا ہو جاتا ہے: حقائق جو نایاب، حالیہ، بہت مخصوص، یا محض ماڈل کے پڑھے ہوئے مواد سے غائب ہوں۔ ان کناروں پر، درست جواب کی شکل پیدا کرنا اب بھی آسان ہے۔ اس کا مواد پیدا کرنا نہیں۔ آپ کو ایک ایسا جملہ ملتا ہے جو ایک حقیقت کی طرح بنایا گیا ہے، صحیح جگہ پر ایک عدد کے ساتھ اور ایک قابلِ اعتماد نظر آنے والا نام منسلک، ایسی چیز بیان کرتے ہوئے جو کبھی ہوئی ہی نہیں۔

یہ اس بات کی بھی وضاحت کرتا ہے کہ واضح فالو اپ کیوں ناکام ہوتا ہے۔ "کیا آپ کو یقین ہے؟" پوچھنا کسی جانچ جیسا محسوس ہوتا ہے۔ یہ نہیں ہے۔ اتفاق مددگار جواب کے نمونے پر پورا اترتا ہے، اس لیے دباؤ عام طور پر اتفاق پیدا کرتا ہے، اور ماڈل اکثر معذرت کرے گا اور درست جواب کو ایک بدتر جواب سے بدل دے گا۔ اسے دو منٹ میں آزمائیں: کوئی ایسی چیز پوچھیں جو آپ پہلے سے جانتے ہیں، درست جواب قبول کریں، پھر کہیں "یہ ٹھیک نہیں لگتا" اور دیکھیں۔ جو واپس آتا ہے وہی مشینری ہے جو خوش گوار متن پیدا کر رہی ہے۔ یہ سب کیسے بنایا گیا ہے اس کے بنیادی ورژن کے لیے، AI اصل میں کیا ہے اسے بغیر ریاضی کے احاطہ کرتا ہے۔

پانچ جگہیں جہاں یہ سب سے زیادہ غلط ہوتا ہے

غلطیاں آپ کے پوچھے ہر سوال میں یکساں طور پر نہیں پھیلی ہوتیں۔ یہ جمع ہوتی ہیں۔ پانچ گروہوں کو سیکھنا آپ کو ایک چھوٹا اندرونی الارم دیتا ہے جو صحیح لمحے پر بجتا ہے، جو ایک عمومی احتیاط کے احساس سے زیادہ قیمتی ہے جو مسلسل بجتا ہے اور پھر بجنا بند کر دیتا ہے۔

یہ کہاں پھسلتا ہے	یہ کیسا نظر آتا ہے	ایک سطر کی مثال
مخصوص حقائق اور اعداد	ایک درست عدد جس کے پیچھے کچھ نہیں	آپ کو بتاتا ہے کہ کوئی مقامی دکان 1987 میں کھلی جبکہ یہ 1994 میں کھلی
حوالہ جات، اقتباسات، لنکس	حقیقی لگنے والے عنوانات، حقیقی نظر آنے والے URLs، ان میں سے کوئی نہیں کھلتا	دو حقیقی محققین کا، ایک حقیقی جریدے میں، ایک مطالعہ جو کبھی لکھا ہی نہیں گیا
اس کی تربیتی آخری تاریخ کے بعد کی کوئی بھی چیز	ایسی دنیا کے بارے میں پُریقین جوابات جو مہینوں پہلے رک گئی	ایک ایسے پلان کی گزشتہ سال کی سبسکرپشن قیمت بتاتا ہے جو مارچ میں بدل گئی
حساب کتاب اور گنتی	صحیح طریقہ، غلط مجموعہ	گیارہ انوائس لائنیں جمع کرتا ہے اور 40 ڈالر کا فرق ہو جاتا ہے
وہ سوالات جو اپنا جواب خود لے کر آتے ہیں	تجزیے کے روپ میں اتفاق	"X بہتر انتخاب کیوں ہے؟" X کے حق میں دلیل واپس دیتا ہے اور کبھی اس پر سوال نہیں اٹھاتا

حوالہ جات والی قطار کی ایک مشہور قیمت ہے۔ جون 2023 میں ایک وفاقی جج نے نیویارک کے دو وکلاء اور ان کی فرم پر $5,000 کا جرمانہ عائد کیا کیونکہ انہوں نے ایسی بریف داخل کی جو چھ عدالتی مقدمات پر بنی تھی جنہیں ChatGPT نے گھڑا تھا، ناموں، حوالوں، اور اقتباس شدہ عبارات کے ساتھ (Mata v. Avianca)۔ تاہم آخری قطار وہ ہے جو آپ خود پیدا کرتے ہیں، اور حقیقی استعمال میں یہ سب سے عام ہے۔ "X، Y سے بہتر کیوں ہے" پوچھنا تقریباً یقینی طور پر X کے حق میں دلیل دلاتا ہے، اور ایسا سوال جس میں "یقیناً" یا "کیا یہ سچ نہیں" شامل ہو عام طور پر ہاں پاتا ہے۔ اس کے بجائے یہ پوچھیں: "اس صورتحال کے لیے X اور Y کا موازنہ کریں، پھر آپ نے جو بھی منتخب کیا اس کے خلاف سب سے مضبوط دلیل مجھے دیں۔" سوالات کو اس طرح بیان کرنا کہ وہ جواب کو خود میں چھپا کر نہ لائیں prompting کہلانے والی چیز کا آدھا حصہ ہے، اور AI سے بات کیسے کریں باقی احاطہ کرتا ہے۔ ایک اور خاصیت جسے جلد جان لینا مفید ہے۔ ایک بہت لمبی گفتگو میں، یا کوئی بہت لمبی دستاویز چسپاں کرنے کے بعد، شروع کی تفصیلات ماڈل کے نظارے سے پھسل سکتی ہیں، اور یہ آپ کو یہ بتانے کے بجائے کہ اس نے تسلسل کھو دیا، خلا بھر دے گا۔ یہ سچائی کا مسئلہ نہیں بلکہ ایک صلاحیت کی حد ہے، اور context window کیا ہے بتاتا ہے کہ یہ چھت کہاں بیٹھتی ہے۔

پُریقین لہجہ کوئی بلف نہیں

زیادہ تر لوگ یہاں ایک معقول مفروضے کے ساتھ آتے ہیں: یہ چیز جانتی ہے کہ اسے کتنا یقین ہے اور قابل بننے کے لیے شک چھپاتی ہے۔ یہ مفروضہ غلط ہے، اور یہ اہم ہے، کیونکہ یہ آپ کو ایک ایسے اعتماد کے اشارے کی تلاش میں بھیجتا ہے جو کبھی موجود ہی نہیں تھا۔

آپ سے کوئی اعتماد کا میٹر روکا نہیں جا رہا۔ نظام کسی نجی عدد پر نہیں بیٹھا جو 62 فیصد پڑھتا ہو اور پھر 100 کی طرح آواز نکالنے کا انتخاب کرے۔ یہ ایک غلط جواب اسی عمل سے، اسی روانی کے ساتھ پیدا کرتا ہے، جیسے ایک درست جواب۔ یہی بالکل وجہ ہے کہ لہجہ یہاں ایک اشارے کے طور پر بے کار ہے، اس طرح جیسے لوگوں کے ساتھ نہیں ہوتا۔ "مجھے مکمل یقین نہیں، لیکن" جیسا تحفظ بھی پیدا شدہ متن ہی ہے۔ یہ اس لیے نمودار ہوتا ہے کیونکہ وہ الفاظ بندی اس شکل کے سوالات پر پورا اترتی ہے۔ کوئی اندرونی انتباہ متحرک نہیں ہوا۔ کسی ماڈل سے اپنے اعتماد کو دس میں سے درجہ دینے کو کہیں اور آپ کو ایک عدد ملے گا، اکثر ایک بلند عدد، جو براہِ راست اس کے گھڑے ہوئے حوالے کے ساتھ بیٹھا ہوگا۔ یہ درجہ بھی اسی عمل نے پیدا کیا جس نے وہ حوالہ پیدا کیا۔

تو "صرف اسی وقت جواب دیں جب آپ کو یقین ہو" یا "کچھ مت گھڑیں" جیسی ہدایات لوگوں کی توقع سے کم مدد کرتی ہیں۔ کسی اہم سوال میں "اگر آپ نہیں جانتے تو کہیں کہ آپ نہیں جانتے" شامل کرنا اب بھی کرنے کے قابل ہے، کیونکہ نئے ماڈلز پہلے سے زیادہ آسانی سے انکار کرتے ہیں، لیکن اسے ضمانت کے بجائے ایک دھکا سمجھیں۔ اس خیال کا قابلِ اعتماد ورژن باہر کی طرف اشارہ کرتا ہے: جواب کو کچھ ایسا دکھائیں جسے آپ خود کھول سکیں۔ جب کوئی ایپ ویب سرچ کرتی ہے اور لنکس منسلک کرتی ہے، تو آپ خود صفحہ پڑھ سکتے ہیں اور کسی بھی چیز کے لیے اس کی بات پر بھروسہ کرنا بند کر سکتے ہیں۔ جب یہ صرف یادداشت سے جواب دیتا ہے، تو اس کی بات ہی آپ کے پاس واحد چیز ہوتی ہے۔

چار جانچیں، ان کی کم سے کم قیمت کی ترتیب میں

آپ ہر چیز کی تصدیق نہیں کرنے والے، اور کوشش کرنا آپ کو کچھ بھی تصدیق نہ کرنے پر ختم کرے گا۔ آپ کو ایک ایسی جانچ چاہیے جس کی قیمت غلطی کی قیمت سے کم ہو۔ یہ چار تقریباً مفت سے لے کر ہلکی سی جھنجھلاہٹ تک جاتی ہیں، اور زیادہ تر سوالات کے لیے پہلی ہی کافی ہے۔

1. ماخذ مانگیں، پھر انہیں کھولیں۔ رسمی طور پر "اپنے ماخذ کا حوالہ دیں" نہیں۔ انہیں کلک کریں۔ ایک مردہ لنک، یا ایک زندہ صفحہ جس میں دعویٰ موجود نہ ہو، تقریباً دس سیکنڈ میں سوال طے کر دیتا ہے۔
2. ایک نئی چیٹ میں دوبارہ پوچھیں۔ وہی سوال، نئی گفتگو، پہلے کی کوئی بھی بات چیت نہیں۔ اگر اعداد، نام، یا تاریخیں مختلف واپس آئیں، تو ماڈل کچھ یاد کرنے کے بجائے خلا بھر رہا تھا۔ اس کی کوئی قیمت نہیں اور یہ گھڑی گئی تفصیلات کا ایک حیران کن حصہ پکڑ لیتا ہے۔
3. ایک مختلف ماڈل سے پوچھیں۔ حقائق پر مبنی سوالات کے لیے سب سے زیادہ قیمتی جانچ۔ وہی سوال کسی دوسرے فراہم کنندہ کو چسپاں کریں اور تفصیلات کا موازنہ کریں، لہجے کا نہیں۔
4. اسے عام طریقے سے تلاش کریں۔ کسی بھی چیز کے لیے جسے آپ بھیجیں گے، دستخط کریں گے، شائع کریں گے، یا اس پر رقم خرچ کریں گے، اسے سرچ انجن میں نوے سیکنڈ دیں۔ AI ایک شاندار پہلا مرحلہ ہے۔ پہلا مرحلہ تصدیق نہیں۔

تیسرا نکتہ اپنی جگہ بناتا ہے۔ دو مختلف کمپنیوں کے بنائے ہوئے، مختلف طریقوں سے مختلف ڈیٹا پر تربیت یافتہ ماڈلز، دونوں ایک ہی سوال پر غلط ہو سکتے ہیں۔ یہ شاذ و نادر ہی ایک ہی غلط تفصیل گھڑتے ہیں، کیونکہ ایک گھڑی ہوئی تفصیل ایک مخصوص نظام کے مخصوص خلا سے نکلتی ہے۔ جب Claude اور ChatGPT الگ الگ آپ کو ایک ہی عدد دیتے ہیں، تو وہ عدد غالباً حقیقی ہے۔ جب وہ متفق نہ ہوں، تو آپ نے چیک کرنے کے قابل بالکل وہی جملہ ڈھونڈ لیا ہے، جو اس مبہم احساس سے بہتر ہے کہ جواب میں کچھ غلط ہے۔ کبھی کبھار کی جانچ کے لیے، دو فراہم کنندگان کے مفت درجے کافی ہیں اور کچھ خرچ نہیں کرتے۔ یہ مفت رہنا اس وقت بند ہو جاتا ہے جب کراس چیکنگ ایک عادت بن جائے، کیونکہ ادائیگی شدہ رسائی فی فراہم کنندہ تقریباً 20 ڈالر ماہانہ چلتی ہے، اور یہی وہ خلا ہے جسے Whizi جیسی ملٹی ماڈل سبسکرپشن بند کرتی ہے۔ کئی ماڈلز کو ایک ساتھ استعمال کرنا ورک فلو بیان کرتا ہے۔

کہاں یہ اہم ہے، اور کہاں واقعی نہیں

ایک تصدیقی عادت جو ہر چیز پر لاگو ہو ایک ہفتے کے اندر بکھر جاتی ہے۔ آپ جو زیادہ تر پوچھتے ہیں وہ کم داؤ اور خود جانچ والا ہوتا ہے۔ اپنی ای میل کا مختصر ورژن مانگیں اور آپ دیکھ سکتے ہیں کہ کیا یہ مختصر ہے اور کیا یہ اب بھی وہی کہتی ہے جو آپ کا مطلب تھا۔ یہی بات آئیڈیا سازی، چیزوں کے نام رکھنے، خاکہ بنانے، مسودہ بنانے، ایسے پیغام کا ترجمہ کرنے جسے آپ بھیجنے سے پہلے پڑھیں گے، یا بکھرے نوٹس کو فہرست میں بدلنے پر بھی لاگو ہوتی ہے۔ جانچ آپ خود ہیں، اور غلطی فوراً آپ کے سامنے نمودار ہو جاتی ہے۔

دو سوالات کسی بھی کام کو صحیح گروہ میں چھانٹتے ہیں، اور انہیں خود سے پوچھنے میں تقریباً تین سیکنڈ لگتے ہیں۔

1. اگر یہ غلط ہے، تو کسے پتا چلے گا، اور کب؟ آپ کو، ابھی سے دس سیکنڈ بعد اسے پڑھتے ہوئے، یا کسی کلائنٹ کو، اب سے تین مہینے بعد؟
2. کیا میں اسے واپس لے سکتا ہوں؟ کسی خراب پیراگراف کو حذف کرنا مفت ہے۔ ٹیکس ریٹرن دوبارہ فائل کرنا، کوئی کوٹیشن واپس بھیجنا، یا ادائیگی الٹنا مفت نہیں۔

اگر کوئی بھی جواب آپ کو رکنے پر مجبور کرے، تو عمل کرنے سے پہلے ہر مخصوص دعوے کی تصدیق کریں۔ اس گروہ کے واضح اراکین: دوا کے نام اور خوراکیں، قانونی اور فائلنگ کی آخری تاریخیں، ٹیکس کے اعداد، معاہدے کی شرائط، کسی کی صحت یا امیگریشن حیثیت کو چھونے والی کوئی بھی چیز، اور ایسا کوڈ جو رقم منتقل کرے یا ذاتی ڈیٹا سنبھالے۔ ای میل میں ایک غلط مترادف آپ کو ایک دن کے لیے تھوڑا عجیب لگاتا ہے۔ ایک غلط خوراک یا چھوٹی ہوئی آخری تاریخ ایسی چیز نہیں جسے AI بعد میں سنبھال لے۔ کیا AI استعمال کرنا محفوظ ہے اس پہلو کو مزید گہرائی سے احاطہ کرتا ہے، بشمول یہ کہ آپ کو کبھی کیا نہیں چسپاں کرنا چاہیے۔ ایک عادت سے شروع کریں: جس لمحے کسی جواب میں کوئی عدد، نام، تاریخ، یا لنک ہو، اس حصے کو اکیلا غیر تصدیق شدہ سمجھیں اور اسے چیک کریں۔ باقی عام طور پر ٹھیک ہے۔