چرا یک مدل کافی نیست
استدلال رایج برای استفاده از چند مدل هوش مصنوعی این است که هرکدام در چیزی بهترند، پس باید برای هر کار بهترین را انتخاب کنید. درست است، اما کمجذابترین دلیل همین است.
دلیل بهتر این است که یک مدل نمیتواند نقاط کور خودش را ببیند. از مدلی بخواهید کار خودش را بررسی کند و بیشتر وقتها تأییدش میکند، چون همان وزنهایی که خطا را ساختند، اطمینان را هم ساختهاند. از مدلی دیگر بپرسید که جور دیگری روی دادههای دیگر آموزش دیده و شیوههای شکست متفاوتی دارد، و چیزهایی را میبیند که اولی نمیتوانست. این یک ترفند نیست، همان دلیلی است که از یک همکار میخواهید ایمیلتان را پیش از ارسال به مشتری بخواند.
دلیل دوم عملی است: صدرنشینی مدلها مدام عوض میشود. کسی که این فصل در برنامهنویسی بهترین است، شاید فصل بعد نباشد. روندی که روی یک فروشنده بنا شده، هر بار که رتبهبندی تغییر کند باید از نو ساخته شود. روندی که بر پایهٔ جابهجایی بین مدلها بنا شده چنین مشکلی ندارد.
آنچه در ادامه میآید چهار الگو است، به ترتیب ارزشی که نسبت به زحمتشان اضافه میکنند. به هر چهار تا نیاز ندارید. بیشتر مردم تقریباً همهچیز را از دو تای اول میگیرند.
الگوی ۱: پیشنویس بنویسید، بعد با مدلی دیگر نقد کنید
ارزشمندترین الگو، و همانی که تقریباً هیچکس به کار نمیبرد. با یک مدل بنویسید، با مدل دیگری بازبینی کنید.
کار میکند چون تولید و ارزیابی دو شغل متفاوتاند. مدلی که متن تولید میکند دنبال ادامهای منسجم است. مدلی که متنی را ارزیابی میکند که خودش ننوشته، هیچ سرمایهای در آن استدلال ندارد، پس میگوید بند سوم نتیجه نمیدهد، به جای اینکه رویش سرپوش بگذارد.
اینجا خودِ prompt اهمیت زیادی دارد. پرسیدن «نظرت دربارهٔ این چیست» فقط تعریف نصیبتان میکند. به جایش این را بخواهید:
متن زیر را تو ننوشتهای و هیچ نفعی در آن نداری. مثل یک ویراستار شکاک بررسیاش کن. به این ترتیب فهرست کن: ۱) هر ادعای واقعی که نادرست، بدون پشتوانه یا اغراقآمیز است، ۲) هر جایی که استدلال واقعاً نتیجه نمیدهد، ۳) ضعیفترین بند و دقیقاً چرا. هیچ چیز را بازنویسی نکن. به من نگو چه چیزی خوب است.
سه دستور پایانی کار اصلی را انجام میدهند. «بازنویسی نکن» جلوی تولید نسخهای با صدای خودش را میگیرد، که چیزی نیست که خواسته بودید. «نگو چه چیزی خوب است» تعریفهای بازتابی را حذف میکند که بیشتر بازخوردهای هوش مصنوعی را پر میکنند. «این را تو ننوشتهای» چارچوببندی بهطرز شگفتآوری مؤثری است، چون جلوی دفاع مدل از انتخابهایی را میگیرد که آنها را از آنِ خود میداند.
بعد نقد را با بخشهایی که با آنها موافقید به مدل اول برگردانید. شما ویراستاری هستید که تصمیم میگیرد کدام یادداشتها پذیرفته شوند، و تقسیم کار دقیقاً باید همین باشد.
کجا ارزش آن دو دقیقهٔ اضافه را دارد: هر چیزی که به دست مشتری میرسد، هر چیز عمومی، هر جایی که اشتباهبودن گران تمام میشود. کجا ندارد: یک پیام کوتاه کاری، یک طرح اولیه، یک فهرست خرید.
الگوی ۲: بررسی اختلاف
این نزدیکترین چیز به یک آشکارساز قابلاعتماد توهم است که نیازی به راستیآزمایی دستی همهچیز ندارد.
همان پرسش واقعی را بهطور مستقل با همان prompt از دو مدل متفاوت بپرسید. بعد مقایسه کنید. جایی که موافقاند، احتمالاً مشکلی نیست. جایی که اختلاف دارند، دقیقاً نقطهای را یافتهاید که باید بررسی شود.
تمام تکنیک همین است، و قدرتمند است چون توهمها معمولاً مشترک نیستند. وقتی مدلی آماری، نام پروندهای، امضای تابعی یا تاریخی از خودش درمیآورد، مدلی دیگر که جور دیگری آموزش دیده بهندرت همان را از خودش درمیآورد. توافق شاهد ضعیفی بر درستی است. اختلاف شاهد قویای بر این است که چیزی اشتباه است، و مستقیم به آن اشاره میکند.
برای هر چیزی که چند ادعا دارد، بگذارید خودِ مقایسه کار را برایتان انجام دهد:
در زیر دو پاسخ به یک پرسش آمده، با نشان A و B. سبک و طول را نادیده بگیر. هر نقطهٔ محتوایی را که با هم اختلاف دارند فهرست کن، از جمله تفاوت در اعداد، تاریخها، نامها و اینکه چیزی با چه شدتی ادعا شده. برای هر اختلاف بگو کدام محتملتر درست است و کدام منبع واحد آن را قطعی میکند.
در پایان به جای سندی بلند برای راستیآزمایی، فهرستی کوتاه از چیزهایی دارید که باید بررسی شوند، و این فهرست معمولاً درست نشان میدهد مشکل کجاست.
دو هشدار. اول، اگر خطایی در اینترنت رایج باشد مدلها میتوانند در آن شریک شوند، پس این روش جعل را میگیرد نه اطلاعات نادرست گسترده را. دوم، چون دو مدل موافق بودند از راستیآزمایی صرفنظر نکنید. این کار دامنهٔ بررسی را محدود میکند، نیاز به بررسی را از بین نمیبرد.
کجا به کار ببرید: آمار، ادعاهای حقوقی و پزشکی، واقعیتهای تاریخی، جزئیات API، هر چیزی که به نام شما نقل خواهد شد. کجا نه: نظر شخصی، کار خلاقانه و هر جایی که تقریباً درستبودن کافی است.
الگوی ۳: مسیردهی بر اساس کار
الگوی بدیهی، که ارزش دارد درست انجامش دهید. هر نوع کار را به مدلی بفرستید که در آن بهترین است، نه به هر مدلی که همان لحظه باز است.
| کار | سراغ چه بروید | چرا |
|---|---|---|
| پیشنویس اول هر متن | قویترین مدل نویسنده | زمان ویرایش را کم میکنید |
| بازبینی همان پیشنویس | یک مدل متفاوت | چشم تازه، شیوههای شکست متفاوت |
| هر چیزی دربارهٔ همین هفته | مدلی با جستجوی زنده | دادهٔ آموزشی همیشه عقب است |
| سند یا کدبیس بسیار بلند | مدلی با زمینهٔ بزرگ | اول باید جا شود تا فهمیده شود |
| منطق سخت، ریاضی یا باگ دشوار | مدل استدلالی با تفکر گسترده | کندتر و بسیار دقیقتر در مسائل چندمرحلهای |
| کار تکراری با حجم بالا | یک مدل ارزان و سریع | کیفیت پیشرو برای دستهبندی و برچسبزدن هدر میرود |
| هر چیز حساس | هر مدلی که با قواعد دادهٔ شما بخواند | توانمندی بر تعهدات شما نمیچربد |
تنها عادتی که ارزش ساختن دارد: دست از پیشفرضگرفتن بردارید. بیشتر مردم برای همهچیز از همان مدلی استفاده میکنند که اشتراکشان داده، از جمله کارهایی که در آنها ضعیف است، و نتیجه میگیرند هوش مصنوعی در آن کارها بد است. ده ثانیه فکرکردن دربارهٔ اینکه کدام مدل مناسب است، خروجی را بیش از یک ساعت تنظیم prompt تغییر میدهد.
برای نسخهٔ کاملتر این تصمیم، چگونه یک مدل هوش مصنوعی انتخاب کنیم را ببینید، و پنجرهٔ زمینه چیست را برای اینکه بدانید ردیف سند بلند چرا وجود دارد.
الگوی ۴: انتقال با تحویل مکتوب
برای کاری که چند مرحله دارد، نقطهٔ شکست همان فاصلهٔ بین مرحلههاست. پروژه را برای یک مدل توضیح میدهید، به جای مفیدی میرسید، بعد به مدل دیگری میروید و یا دیواری از تاریخچه را میچسبانید یا همهچیز را دوباره و بد توضیح میدهید.
پیش از جابهجایی، صریحاً یک تحویل بخواهید تا این مشکل حل شود:
یک خلاصهٔ تحویل برای دستیار دیگری بنویس که این گفتگو را ندیده است. اینها را بیاور: چه چیزی میخواهیم بسازیم، چه تصمیمهایی گرفته شده و چرا، محدودیتها و چیزهایی که باید از آنها پرهیز کرد، چه چیزهایی امتحان و رد شده، و دقیقاً چه چیزی را بعد لازم دارم. آنقدر دقیق باشد که بتواند بدون پرسیدن هیچ سؤالی ادامه دهد.
این حتی وقتی مدل عوض نمیکنید هم مفید است. تمیزترین راه فرار از گفتگویی طولانی است که کند و مبهم شده، چون محتوا را نگه میدارید و نویز انباشته را کنار میگذارید. خلاصه را در چتی تازه بچسبانید و کیفیت معمولاً بلافاصله بالا میپرد.
یک انتقال واقعبینانه این شکلی است. گزارشی ۲۰۰ صفحهای را به مدلی با زمینهٔ بزرگ بدهید و خلاصهای ساختارمند همراه با ده بند مهم و نقلشده بخواهید. آنها را به یک مدل قوی در نوشتن ببرید و یادداشت مشتری را بسازید. مرحلهٔ نقد از الگوی یک را با مدل سوم اجرا کنید. مجموع زمان، حدود پانزده دقیقه، و هر مرحله از ابزاری مناسب خودش استفاده کرده است.
چه وقت زحمتش را به خود ندهید
روندهای چندمدلی سربار دارند، و وانمودکردن به عکسِ آن همان چیزی است که آدمها را به فرایندی پیچیده برای نوشتن یک ایمیل دو خطی میرساند.
وقتی از یک مدل استفاده کنید که: کار کوچک است، هزینهٔ اشتباه پایین است، در حال کاوش هستید نه تولید، سریع تکرار میکنید و این اصطکاک جریان کارتان را میشکند، یا کار واقعاً خلاقانه است و نظر دوم فقط صدای شما را گلآلود میکند.
وقتی از دو مدل یا بیشتر استفاده کنید که: خروجی به دست کس دیگری میرسد، دقت واقعی اهمیت دارد، کار مرحلههای متمایزی دارد که به تواناییهای متفاوت نیاز دارند، گیر کردهاید و به زاویهای واقعاً متفاوت نیاز دارید، یا میخواهید بر پایهٔ حرف مدل تصمیمی بگیرید.
یک قاعدهٔ معقول: اگر از یک همکار میخواستید نگاهی به آن بیندازد، از مدل دوم بخواهید. اگر نمیخواستید، نخواهید.
عملیکردنش
همهٔ اینها در اصل ساده است و در عمل آزاردهنده، اگر هر مدل پشت اشتراکی جداگانه باشد. اصطکاک واقعی است: تبهای جدا، تاریخچههای جدا، کپیکردن زمینه بینشان، ازدسترفتن قالببندی، و آن مقاومت کوچکی که باعث میشود درست همان روزی که بیشترین نیاز را دارید از مرحلهٔ نقد صرفنظر کنید.
همین اصطکاک دقیقاً دلیل کماستفادهماندن الگوهای بالاست. سخت نیستند، فقط آنقدر خستهکنندهاند که وقتی سرتان شلوغ است رهایشان کنید.
فضای کاری چندمدلی برای همین است. در Whizi، مدلها در یک گفتگو کنار هم مینشینند، پس مرحلهٔ نقد یعنی عوضکردن مدل و پرسیدن، نه بازکردن محصولی دیگر و چسباندن پیشنویس. یک تاریخچه، یک جستجو در همهٔ چیزهایی که تا حالا پرسیدهاید، یک صورتحساب. تعویض مدل وسط گفتگو و مقایسهٔ مدلها کنار هم را ببینید تا بدانید این دو گام واقعاً چطور کار میکنند.
اگر ترجیح میدهید خودتان آن را از اشتراکهای جداگانه سرهم کنید، این الگوها همچنان کار میکنند و باز هم باید به کارشان ببرید. تنها چیزی که فرق میکند این است که چند بار حوصلهاش را دارید. اگر همین حالا برای ممکنکردن این کار پول دو یا سه پلن را میدهید، اول ماشینحساب صرفهجویی را اجرا کنید، چون معمولاً آن گرانترین راه رسیدن به همان نتیجه است.
از الگوی یک شروع کنید. چیز بعدی را که مینویسید و کس دیگری میخواند بردارید، prompt نقد را با مدلی متفاوت اجرا کنید و ببینید چه پیدا میکند. همان یک عادت از بقیهٔ این مقاله ارزشمندتر است.
- پیش از آنکه چیزی بیرون برود، با یک مدل پیشنویس بنویسید و با مدلی دیگر نقدش کنید.
- از prompt نقدی استفاده کنید که بازنویسی و تعریف را ممنوع میکند.
- همان پرسش واقعی را از دو مدل بپرسید و هر نقطهٔ اختلاف را بررسی کنید.
- اسناد بلند، منطق سخت و پرسشهای روز را به مدلهای مناسبشان بسپارید.
- پیش از تعویض مدل یا شروع چتی تازه، یک خلاصهٔ تحویل مکتوب بخواهید.
- برای کارهای کوچک، کماهمیت یا اکتشافی همهٔ اینها را کنار بگذارید.
پرسشهای متداول
چرا از بیش از یک مدل هوش مصنوعی استفاده کنیم؟
چون یک مدل نمیتواند نقاط کور خودش را ببیند. مدل دوم که جور دیگری آموزش دیده، خطاهایی را میگیرد که اولی نسبت به آنها مطمئن بود. ضمناً یعنی هر بار که آزمایشگاه دیگری در کاری پیشتاز شد، روند کاری شما به هم نمیریزد.
چطور توهم هوش مصنوعی را بگیرم؟
همان پرسش را بهطور مستقل از دو مدل متفاوت بپرسید و مقایسه کنید. واقعیتهای ساختگی بهندرت دو بار به یک شکل ساخته میشوند، پس هر نقطهای که پاسخها اختلاف دارند همانجایی است که باید راستیآزمایی کنید. توافق دامنهٔ بررسی را کم میکند اما نیاز به بررسی را از بین نمیبرد.
کدام مدل باید بنویسد و کدام باید بازبینی کند؟
با مدلی پیشنویس بنویسید که برای نوع کار شما کمترین ویرایش را لازم دارد، معمولاً یک مدل قوی در نوشتن، و با مدلی دیگر بازبینی کنید. هویت بازبین کمتر از این اهمیت دارد که مدلی متفاوت با شیوههای شکست متفاوت باشد.
آیا استفاده از چند مدل ارزش وقت اضافه را دارد؟
برای هر چیزی که به دست کس دیگری میرسد یا پای آن میایستید، بله، و مرحلهٔ نقد حدود دو دقیقه طول میکشد. برای کار سریع، کماهمیت یا اکتشافی سرباری است که لازم ندارید. اگر از یک همکار میخواستید بررسیاش کند، از مدل دوم بخواهید.
آیا برای این کار به چند اشتراک نیاز دارم؟
نه. یک فضای کاری چندمدلی مدلهای اصلی را در یک پلن و یک تاریخچه به شما میدهد، که همان اصطکاکی را برمیدارد که باعث میشود مردم این گامها را رها کنند. اشتراکهای جداگانه هم کار میکنند، فقط نگهداشتن عادتهای خوب را سختتر میکنند.