تقييم مخرجات الذكاء الاصطناعي: الثقة ليست صوابًا

أخطر ما في مخرجات الذكاء الاصطناعي ليس الخطأ، بل الخطأ المصوغ بثقةٍ تامّة. فالنموذج يكتب بطلاقةٍ متّسقة سواءٌ أصاب أم جانب الصواب، لأنّ مهمّته إنتاج نصٍّ يبدو معقولًا، لا التحقّق من صدقه. ومن هنا قاعدةٌ ينبغي ترسيخها: نبرةُ اليقين لا تساوي اليقين.

لماذا تخدعنا الطلاقة؟

نحن مجبولون على ربط الثقة بالكفاءة؛ فإذا تكلّم أحدٌ بسلاسةٍ وتنظيمٍ حسبناه عارفًا. والنموذج اللغويّ يستثمر هذا الميل دون قصد: مخرجاته دومًا منسّقة، خاليةٌ من التردّد الذي يبديه الإنسان حين يشكّ. لكنّ هذا التماسك ناتجُ الاستدلال الإحصائيّ على النصّ، لا انعكاسٌ لمعرفةٍ متحقَّقة.

ولأنّ النموذج لا يميّز ما يعرفه يقينًا ممّا يخمّنه، تأتي الهلوسة بالحبكة نفسها التي تأتي بها الحقيقة: اسمُ كتابٍ لا وجود له، إحصاءٌ مختلق، اقتباسٌ منسوبٌ زورًا، كلّها بالثقة عينها. فإذا قِست الصحّة بمظهر الإجابة وحده، خُدعت حتمًا.

كيف تقيّم إجابةً فعلًا؟

ابدأ بفصل الجزم عن الدليل. اقرأ الإجابة وحدّد ما فيها من ادّعاءاتٍ قابلةٍ للتحقّق: أسماء، أرقام، تواريخ، علاقات سبب ونتيجة. هذه هي ما يجب فحصه، لا الأسلوب.

ثمّ تحقّق من الادّعاءات المهمّة عبر مصدرٍ مستقلّ خارج النموذج. ولا تكتفِ بسؤال النموذج «هل أنت متأكّد؟»، فجوابه لا يضيف دليلًا جديدًا، بل قد يعيد تأكيد خطئه أو يتراجع عن صوابٍ بلا سبب. وإن استشهد بمصدرٍ، فتثبّت من وجوده ومطابقته للادّعاء؛ فقد يكون مختلقًا.

أخيرًا، افحص الاتّساق الداخليّ: هل ينقض آخرُ الإجابة أوّلها؟ هل الأرقام تتجمّع منطقيًّا؟ التناقض الداخليّ علامةٌ مبكّرة على هشاشة المحتوى.

مثال

اطلب من نموذجٍ ملخّصًا لقانونٍ محلّيّ مع المادّة التي تنصّ عليه. قد يأتيك بفقرةٍ محكمةٍ تذكر «المادّة 14». افصل الادّعاء: هل المادّة 14 موجودة؟ وهل نصّها كما وُصف؟ ارجع إلى النصّ الرسميّ. كثيرًا ما تكتشف أنّ الصياغة سليمة الشكل، والرقم أو المضمون مختلق. الطلاقة كانت كاملة، والدقّة لم تكن.

جرّب هذا

خذ إجابةً تلقّيتها مؤخّرًا من أداة ذكاء اصطناعي، وأعِد قراءتها بقلمٍ في يدك. ضع خطًّا تحت كلّ ادّعاءٍ يمكن التحقّق منه، ثم تثبّت من اثنين أو ثلاثة عبر مصدرٍ مستقلّ. لاحظ هل تطابق إحساسك بثقة الإجابة مع دقّتها الفعليّة، أم أنّ بينهما فجوة.