لماذا «يختلق» الذكاء الاصطناعي أشياء؟ شرح الهلوسة

تطرح على الذكاء الاصطناعي سؤالًا بسيطًا، فيأتيك بإجابةٍ سَلِسة واثقة: اسمٍ أو تاريخٍ أو اقتباس. تبدو صحيحة، لكنّها أحيانًا مختلَقةٌ تمامًا. تُسمّى هذه الظاهرة الهلوسة، وهي من أهمّ ما ينبغي فهمه عن الذكاء الاصطناعي، لأنّها قد تخدعك في أقلّ اللحظات توقّعًا.

لماذا يحدث هذا؟

صُمِّم الذكاء الاصطناعي المُحادِث ليتوقّع النصّ الأرجح. فهو يختار، كلمةً بعد كلمة، ما يأتي عادةً في موضعه، اعتمادًا على أنماط تعلّمها من كمٍّ هائل من الكتابة. تخيّله نسخةً متطوّرة جدًّا من اقتراحات الكلمات في لوحة مفاتيح هاتفك؛ فهو بارعٌ في إنشاء جُملٍ تبدو وكأنّها إجابات جيّدة.

في الصباح أشربُ؟

• قهوة60٪
• شاي25٪
• ماء10٪
• عصير5٪

وهنا تكمن المفارقة: أن تبدو الإجابة جيّدة شيء، وأن تكون صحيحة شيءٌ آخر. فالذكاء الاصطناعي لا يملك أداةً داخليّة تتحقّق من الحقائق، ولا ذاكرةً حقيقيّة لمصدر ما تعلّمه. إنّه ليس موصولًا بالحقيقة، بل بالأنماط. ولذلك حين لا «يعرف» الجواب فعلًا لا يتوقّف، بل يسدّ الفراغ بما يناسب النمط، وقد يكون هذا الحشو خاطئًا رغم نبرته الواثقة.

وليس هذا كذبًا؛ فالكذب أن تعرف الحقيقة ثم تخفيها، والذكاء الاصطناعي لا يدري أصلًا أنّه أخطأ. هو عاجزٌ عن تمييز إجاباته الصحيحة من المختلَقة، ولذلك لا يبدو مترددًا قطّ حتى حين يجدر به التردّد.

مثال

لنفترض أنّك سألت: «من كتب رواية الفانوس الأزرق؟»، فإن لم تكن هناك روايةٌ معروفة بهذا الاسم، قال لك الإنسان: «لست واثقًا من وجود هذه الرواية». أمّا الذكاء الاصطناعي فقد يختلق ردًّا واثقًا: مؤلّفًا وهميًّا، وسنة نشرٍ غير حقيقيّة، بل وحبكةً تبدو معقولة. كلّ جزءٍ منها يوافق نمط «صورة الإجابة عن هذا السؤال»، غير أنّ شيئًا منها ليس حقيقيًّا. والخطر أنّها تُقرأ تمامًا كإجابةٍ صحيحة.

ماذا يعني هذا لك؟

عامِل الذكاء الاصطناعي معاملة مساعدٍ سريعٍ واسع الاطّلاع، لكنّه يزلّ أحيانًا. هو نِعمَ العون في الأفكار والمسوّدات والشروح، أمّا الحقائق المهمّة — واجبٌ ستسلّمه، أو سؤالٌ صحّيّ، أو أسماءٌ وتواريخ وأرقامٌ حقيقيّة — فتحقّق منها بالرجوع إلى مصدرٍ موثوق قبل أن تثق بها. والهلوسة أكثر ما تشيع في التفاصيل الدقيقة جدًّا والمواضيع النادرة، فضاعِف حذرك هناك.

جرّب هذا

اسأل الذكاء الاصطناعي عن شيءٍ تتقنه جيّدًا: معلَمٍ في مدينتك، أو لعبةٍ تحبّها، أو وصفةٍ عائليّة. وابحث بدقّة عن تفصيلٍ واحدٍ أخطأ فيه أو اختلقه. فملاحظة ذلك مرّةً واحدة تدرّب عينك على التقاطه حين يكون الموضوع جديدًا عليك. وإن لاح لك أمرٌ مهمّ غير سليم، فاسأل شخصًا بالغًا تثق به أو مصدرًا موثوقًا.