التحيّز والإنصاف: متى يَجور الذكاء الاصطناعي؟

كثيرًا ما يُظنّ أنّ الحاسوب لا بدّ محايد، فهو ليس شخصًا له أهواء وآراء. غير أنّ أدوات الذكاء الاصطناعي تتعلّم من أكوامٍ هائلة من الأمثلة التي صنعها البشر: نصوصٌ وصور وقراراتٌ من إنشائنا نحن. فإذا مالت تلك الأمثلة في اتّجاه ما، مالت الأداة في الاتّجاه نفسه من حيث لا نشعر. هذا الميل هو ما نسمّيه التحيّز: نزعةٌ تدفع النتائج إلى الإجحاف ببعض الناس أو الأفكار.

وأهمّيّة الأمر أنّ الذكاء الاصطناعي صار يشارك اليوم في قراراتٍ حقيقية: مَن يُدعى إلى مقابلة عمل، وأيّ الأخبار تصل إليك، وأيّ صورةٍ تبدو «احترافية». فإذا حمل ميلًا خفيًّا، فقد يعامل الناس بتفاوتٍ من غير أن يقصد أحدٌ ذلك. وفهمك للتحيّز يجعلك تنتبه إلى النتائج الجائرة بدل أن تأخذها على عواهنها.

لماذا لا تكون الآلة «المحايدة» محايدة؟

تخيّل الذكاء الاصطناعي طالبًا لم يقرأ في عمره سوى رفٍّ واحد من الكتب. ليس الطالب سيّئًا ولا قاسيًا، لكنّ صورته عن العالم رهنٌ بما وقع بين يديه من قراءة. والأداة مثله تمامًا: تعرف الأنماط التي رأتها في أمثلتها، ولا تكاد تعرف سواها. فلو أنّ أداة توظيفٍ تعلّمت في الغالب من موظّفين سابقين يشبه بعضهم بعضًا، فقد تميل خفيةً إلى مَن يماثل تلك الفئة، وتُغفِل آخرين يُحسنون العمل لو أُتيح لهم. لم يضع أحدٌ قاعدةً للظلم، وإنّما تسلّل الظلم من باب الأمثلة.

وقد ينشأ التحيّز من الثغرات أيضًا. فلو أنّ أداةً صوتية لم تسمع في أثناء تعلّمها إلّا نَفَرًا قليلًا ممّن ينطقون بلهجةٍ معيّنة، فقد تعسُر عليها تلك اللهجة، لا كرهًا فيها، بل لأنّها لم تنل من التمرّن عليها ما يكفي.

مثالٌ ملموس

تصوّر أنّك طلبت من أداة صورٍ أن ترسم «ممرّضًا» ثمّ «طيّارًا»، فلاحظت أنّ الممرّضين كلّهم تقريبًا من جنسٍ واحد، والطيّارين كلّهم تقريبًا من جنسٍ آخر. ليست الأداة هنا تُخبرك بحقيقةٍ عمّن يصلح أن يكون ممرّضًا أو طيّارًا، فكلتا المهنتين يؤدّيهما الناس على اختلافهم. هي فقط تعيد النمط الأشيع في الصور التي تعلّمت منها. ومتى أدركت ذلك، أمكنك أن تطلب منها «مجموعةً متنوّعة من الممرّضين والطيّارين، بأعمارٍ وأجناسٍ مختلفة»، ثمّ تحكم بنفسك على النتيجة.

والمقصود ليس أن نخشى هذه الأدوات، ولا أن نرمي كلّ مخرجاتها بالكذب، بل أن نبقى يقظين. فعامِل ما يخرج منها معاملة المسوّدة المفيدة، لا الحكم القاطع، ولا سيّما حين يمسّ الأمر الناس والإنصاف. وفي كلّ ما له شأن، كقرارٍ يخصّ إنسانًا أو ادّعاءٍ حسّاس، تحقّق من مصادر حقيقية متنوّعة، واستعن بشخصٍ بالغ تثق به أو بأهل الاختصاص حين يستحقّ الأمر.

جرّب هذا: اطلب من أداةٍ أن تصف مهنةً شائعة أو ترسمها مرّاتٍ عدّة، وتأمّل: هل تظلّ تعرض النوع نفسه من الناس؟ ثمّ اطلب منها تنوّعًا أوسع وقارِن.