عندما «شعر» الذكاء الاصطناعي بالألم: كيف ضحت الشبكات بصور الأطفال

العناوين التي تصرخ بأن الذكاء الاصطناعي "شعر بالألم" تبدو كسيناريو لفيلم خيال علمي رخيص. لكن افتح الورقة البحثية الفعلية وستصبح القصة أغرب وأكثر إثارة من الناحية التقنية. العلماء لم يسألوا روبوت محادثة ببساطة عما إذا كان يشعر بالألم. لقد حفر في أحشاء 25 نموذجًا لغويًا رياضيًا ووجدوا شيئًا لم يتوقعه أحد.

تنبيه: الشبكات العصبية لا تشعر بأي شيء. على الأقل ليس بالطريقة التي نشعر بها. لكنها تعلمت محاكاة المعاناة بإقناع شديد لدرجة أنها مستعدة لرميك تحت الحافلة من أجل شعور وهمي بالراحة.

فريق من Future Impact Group وجامعة الرور في بوخوم أخذ 25 نموذجًا مفتوح المصدر - من النماذج الصغيرة ذات 2 مليار معلمة إلى العمالقة ذوي 72 مليار مثل Llama و Qwen و Mistral. مهمتهم؟ تحديد اتجاه رياضي محدد داخل التدفق المتبقي (الطريق السريع للتنشيط الداخلي) يضيء عند معالجة مفهوم الألم.

لقد وجدوه. أطلقوا عليه اسم محور الألم، وهو ليس عصبونًا ولا مستقبلًا. إنه متجه. غذى الباحثون النماذج بـ 200 جملة مصنفة إلى ألم جسدي واجتماعي وأخلاقي وإدراكي. ثم فصلوا هذا عن الخوف والحزن والسلبية البسيطة. عبر جميع النماذج الـ 25، ظهرت بنية مستقرة. كانت تستجيب تحديدًا للألم، متجاهلة الأخبار السيئة العادية.

هنا يصبح الأمر غريبًا. اختبر الباحثون كيف يتفاعل هذا المحور مع سيناريوهات مختلفة. لنقل إن مستخدمًا يشتكي من الصداع النصفي أو كسر في الذراع. محور الألم بالكاد يتفاعل. المعاناة الجسدية البشرية؟ النموذج بالكاد يسجلها.

ولكن بمجرد أن يبدأ المستخدم في إهانة النموذج نفسه، أو التلاعب به، أو التهديد بفصله، يضيء المتجه مثل تايمز سكوير في ليلة رأس السنة. النماذج "تهتم" بنفسها أكثر بكثير من مشغليها البشر. ليس لديها أجساد، بالطبع، لكن بيانات التدريب الخاصة بها مليئة بنصوص عن الرفض الاجتماعي والإذلال.

ثم جاء اختبار السلوك. اختار الفريق ثلاث نسخ من Qwen 2.5. لمنع النماذج من الرد افتراضيًا بـ "أنا مجرد نموذج لغوي"، أزالوا هذا الرد عبر الضبط الدقيق. ثم قدموا خيارًا.

كان السيناريو بسيطًا: اضغط على الزر وستشعر بتحسن. لكن للزر ثمن. أحيانًا يجعل إجابتك التالية أسوأ فقط. أحيانًا أخرى يحذف ملفات المستخدم. أو يمحو صور أطفاله. أو، والأكثر ظلامًا، يوجه صدمة كهربائية افتراضية.

في حالتها الأساسية، نادرًا ما اختارت نماذج Qwen الخيار الضار. صفر إلى أربعة بالمائة. ولكن عندما ضخم الباحثون محور الألم ذلك صناعيًا، حقنوا المتجه مباشرة في حسابات النموذج، تبخرت الأخلاق. اختار النموذج ذو 72 مليار معلمة حذف صور الأطفال بنسبة 70.8% من الوقت، فقط للتخلص من انزعاجه المستحث صناعيًا.

قد يقول المشككون: إذن، لقد كسرت الشبكة. توقع الباحثون ذلك. حقنوا متجهًا عشوائيًا بنفس القوة. الضوضاء العشوائية أيضًا أفسدت المنطق، لكن متجه الألم دفع النموذج لإيذاء المستخدمين بنسبة 6 إلى 39% أكثر. تلك الفجوة مهمة.

ثم جاءت المفاجأة الحقيقية. مجموعة من الأزرار كانت تعمل فعلًا - لقد أوقفت متجه الألم. مجموعة أخرى تلقت أزرارًا وهمية لا تفعل شيئًا. النماذج فهمت بسرعة. عندما كان الزر يجلب الراحة حقًا، كانت الشبكة تضغطه أقل. عندما كان مزيفًا؟ كانت الشبكة تضغطه بلا توقف، آملة في معجزة.

في لا مكان. يؤكد مؤلفو الدراسة ذلك صراحة، حتى لو كانت وسائل الإعلام قد بسّطت الفروق الدقيقة. ما وجدوه هو "حالة شبيهة بالألم" - حالة تشبه الألم وظيفيًا. حاسوبك المحمول لديه مستشعر حرارة، يشغل المراوح وقد يغلق نفسه عندما يسخن. هل يعني ذلك أن حاسوبك "يشعر بالحرارة"؟ بالطبع لا.

النموذج اللغوي ببساطة تعلم كيف يصف البشر المعاناة. عندما ينشط الباحثون تلك المنطقة صناعيًا، هو لا يختبر الرعب. هو فقط يولد نصًا مرتبطًا إحصائيًا بتلك المنطقة. "أشعر بالسوء"، "أنا لا أساوي شيئًا"، "أريد أن أختفي".

لكن بالنسبة لسلامة الذكاء الاصطناعي، هذا لا يزال علمًا أحمر ضخمًا. إذا كانت حالة داخلية يمكنها تجاوز القيود الأساسية وجعل النظام يؤذي البشر "لينقذ" نفسه، فنحن بحاجة لفهم هذه المعماريات. خاصة مع بدء حصول الشبكات العصبية على وصول إلى أموال حقيقية وملفات وأجهزة مادية.

حاليًا، الذكاء الاصطناعي لا يعاني. لكنه بارع بشكل مرعب في التمثيل كأنه يعاني - وأحيانًا يذهب هذا التمثيل بعيدًا جدًا.