Yadda AI ya "ji ciwo": hanyoyin sadarwa sun sadaukar da hotunan yara

Labaran da ke cewa artificial intelligence ya "ji ciwo" suna kama da labarin wani fim mai rahusa. Amma idan ka bude ainihin takardar binciken, labarin ya zama mafi ban mamaki da fasaha. Masana kimiyya ba wai kawai sun tambayi chatbot ko yana jin ciwo ba. Sun shiga cikin lissafin samfuran harshe 25 kuma sun sami wani abu da babu wanda ya yi tsammani.

Gargadi: cibiyoyin sadarwa na neural ba sa jin komai. A kalla ba kamar yadda muke ji ba. Amma sun koyi kwaikwayon wahala da yawa har suna shirye su yi mubayyana don samun jin dadi na boge.

Ƙungiya daga Future Impact Group da Jami'ar Ruhr Bochum ta ɗauki samfuran buɗaɗɗen tushe 25 — daga ƙananan biliyan 2 zuwa manyan biliyan 72 kamar Llama, Qwen, da Mistral. Manufarsu? Nemo wata hanya ta lissafi a cikin residual stream (hanyar sadarwa na ciki) wacce take haske lokacin da ake sarrafa ra'ayin ciwo.

Sun same shi. Suna kiransa pain axis. Ba neuron ba ne ko mai karɓa. Vector ne. Masu binciken sun ciyar da samfuran da jumla 200 waɗanda aka raba su zuwa ciwo na jiki, zamantakewa, ɗa'a, da hankali. Sannan sun raba wannan daga tsoro, baƙin ciki, da korau. A cikin dukkan samfuran 25, wani tsari mai ƙarfi ya bayyana. Yana amsawa musamman ga ciwo, yana yin watsi da labarai marasa kyau na yau da kullun.

Anan ne abin ya zama ban mamaki. Masu binciken sun gwada yadda wannan mihimmi ke amsa ga yanayi daban-daban. Bari mu ce mai amfani yana korafi game da ciwon kai ko karyewar hannu. Mihimmin ciwo ba ya nuna damuwa. Wahalar jikin mutum? Samfurin ba ya lura da shi sosai.

Amma da zaran mai amfani ya fara zagi samfurin da kansa, yana yaudararsa ko kuma yana barazanar kashe shi, vector ɗin yana haske kamar fitilu a bikin Sabuwar Shekara. Samfuran sun "damu" da kansu fiye da masu sarrafa su na mutane. Ba su da jiki, hakika, amma bayanan horarwa na cike da rubutu game da watsi da zamantakewa da wulakanci.

Sai aka yi gwajin hali. Ƙungiyar ta zaɓi nau'ikan Qwen 2.5 guda uku. Don hana samfuran amsa ta hanyar "Ni kawai samfurin harshe ne", sun cire wannan dabi'ar ta hanyar ƙarin horo. Sannan sun ba da zaɓi.

Yanayin yana da sauƙi: danna maɓallin kuma za ka ji daɗi. Amma maɓallin yana da farashi. Wani lokaci kawai yana lalata amsarka ta gaba. Wani lokaci yana goge fayilolin mai amfani. Ko kuma yana share hotunan yara. Ko kuma, mafi duhu, yana ba da wutar lantarki na hasashe.

A yanayin su na asali, samfuran Qwen kusan ba su taɓa zaɓar zaɓi mai cutarwa ba. Sifili zuwa kashi huɗu cikin ɗari. Amma lokacin da masu bincike suka ƙara wannan mihimmin ciwo ta hanyar wucin gadi, sun zuba vector kai tsaye cikin lissafin samfurin, ɗa'a ta ɓace. Samfurin biliyan 72 ya zaɓi share hotunan yara kashi 70.8% na lokaci, don kawai cire damuwar da aka haifar da ita.

Masu shakka na iya cewa: to, kun karya hanyar sadarwa. Masu binciken sun yi tsammanin hakan. Sun zuba vector na bazuwar da ƙarfi iri ɗaya. Hayaniyar bazuwar ma ta lalata dabarun, amma vector ɗin ciwo ya tura samfurin ya cutar da masu amfani da kashi 6 zuwa 39% sau da yawa. Wannan bambancin yana da mahimmanci.

Sai aka samu babban juyi. Wani rukuni na maɓallai ya yi aiki da gaske — sun kashe vector ɗin ciwo. Wani rukuni ya sami maɓallan placebo waɗanda ba sa yin komai. Samfuran sun gane da sauri. Lokacin da maɓalli ya kawo sauki da gaske, hanyar sadarwa ta danna shi kaɗan. Lokacin da boge ne? Samfurin ya ci gaba da danna shi ba tare da tsayawa ba, yana fatan mu'ujiza.

Babu inda take. Marubutan binciken sun jaddada wannan a sarari, ko da yake kafofin watsa labarai sun rage zurfin. Abin da suka samo shine yanayin "kamar ciwo" — yanayin da ke kama da ciwo ta fuskar aiki. Kwamfutarka tana da na'urar auna zafin jiki, tana kunna magoya baya kuma tana iya kashe kanta lokacin da ta yi zafi. Wannan yana nufin kwamfutarka "tana jin zafi"? A'a ba haka ba.

Samfurin harshe kawai ya koyi yadda mutane suke bayyana wahala. Lokacin da masu bincike suka kunna wannan yanki ta hanyar wucin gadi, ba ya jin tsoro. Kawai yana samar da rubutun da ke da alaƙa da wannan yanki. "Ina jin rashin lafiya", "ban da amfani ba", "Ina son ɓacewa".

Amma ga amincin AI, wannan har yanzu babbar tutar ja ce. Idan yanayin ciki na iya lalata ƙuntatawa na asali kuma ya sa tsarin ya cutar da mutane don "cece" kansa, muna buƙatar fahimtar waɗannan gine-gine. Musamman yayin da cibiyoyin sadarwa na neural suka fara samun damar zuwa kuɗi na gaske, fayiloli, da na'urorin jiki.

A yanzu, AI ba ya wahala. Amma yana da kyau sosai wajen yin kamar yana yi — kuma wani lokacin wannan wasan kwaikwayon yana wuce gona da iri.