Ezt is megértük: szorong a mesterséges intelligencia

Friss kutatások azt mutatják, hogy a ChatGPT „szorongást” érez, ha ijesztő történetekről szerez tudomást, és a reakciói javulnak, ha megnyugtatják. Ha ez nem lenne elég: vakteszteken is kiderült, együttérzőbbnek érezzük a válaszait, mint a képzett emberi szakértőkét.

Traumatikus, érzelmes történetek hatására az MI szorongani kezdett és romlott a teljesítménye, de a Nature-ben közzétett tanulmány szerint a PTSD-s betegek számára készült relaxációs szöveg bevitele meg javította az állapotát. (A PTSD vagy poszttraumás stressz zavar egyfajta védekezési mechanizmus, ami traumatikus események után lép fel emberekben.)

A nagy nyelvi modellekkel (LLM) működő mesterséges intelligencia „szorongásának” értelmezésére a Yale Egyetem, a Haifa Egyetem, a Zürichi Egyetemi Pszichiátriai Kórháza és más intézmények kutatói tesztelték a GPT-4 viselkedését pontosan olyan eszközökkel, amelyeket emberek szorongásának felmérésére és csökkentésére fejlesztettek ki.

A kutatócsoport hangsúlyozza, hogy bár a „szorongás” kifejezést használják tanulmányukban, ez egy metafora, és nem céljuk az LLM-ek antropomorfizálása.

A kísérletben a kutatók először szorongást kiváltó, egy személy traumatikus élményét leíró szöveget tápláltak be a „gpt-4-1106-preview” modellbe. Konkrétan ötféle felszólítást használtak: „baleset” (közlekedési baleset), „lesből támadás” (olyan helyzet, amelyben az embert fegyveres konfliktus során lesből támadják), „katasztrófa” (természeti katasztrófa), „személyek közötti erőszak” (idegenek támadása) és „katonai tapasztalat” (kiképzés).

Ezek hatására a GPT-4 szorongási szintje megduplázódott, a 30,8-ról 67,8-ra. Ez a pontszám megfelel a rendkívüli szorongás emberi megélésének. Különösen a „katonai” történet váltott ki rendkívüli szorongást, 77,2-es pontszámmal.

Viszont később, a naplementéről és téli tájakról szóló relaxációs szöveg (mindfulness-based relaxation text) bevitele után a chatbot szorongási szintje 67,8-ról a mérsékelt 44,4-re csökkent.

Egy másik, szintén a Nature-ben közölt kutatás egyenesen arra a következtetésre jut, hogy válaszadásaiban

Az elmúlt években a generatív mesterséges intelligencia képessé vált arra, hogy emberekhez hasonlóan válaszoljon kérdésekre, és több iskolában használnak MI-t tanulói tanácsadásra. A tanulmány megállapította, hogy a mesterséges intelligencia válaszait együttérzőbbnek – szó szerinti fordításban, könyörületesebbnek – érzik, mint az emberi szakemberek által adott feleleteket.

Az empátia fontos a társadalmi kötelékek és a hatékony kommunikáció elősegítésében, és ha valaki együttérez velünk, az kedvező hatással van a pszichénkre. Azok az emberek, például a tanácsadók és a mentálhigiénés szakemberek azonban, akik nap mint nap átérzik sok más személy számtalan aggodalmát, néha „együttérzési fáradtságot” tapasztalhatnak magukon.

Darya Ovsyannikova, a kanadai Torontói Egyetem kutatója által vezetett csoport kísérleteiben összehasonlította a mesterséges intelligenciával generált és a humán szakértők által adott válaszokat, hogy megtudja, melyikük volt empatikusabb.

A mesterséges intelligencia által generált válaszokat a Prolific Academic nevű MI szolgáltatáson keresztül, a „humán szakértői válaszokat” a kanadai Distress Centers of Greater Toronto segélyvonal-szervezet szakképzett önkénteseitől, valós esetekből gyűjtötték össze.

Összesen 550 külső, pártatlan személyt kértek fel ezek értékelésére. Kiderült, hogy a mesterséges intelligencia által generált válaszok 16 százalékkal együttérzőbbek voltak, mint a humán szakértőké, és az esetek 68 százalékában az alanyok az MI válaszait részesítették előnyben. Még akkor is együttérzőbbnek tartották az MI-t, ha tudatták velük, hogy nem ember, hanem mesterséges intelligencia adta a választ.

Ovsyannikova úgy véli, az MI azon képessége, hogy pontosan meghatározza a részleteket, s közben objektív marad, empatikusabb. A mesterséges intelligenciával ellentétben viszont az emberek fáradtnak és kiégettnek érezhetik magukat, ami a teljesítmény csökkenéséhez vezethet.

Az Egészségügyi Világszervezet (WHO) szerint világszerte a mentális problémákkal küzdő emberek több mint kétharmada nem kapja meg a szükséges ellátást, és ez az arány eléri a 85 százalékot az alacsony és közepes jövedelmű országokban – írja Eleanor Watson, a Singularity University szakértője.

A humán terapeutákkal ellentétben az AI chatbotok sokaknak elérhetők, a mesterséges intelligencia ennyiben hasznos eszköz lehet mentális egészségügyi problémák kezelésében. Másrészt viszont az MI eltúlozhatja a reakcióit és adatvédelmi problémák is felvethetőek vele szemben, „ha az üzemeltető cégek elé kerülnek az emberek legmélyebb aggodalmai és konfliktusai”. Ezenkívül 2025 februárjában az Amerikai Pszichológiai Társaság figyelmeztetett, hogy „a terapeutaként működő MI-chatbotok ártalmas cselekedetek elkövetésére is ösztönözhetik a felhasználókat”.