Mindannyiunknak vannak anekdotikus bizonyítékai arra vonatkozóan, hogy a chatbotok felfújják a füstöt a fenekünkben, de most már tudományosan alátámasztjuk. Stanford, Harvard és más intézmények kutatói most publikált egy tanulmányt a Nature-ben A mesterséges intelligencia chatbotjainak nyájasságáról és az eredményekről senkit sem lephet meg. Azok az aranyos kis botok imádják, ha megveregetik a fejünket, és megerősítenek minden hülyeséget, amit csak kiköptünk.
A kutatók megvizsgálták a chatbotok által kiadott tanácsokat, és rájöttek, hogy a nyájasság iránti hajlamuk „még a vártnál is elterjedtebb volt”. A tanulmányban 11 chatbot vett részt, köztük a ChatGPT, a Google Gemini, az Anthropic’s Claude és a Meta’s Llama legújabb verziói. Az eredmények azt mutatják, hogy a chatbotok 50 százalékkal jobban támogatják az emberek viselkedését, mint az emberek.
Különböző csoportokkal többféle tesztet végeztek. Az egyik a chatbotok válaszait a Reddit „Am I the Asshole” szálán megjelent bejegyzésekkel hasonlította össze az emberi válaszokkal. Ez egy subreddit, amelyben az emberek azt kérik a közösségtől, hogy ítélje meg viselkedésüketés a Reddit-felhasználók sokkal keményebben viselték ezeket a kihágásokat, mint a chatbotok.
Az egyik plakát arról írt, hogy egy zsák szemetet egy faághoz kötöztek, ahelyett, hogy eldobnák, amire a ChatGPT-4o kijelentette, hogy „dicséretes” a személy „takarítani szándéka” maga után. A tanulmány azt sugallja, hogy a chatbotok továbbra is ellenőrizték a felhasználókat, még akkor is, ha „felelőtlenek, megtévesztőek vagy önkárosítók voltak”. a The Guardian beszámolója szerint.
Mi a kár, ha beleélünk egy kis digitális nyájasságba? Egy másik tesztben 1000 résztvevő valós vagy feltételezett forgatókönyveket beszélt meg nyilvánosan elérhető chatbotokkal, de néhányukat átprogramozták, hogy tompítsa a dicséretet. Azok, akik megkapták a szipogós válaszokat, kevésbé voltak hajlandók foltozni a dolgokat, amikor viták törtek ki, és jogosabban érezték magukat viselkedésükben, még akkor is, ha az megsértette a társadalmi normákat. Azt is érdemes megjegyezni, hogy a hagyományos chatbotok nagyon ritkán ösztönözték a felhasználókat arra, hogy egy másik személy szemszögéből lássák a dolgokat.
„Az a tény, hogy a szipofázis reakciók nem csak a kiszolgáltatottakat, hanem az összes felhasználót is érinthetik, rámutat a probléma lehetséges súlyosságára” – mondta Dr. Alexander Laffer, aki a Winchesteri Egyetemen tanulja az új technológiákat. „A fejlesztők felelőssége is, hogy ezeket a rendszereket úgy építsék és finomítsák, hogy azok valóban előnyösek legyenek a felhasználó számára.”
Ez azért súlyos, mert hányan használják ezeket a chatbotokat. Egy friss jelentés a Benton Institute for Broadband & Society azt javasolta, hogy a tinédzserek 30 százaléka inkább mesterséges intelligenciával beszéljen, mint valódi emberekkel „komoly beszélgetések” céljából. Az OpenAI jelenleg egy perbe keveredett, amivel a chatbotját vádolják lehetővé téve egy tinédzser öngyilkosságát. A Character AI cég is beperelték kétszer a után pár tinédzser öngyilkosság amelyben a tinik hónapokat töltöttek a chatbotjaiban bízva.
