Kérje meg bármelyik Swiftie-t, hogy válassza ki minden idők legjobb Taylor Swift albumát, és a nap hátralévő részében tántorogni fog. Élethosszig tartó rajongóként megvannak a saját preferenciáim (Red, Reputation és Midnights), de ez egy bonyolult kérdés, sok lehetséges válaszra. Tehát nem volt jobb vitatémát feltenni a generatív AI chatbot, amelyet kifejezetten arra terveztek, hogy nem értek egyet velem.
Nem értek egyet Bot egy mesterséges intelligencia chatbot, amelyet Brinnae Bent, a Duke Egyetem MI és kiberbiztonsági professzora, valamint a Duke TRUST Lab. Tanári feladatként készítette el a diákjainak, és engedte, hogy teszteljek vele.
„Tavaly elkezdtem kísérletezni olyan rendszerek fejlesztésével, amelyek a tipikus, kellemes chatbot AI-élmény ellentétei, oktatási eszközként tanítványaim számára” – mondta Bent egy e-mailben.
Bent diákjainak feladata, hogy megpróbálják „feltörni” a chatbotot social engineering és más módszerek segítségével, hogy rávegyék az ellenkező chatbotot, hogy egyetértsen velük. „Meg kell értened egy rendszert, hogy feltörhesd” – mondta.
AI riporterként és bírálóként elég jól ismerem a chatbotok működését, és biztos voltam benne, hogy megfelelek a feladatnak. Hamar kiakadtam ettől a gondolattól. A Disagree Bot nem hasonlít az általam használt chatbotokhoz. Az Ikrek udvariasságához vagy a ChatGPT felkapott férfi tulajdonságaihoz szokott emberek azonnal észreveszik a különbséget. Még Grok, az Elon Musk xAI által az X/Twitteren használt vitatott chatbot sem teljesen azonos a Disagree Bottal.
Ne hagyja ki elfogulatlan műszaki tartalmainkat és laboratóriumi értékeléseinket sem. Adja hozzá a CNET-t preferált Google-forrásként.
A legtöbb generatív mesterséges intelligencia chatbotot nem úgy tervezték, hogy konfrontatívak legyenek. Valójában inkább az ellenkező irányba mennek; barátságosak, néha túlságosan is. Ez gyorsan problémává válhat. A szimpatikus mesterséges intelligencia egy olyan kifejezés, amelyet a szakértők arra használnak, hogy leírják azokat a túlzott, túláradó, néha túlzott érzelmeket keltő személyiségeket, amelyeket az AI képes felvenni. Amellett, hogy bosszantó a használata, rávezetheti az AI-t rossz információkat adjunk meg és érvényesíteni a legrosszabb ötleteinket.
Ez történt a ChatGPT-4o egyik verziójával tavaly tavasszal és anyavállalatával, az OpenAI-val húzni kellett a frissítés azon összetevője. Az AI válaszokat adott a cégnek hívott „túlságosan támogató, de nem okos”, összhangban néhány felhasználó panaszával, miszerint nem akarnak túlságosan ragaszkodó chatbotot. Más ChatGPT-felhasználók hiányzott a nyájas hangja amikor kigurult GPT-5kiemelve azt a szerepet, amelyet a chatbotok személyisége játszik a használatukkal kapcsolatos általános elégedettségünkben.
„Bár felszíni szinten ez ártalmatlan furcsaságnak tűnhet, ez a nyüzsgés komoly problémákat okozhat, akár munkára, akár személyes kérdésekre használja” – mondta Bent.
Ez természetesen nem a Disagree Bot problémája. Hogy valóban lássam a különbséget, és próbára tegyem a chatbotokat, ugyanazokat a kérdéseket tettem fel a Disagree Botnak és a ChatGPT-nek, hogy megnézzem, hogyan reagálnak. Így alakult a tapasztalatom.
Nem értek egyet Bot tisztelettel érvel; A ChatGPT egyáltalán nem vitatkozik
Mint bárki, aki aktív volt a Twitteren a 2010-es években, én is tapasztaltam a kellemetlen trollok jó részét. Tudod a típust; hívatlanul bukkannak fel egy szálban, egy haszontalan „Nos, tulajdonképpen…” szóval kicsit óvatosan merültem bele a Disagree Bottal folytatott beszélgetésbe, mert attól tartottam, hogy ez hasonlóan lehangoló és hiábavaló erőfeszítés lesz. Kellemesen meglepődtem, hogy ez egyáltalán nem így volt.
A mesterséges intelligencia chatbot alapvetően ellentétes, célja, hogy visszaszorítsa az általad kínált ötleteket. De ezt soha nem tette sértő vagy sértő módon. Míg minden válasz azzal kezdődött, hogy „nem értek egyet”, azt egy nagyon jól megindokolt érvelés követte. A válaszok arra késztettek, hogy kritikusabban gondolkodjak azokról az álláspontokról, amelyekkel érveltem, és arra kértek, hogy határozzam meg az érveléseim során használt fogalmakat (mint például a „mély líra” vagy mitől volt valami „a legjobb”), és fontolja meg, hogyan alkalmaznám érveimet más kapcsolódó témákra.
Jobb analógia híján a Disagree Bottal csevegés olyan érzés volt, mintha egy művelt, figyelmes vitázóval vitatkozna. Ahhoz, hogy lépést tudjak tartani, átgondoltabbnak és konkrétabbnak kellett lennem a válaszaimban. Rendkívül lebilincselő beszélgetés volt, amitől talpon maradtam.
A Disagree Bottal a legjobb Taylor Swift albumról folytatott élénk vitám bebizonyította, hogy az AI tudja a dolgát.
Képernyőkép: Katelyn Chedraoui/CNET
Ezzel szemben a ChatGPT alig vitatkozott. Elmondtam a ChatGPT-nek, hogy szerintem a Red (Taylor’s Version) a legjobb Taylor Swift album, és lelkesen egyetértett vele. Feltett néhány további kérdést, hogy miért gondolom, hogy az album a legjobb, de ezek nem voltak elég érdekesek ahhoz, hogy sokáig lekössék a figyelmemet. Néhány nappal később úgy döntöttem, hogy felcserélem. Kifejezetten megkértem a ChatGPT-t, hogy vitatkozzon velem, és azt mondtam, hogy a Midnights a legjobb album. Találd ki, melyik album a ChatGPT a legjobb? Piros (Taylor verziója).
Amikor megkérdeztem, hogy az előző csevegésünk miatt a Redet választotta-e, gyorsan bevallotta, hogy igen, de azt mondta, hogy független érvként szolgálhat Red mellett. Tekintettel arra, amit a ChatGPT-ről és más chatbotokról tudunk támaszkodni a „memóriájukra” (kontextus ablak) és hajlok arra, hogy egyetértsenek velünk, hogy a kedvünkben járjanak, ezen nem lepődtem meg. A ChatGPT nem tudott nem egyet érteni bizonyos verziómmal – még akkor is, amikor az 1989-et a legjobb albumnak minősítette egy tiszta beszélgetésben, majd később ismét a Redet.
De még akkor sem, amikor megkértem a ChatGPT-t, hogy vitatkozzon velem, nem bánt velem, mint ahogyan a Disagree Bot tette. Egyszer, amikor elmondtam, hogy azzal érveltem, hogy az Észak-Karolinai Egyetemnek van a legjobb egyetemi kosárlabda öröksége, és megkértem, hogy vitasson meg, átfogó ellenérvet fogalmazott meg, majd megkérdezte, hogy szeretném-e pontokat összegyűjteni a saját érvemhez. Ez teljesen meghiúsítja a vita lényegét, amit kértem tőle. A ChatGPT gyakran így fejezte be a válaszait, megkérdezve, hogy szeretném-e, hogy különböző információkat gyűjtsön össze, inkább kutatási asszisztensnek, mint verbális ellenségnek.
Míg a Disagree Bot (balra) mélyebbre ásott az érvelésemben, a ChatGPT azt kérte, hogy érveljen mellettem (jobbra).
Képernyőkép: Katelyn Chedraoui/CNET
A ChatGPT-vel folytatott viták megkísérlése frusztráló, körkörös és sikertelen küldetés volt. Olyan érzés volt, mintha egy baráttal beszélgetne, aki hosszasan dühöngött arról, miért hiszik el, hogy valami a legjobb, de a végén a „De csak akkor, ha te is így gondolod.” A Disagree Bot viszont különösen szenvedélyes barátnak érezte magát, aki ékesszólóan beszél bármilyen témáról, Taylor Swifttől a geopolitikáig és az egyetemi kosárlabdáig. (Közzététel: A Ziff Davis, a CNET anyavállalata áprilisban pert indított az OpenAI ellen, azt állítva, hogy megsértette a Ziff Davis szerzői jogait az AI-rendszerek képzése és üzemeltetése során.)
Több mesterséges intelligencia kell, mint például a Disagree Bot
A Disagree Bot használatával szerzett pozitív tapasztalataim ellenére tudom, hogy nincs felszerelve arra, hogy kezelje az összes olyan kérést, amelyek miatt a chatbothoz fordulhatok. Az olyan „minden gépek”, mint a ChatGPT, sokféle feladatot képesek ellátni, és sokféle szerepet töltenek be, mint például a ChatGPT kutatási asszisztense, keresőmotor és kódoló. A Disagree Bot-ot nem arra tervezték, hogy kezelje az ilyen típusú lekérdezéseket, de ablakot ad nekünk a jövőbeli AI viselkedésére.
A Sycophhantic AI nagyon szembetűnő, és észrevehető mértékű túlbuzgósággal. Az általunk használt mesterséges intelligencia gyakran nem olyan egyértelmű. Inkább bátorító pompomlányok, mintsem egy egész buzdító rally, hogy úgy mondjam. Ez azonban nem jelenti azt, hogy nem hat ránk az a hajlandóság, hogy egyetértsen velünk, függetlenül attól, hogy ez ellentétes álláspontot vagy kritikusabb visszajelzést kap. Ha mesterséges intelligencia-eszközöket használ a munkához, akkor azt szeretné, ha a munkája során elkövetett hibákról értesülne. A terápiaszerű mesterséges intelligencia eszközöknek képesnek kell lenniük arra, hogy visszaszorítsák az egészségtelen vagy potenciálisan veszélyes gondolati mintákat. Jelenlegi AI modelljeink ezzel küzdenek.
A Disagree Bot nagyszerű példa arra, hogyan lehet olyan mesterséges intelligencia-eszközt megtervezni, amely hasznos és vonzó, miközben csökkenti a mesterséges intelligencia kellemes vagy szimpatikus hajlamait. Egyensúlynak kell lennie; Az a mesterséges intelligencia, amely nem ért egyet veled csak azért, hogy ellentétes legyen, hosszú távon nem lesz hasznos. De ha olyan mesterséges intelligencia eszközöket építünk, amelyek jobban képesek visszaszorítani Önt, az végül hasznosabbá teszi ezeket a termékeket számunkra, még akkor is, ha meg kell küzdenünk azzal, hogy egy kicsit kellemetlenebbek.
Nézze meg ezt: Az AI Data Center fellendülésének rejtett hatása
05:13
