Ez a chatbot csak azt mondja neked, hogy mit akar hinni, egy új tanulmány szerint.
Függetlenül attól, hogy olyan hagyományos keresőmotort használ, mint a Google, vagy olyan beszélgetési eszköz, mint az OpenAi CHATGPT, hajlamos olyan kifejezéseket használni, amelyek tükrözik az elfogultságát és észleléseit, a tanulmány szerint, amelyet tavasszal a Nemzeti Tudományos Akadémia folyóiratában tettek közzé. Ennél is fontosabb, hogy a keresőmotorok és a chatbotok gyakran olyan eredményeket adnak, amelyek megerősítik ezeket a hiedelmeket, még akkor is, ha az a szándéka, hogy többet megtudjon a témáról.
Képzelje el például, hogy minden nap megpróbálja megismerni a kávéfogyasztás egészségügyi hatásait. Ha te, mint én, élvezd, hogy reggel pontosan két csésze Joe -t kell reggelizni, akkor kereshet valamit, például: “A kávé egészséges?” vagy “A kávé egészségügyi előnyei”. Ha már szkeptikus vagy (talán egy teás purista), akkor kereshet, hogy a “Kávé rossz neked?” helyette. A kutatók azt találták, hogy a kérdések kialakítása megsemmisítheti az eredményeket – többnyire olyan válaszokat kapnék, amelyek megmutatják a kávé előnyeit, miközben az ellenkezőjét kapnád.
“Amikor az emberek információkat keresnek, akár a
Az AI chatbotok bősége, valamint a magabiztos és testreszabott eredmények, amelyeket oly szabadon adnak neked, megkönnyíti a nyúllyuk leesését, és nehezebben rájön, hogy benne vagy. Soha nem volt sokkal fontosabb idő, hogy mélyen gondolkodjon arról, hogyan szerez információt online.
A kérdés az, hogy hogyan kaphatja meg a legjobb válaszokat?
Rossz kérdések feltevése
A kutatók 21 tanulmányt végeztek közel 10 000 résztvevővel, akiket felkérték, hogy végezzenek keresést bizonyos előre kiválasztott témákban, ideértve a koffein, a gázárak, a bűncselekmények aránya, a Covid-19 és az atomenergia egészségügyi hatásait. A használt keresőmotorok és eszközök között szerepelt a Google, a CHATGPT és az egyéni tervezésű keresőmotorok és az AI chatbotok.
A kutatók eredményei azt mutatták, hogy az úgynevezett “szűk keresési hatásnak” az emberek kérdéseinek és a technológiai platformok válaszának függvénye volt. Az embereknek lényegében szokása van, hogy rossz kérdéseket tesznek fel (vagy rosszul teszik fel a kérdéseket). Hajlamosak voltak olyan keresési kifejezésekre vagy AI utasításokra, amelyek bebizonyították, amit már gondoltak, valamint a keresőmotorok és chatbotok, amelyek célja a szűk, rendkívül releváns válaszok megadása, amelyeket ezekre a válaszokra adtak. “A válaszok végül csak megerősítik, hogy mi elsősorban hisznek” – mondta Leung.
Bővebben: AI Essentials: 29 A Gen AI működésének módja az Ön számára, szakértőink szerint
A kutatók azt is ellenőrizték, hogy a résztvevők megváltoztatták -e hitüket a keresés elvégzése után. Ha szűk válaszválasztékot szolgáltak fel, amely nagymértékben megerősítette a hitüket, valószínűleg nem láttak jelentős változásokat. Amikor azonban a kutatók egy egyedi építésű keresőmotort és chatbotot nyújtottak, amelynek célja, hogy szélesebb választ adjon, akkor valószínűleg megváltoztak.
Leung szerint a platformok a felhasználók számára egy szélesebb körű, kevésbé testreszabott keresés lehetőségét biztosíthatják, ami hasznosnak bizonyulhat olyan helyzetekben, amikor a felhasználó megpróbálja megtalálni a források szélesebb választékát. “Kutatásunk nem próbálja azt sugallni, hogy a keresőmotorok vagy algoritmusok mindig kibővítsék a keresési eredményeket” – mondta. “Úgy gondolom, hogy sok érték van a nagyon koncentrált és nagyon szűk keresési eredmények biztosításában bizonyos helyzetekben.”
3 módszer a megfelelő kérdések feltevésére
Ha szélesebb választ szeretne a kérdéseire, akkor vannak olyan dolgok, amelyeket megtehetsz – mondta Leung.
Légy pontos: Gondoljon ki konkrétan arra, hogy pontosan mit próbál megtanulni. Leung egy példát használt arra, hogy megpróbálja eldönteni, hogy befektet -e egy adott társaság részvényeibe. Ha azt kérdezi, hogy ez jó vagy rossz részvényt vásárol -e, valószínűleg megsemmisíti az eredményeket – pozitívabb hírek, ha azt kérdezi, hogy jó -e, negatív hír, ha azt kérdezi, hogy rossz -e. Ehelyett próbáljon ki egyetlen, semlegesebb keresési kifejezést. Vagy kérdezze meg mindkét kifejezést, és értékelje az egyes eredményeket.
Más nézeteket szerez: különösen egy AI chatbot segítségével, közvetlenül a promptban kérheti a perspektívák széles skáláját. Ha szeretné tudni, hogy naponta két csésze kávét kell inni, kérdezze meg a chatbotot a különféle véleményekről és a mögöttük lévő bizonyítékokról. A kutatók ezt az egyik kísérletük során kipróbálták, és megállapították, hogy több változatos eredményt kaptak. “Arra kértük a CHATGPT -t, hogy nyújtson be különböző perspektívákat a résztvevők lekérdezésére, és minél több bizonyítékot nyújtson be az állítások alátámasztására” – mondta Leung.
Egy bizonyos ponton hagyja abba a kérdést: A nyomon követési kérdések nem működtek olyan jól-mondta Leung. Ha ezek a kérdések nem kapnak szélesebb választ, akkor ellenkező hatást kaphat – még szűkebb, megerősítő eredményeket. Sok esetben azok az emberek, akik sok nyomon követési kérdést tettek fel, csak “mélyebben esett le a nyúllyukba”-mondta.
