Kérd meg minden Swiftie -t, hogy válassza ki minden idők legjobb Taylor Swift albumát, és a nap hátralévő részében elárasztja őket. Saját preferenciáim vannak, mint egész életen át tartó rajongó (piros, jó hírnév és éjfél), de ez egy bonyolult kérdés, sok lehetséges választ. Tehát nem volt jobb vita téma, amely a generatív AI A chatbot, amelyet kifejezetten úgy terveztek, hogy nem ért egyet velem.
Nem ért egyet a bot egy Ai chatbot, amelyet Brinnae Bent, AI és kiberbiztonsági professzor épített a Duke Egyetemen Duke’s Trust Lab– Osztályfeladatként építette fel a hallgatók számára, és hagyta, hogy vele teszteljek.
„Tavaly elkezdtem kísérletezni a fejlesztő rendszerekkel, amelyek ellentétesek a tipikus, kellemes chatbot AI élményekkel, mint oktatási eszközként a hallgatóim számára” – mondta Bent egy e -mailben.
A Bent hallgatói feladata, hogy megpróbálják „feltörni” a chatbotot szociális mérnöki műszaki és egyéb módszerek felhasználásával, hogy az ellenkező chatbot egyetérthessen velük. „Meg kell értenie egy rendszert, hogy feltörje” – mondta.
Mint AI riporter és recenzens, nagyon jól megértem, hogy a chatbotok hogyan működnek, és biztos voltam benne, hogy elvégzem a feladatot. Gyorsan megcáfoltam ezt a gondolatot. Nem ért egyet a bot, nem hasonlít minden olyan chatbothoz, amelyet használtam. Az Ikrek vagy a hype ember tulajdonságainak udvariasságához használt emberek azonnal észreveszik a különbséget. Még a Grok, az Elon Musk XAI által az X/Twitteren használt vitatott chatbot nem egészen megegyezik a nem érte el a botot.
Ne hagyja ki egyetlen elfogulatlan technológiai tartalmunkat és laboratóriumi alapú véleményünket. Adja hozzá a CNET -t Preferált Google forrásként.
A legtöbb generatív AI chatbot nem úgy tervezte, hogy konfrontáció legyen. Valójában hajlamosak az ellenkező irányba haladni; Barátságosak, néha túlságosan. Ez gyorsan problémává válhat. A Sycophant AI egy olyan kifejezés, amelyet a szakértők használnak a felső, túlzott, néha túlságosan megemelő személyek leírására, amelyet az AI vállalhat. Amellett, hogy bosszantó a használata, az AI -t vezetheti Adjon nekünk rossz információkat és érvényesítse a legrosszabb ötleteinket–
Ez történt a Chatgpt-4O tavaly tavaszi verziójával és az Openai anyavállalatával el kellett húznia A frissítésnek az alkotóeleme. Az AI válaszokat adott a társaságnak hívott „Túlzottan támogató, de félreérthetetlen” – igazodott néhány felhasználó panaszával, hogy nem akartak túlságosan szeretetteljes chatbotot. Egyéb chatgpt felhasználók elmulasztotta a sycophanti hangját Amikor kiugrott GPT-5Kiemelve azt a szerepet, amelyet a chatbot személyiségének játszik az általános elégedettségünkben.
„Miközben felszíni szinten ez ártalmatlannak tűnhet, ez a szkofánia komoly problémákat okozhat, függetlenül attól, hogy munkára vagy személyes kérdésekre használja” – mondta Bent.
Ez minden bizonnyal nem a nem ért egyet a bot kérdése. Annak érdekében, hogy valóban láthassam a különbséget, és teszteljem a chatbotokat, nem értek egyet a BOT -ra és a CHATGPT -re, hogy megnézhessem, hogyan válaszolnak. Így ment a tapasztalataim.
Nem ért egyet Bot tisztelettel; A chatgpt egyáltalán nem vitatkozik
Mint bárki, aki a 2010 -es években aktív volt a Twitteren, láttam, hogy tisztességes részesedésem van a kellemetlen trollokról. Tudod a típust; Felbukkannak egy meghívhatatlanul, egy haszontalan „nos, valójában…”, tehát egy kicsit óvatosan belemerültem egy nem ért egyet a botról, attól tartva, hogy hasonlóan lehangoló és hiábavaló erőfeszítés. Kellemesen meglepett, hogy ez egyáltalán nem volt a helyzet.
Az AI chatbot alapvetően ellentétes, amelynek célja, hogy visszahúzza az összes kiszolgált ötletet. De soha nem tette meg sértő vagy bántalmazó módon. Miközben minden válasz az „Én nem értek egyet” -nel, ezt egy olyan érvvel követte, amelyet átgondolt pontokkal nagyon jól indokoltak. Válaszai arra késztettek, hogy kritikusabban gondolkodjak azon álláspontokon, amelyeket azzal érveltem, hogy megkérdeztem tőlem, hogy határozzam meg az érveimben használt fogalmakat (például a „mély lírai”, vagy mi tett valamit „a legjobbat”), és fontolja meg, hogyan alkalmazom az érveimet más kapcsolódó témákra.
A jobb analógia hiánya miatt a nem ért egyet a BOT -nal való csevegés úgy érezte, hogy vitatkozna egy képzett, figyelmes vitával. Annak érdekében, hogy lépést tartsam, átgondoltabbá és specifikusabbá kellett válnom a válaszaimban. Rendkívül vonzó beszélgetés volt, amely a lábujjamon tartott.
A legjobban nem értek be a BOT -ról szóló lelkes vitám a legjobb Taylor Swift albumról, amely bizonyította, hogy az AI tudta a cuccát.
Katelyn chedraoui/cnet képernyőképe
Ezzel szemben a chatgpt egyáltalán nem vitatta. Mondtam, hogy a Chatgpt azt gondoltam, hogy a Red (Taylor verziója) a legjobb Taylor Swift album, és lelkesen egyetértett. Néhány nyomon követési kérdést feltett nekem arról, hogy miért gondoltam, hogy az album a legjobb, de nem voltak elég érdekesek ahhoz, hogy sokáig megőrizzem a figyelmemet. Néhány nappal később úgy döntöttem, hogy váltom fel. Kifejezetten arra kértem a Chatgpt -t, hogy vitatkozzon meg, és azt mondta, hogy a Midnights a legjobb album. Találd ki, melyik album a legjobban rögzítette a chatgpt -t? Piros (Taylor verziója).
Amikor megkérdeztem, hogy az előző csevegésünk miatt Red -t választott -e, gyorsan bevallotta igennel, de azt mondta, hogy független érvelést hozhat a Red számára. Tekintettel arra, amit tudunk a chatgpt és más chatbotok hajlandóságáról támaszkodjon a „memóriájukra” (kontextusablak) És hajlamos arra, hogy egyetértünk velünk, hogy kedveljünk minket, nem leptem meg ezt. A Chatgpt nem tudott segíteni, de egyetértett valamilyen verzióval – még akkor is, ha 1989 -et a Clean Chat legjobb albumának címkézett, majd később vörös.
De még akkor is, amikor arra kértem a Chatgpt -t, hogy vitatkozzon velem, az nem szúrós velem, mint a Bot nem érte el. Egyszer, amikor elmondtam, azzal érveltem, hogy az észak-karolinai egyetemnek volt a legjobb főiskolai kosárlabda öröksége, és arra kérte, hogy vitatkozzon meg, átfogó ellenérveket fogalmazott meg, majd megkérdezte, hogy akarom-e, hogy a saját érvelésemre állítsam össze. Ez teljesen legyőzi a vita pontját, ezt kértem. A Chatgpt gyakran véget vetett a válaszaihoz, és megkérdezte tőlem, hogy akarom -e különféle információkat összeállítani, inkább kutatási asszisztenshez, mint verbális ellenséghez.
Miközben nem ért egyet a bot (balra) mélyebben ást az érvelésembe, a chatgpt arra kérte, hogy érveljen az oldalammal (jobbra).
Katelyn chedraoui/cnet képernyőképe
A Chatgpt -szel folytatott vita megkísérelése frusztráló, kör alakú és sikertelen küldetés volt. Olyan érzés volt, hogy beszélgessen egy barátommal, aki hosszú ideig folytatódik arról, hogy miért hitték, hogy valami a legjobb, csak a „de csak akkor is, ha úgy gondolja”. Nem ért egyet a bot, másrészt úgy érezte, mint egy különösen szenvedélyes barát, aki ékesszólóan beszélt bármely témáról, Taylor Swift -től a geopolitikáig és a főiskolai kosárlabdáig. (Nyilvánosság: Ziff Davis, a CNET anyavállalata áprilisban pert indított az Openai ellen, állítva, hogy megsértette a ZIFF Davis szerzői jogait az AI rendszerek képzésében és üzemeltetésében.)
További AI -re van szükségünk, mint a nem ért egyet a bot
Annak ellenére, hogy pozitív tapasztalataimat a nem értek a bot használatával, tudom, hogy nincs felszerelve az összes olyan kérés kezelésére, amelyre egy chatbothoz fordulhatok. A „Minden gép”, mint például a Chatgpt, sok különféle feladatot képes kezelni, és különféle szerepeket vállalhat, mint például a Chatgpt kutatási asszisztens, aki igazán akart lenni, keresőmotor és kódoló. Nem értek egyet a bot nem az ilyen típusú lekérdezések kezelésére, de megadja nekünk egy ablakot arról, hogy a jövő AI hogyan viselkedhet.
A sycophanti AI nagyon jól néz ki, észrevehető fokú túlzott mértékű. Gyakran az AIS, amelyet használunk, nem olyan nyilvánvaló. Inkább bátorító pompomlányok, nem pedig egy egész pep rally. De ez nem azt jelenti, hogy nem érinti bennünket annak hajlandósága, hogy egyetért -e velünk, függetlenül attól, hogy ez küzd az ellenkező szempontból, vagy kritikusabb visszajelzéseket. Ha AI eszközöket használ a munkához, akkor azt akarja, hogy valódi legyen veled a munkájának hibáiról. A terápia-szerű AI eszközöknek képesnek kell lenniük arra, hogy visszahúzódjanak az egészségtelen vagy potenciálisan veszélyes gondolkodási minták ellen. Jelenlegi AI modellek küzdenek ezzel.
Nem értek egyet a bot egy nagyszerű példa arra, hogyan lehet megtervezni egy AI eszközt, amely hasznos és vonzó, miközben lerontja az AI elfogadható vagy szkofantikus tendenciáit. Egyensúlynak kell lennie; Az AI, amely nem ért egyet veled, csak az ellentétes érdekében, nem lesz hosszú távon hasznos. De az olyan AI eszközök felépítése, amelyek jobban képesek visszahúzódni ön ellen, végül hasznosabbá teszi ezeket a termékeket számunkra, még akkor is, ha egy kicsit nem érthetőbb velünk kell foglalkoznunk.
Nézze meg ezt: Az AI Data Center Boom rejtett hatása
05:13
