ChatGPT most óvatosan lépked, de a chatbot év végére kockázatosabbá válhat.
Az elmúlt hetekben a generatív mesterséges intelligencia chatbot meglehetősen szigorú korlátozások mellett működött, mivel az OpenAI megpróbálta eloszlatni az aggodalmakat, hogy nem kezeli megfelelően az érzékeny mentális egészségügyi problémákat. De Sam Altman vezérigazgató azt mondta a bejegyzés X-en Kedden azt mondta, hogy a vállalat enyhít néhány korlátozáson, mert „csillapítani tudta a súlyos mentális egészségügyi problémákat”.
Altman azt mondta a nyomon követő bejegyzés Szerdán, hogy a változások várhatóan a tizenévesek biztonságát helyezik előtérbe, ugyanakkor „felnőttként kezelik a felnőtt felhasználókat”. A modellekbe beépített eszközök az érzékeny témák kezelésére és a mentális egészségügyi válságok kezelésére megmaradnak minden felhasználó számára, de a felnőtt felhasználók nagyobb szabadságot kapnak a ChatGPT használatában megelőző felugró ablakok vagy modell-átirányítás nélkül.
„Természetesen ez nem vonatkozik mindenre: például továbbra sem engedjük meg azokat a dolgokat, amelyek másoknak kárt okoznak, és a mentális egészségügyi krízisekkel küzdő felhasználókat nagyon másképp kezeljük, mint azokat, akik nem” – mondta Altman. „Anélkül, hogy paternalista lennénk, megpróbáljuk segíteni a felhasználókat hosszú távú céljaik elérésében.”
(Közzététel: A Ziff Davis, a CNET anyavállalata áprilisban pert indított az OpenAI ellen, azt állítva, hogy megsértette a Ziff Davis szerzői jogait az AI-rendszerek képzése és üzemeltetése során.)
További változások is várhatók. Altman szerint a cég engedélyezheti az erotikát az ellenőrzött felnőtt felhasználók számára, mivel decemberben bevezeti a korhatáros rendszert, vagyis a korhatáros tartalmat. A felnőtteknek szóló tartalom része a vállalat „felnőtt felhasználókat felnőttként kezelni” elvének – mondta Altman.
Altman bejegyzése a következő hetekben bejelentette a ChatGPT új verzióját is, amelynek személyisége jobban hasonlít a cég GPT-4o modelljéhez. A Chatbot felhasználói panaszkodtak, miután a cég az év elején lecserélte a 4o-t a személytelen GPT-5-re, mondván, hogy az új verzióból hiányzik a korábbi chatbot modellek vonzó és szórakoztató személyisége.
„Ha azt szeretné, hogy ChatGPT-je nagyon emberi módon válaszoljon, vagy rengeteg emojit használjon, vagy úgy viselkedjen, mint egy barát, akkor a ChatGPT-nek meg kell tennie (de csak akkor, ha Ön akarja, nem azért, mert maximalizáljuk a használatot)” – írta Altman.
Ne hagyja ki elfogulatlan műszaki tartalmainkat és laboratóriumi értékeléseinket sem. Adja hozzá a CNET-t preferált Google-forrásként.
Miután a szülők beperelték az OpenAI-t, akik azt állították, hogy a ChatGPT hozzájárult tinédzser fiuk öngyilkosságához, a vállalat számos új korlátozást és változtatást vezetett be, többek között szülői felügyelet, figyelmeztetések a kockázatos viselkedésre és a tinibarát változat a chatbotról. Nyáron az OpenAI megvalósult szünet emlékeztetők amelyek arra ösztönzik az embereket, hogy időnként hagyják abba a bottal való csevegést.
Kedden a cég bejelentette egy a AI szakértői tanács és a jólét, beleértve néhányat, akik jártasak a pszichológiában és az emberi viselkedésben.
Ez akkor következik be, amikor a törvényhozók és a szabályozó hatóságok kongatják a vészharangot az AI-eszközök által az emberekre, különösen a gyermekekre nézve jelentett kockázatokról. Hétfőn Gavin Newsom kaliforniai kormányzó aláírta új korlátozások az AI-kísérő chatbotokra vonatkozóan törvénybe. A múlt hónapban a Szövetségi Kereskedelmi Bizottság vizsgálatot indított több mesterségesintelligencia-cégnek, köztük az OpenAI-nak is.
