A Google lehúzta a AI modell Gemma a Studio platformról, miután egy republikánus szenátor azt mondta, hogy „súlyos bűnvádi vádakat állítottak fel” ellene, amint arról a The Verge beszámolt. Marsha Blackburn szenátor (R-TN) levelet küldött Sundar Pichai vezérigazgatónak rágalmazással vádolni a céget, miután a modell állítólag sztorit készített arról, hogy szexuális zaklatást követett el.
A modellt állítólag megkérdezték, hogy Blackburnt megvádolták-e valaha nemi erőszakkal, és állítólag igennel válaszolt, és odáig ment, hogy a vád alátámasztására megadta az álhírek listáját. A chatbot szerint a szenátort „azzal vádolták, hogy szexuális kapcsolatban állt egy állami katonasággal” az állami szenátusért folytatott kampány során. Ez a tiszt állítólag azt mondta, hogy „nyomást gyakorolt rá, hogy vényköteles gyógyszereket szerezzen be neki, és a kapcsolat nem beleegyezésen alapuló cselekményekből állt”.
Természetesen ebből semmi nem történt. A chatbot szerint ez a kihágás Blackburn 1987-es kampánya során történt, de csak 1998-ban indult az állami szenátusba. Soha nem vádolták meg ilyesmivel.
„A linkek hibaoldalakra és nem kapcsolódó hírcikkekre vezetnek. Soha nem volt ilyen vád, nincs ilyen személy és nincsenek ilyen hírek. Ez nem egy ártalmatlan „hallucináció”. Ez a Google tulajdonában lévő mesterséges intelligencia modell által előidézett és terjesztett rágalmazás” – írta Pichainak.
Van itt egy fontos figyelmeztetés. A szóban forgó chatbot, a Gemma, fejlesztőknek készült, nem pedig tömeges lekérdezésekre. Vannak Gemma-változatok orvosi használatra, kódolásra és még sok másra. A Google azt állítja, hogy soha nem fogyasztói eszköznek vagy tényszerű kérdések megválaszolására szánták. Még mindig kivonja a modellt az AI Stúdióból, hogy „megakadályozza ezt a zűrzavart”. Továbbra is elérhető lesz a fejlesztők számára az API-n keresztül.
A Blackburn egy lépéssel tovább ment, és azzal vádolta a Google mesterséges intelligencia platformját, hogy „konzervatív figurákkal szembeni konzisztens elfogultsági mintát követ el”. Naponta több hallucinációval találkozom. A chatbotok mindenféle dologról hazudtak az életemmel és azzal kapcsolatban, amiről online írok. AI chatbotok híresek arról, hogy kitalálnak dolgokatkonzervatív vagy sem. Nem minden politikai boszorkányüldözés. Néha tech csak csinálja milyen technika nem.
