A Fable, egy népszerű könyvkövető alkalmazás bejelentette, hogy eltávolítja mesterséges intelligencia funkcióit a sértő olvasói összefoglalók miatti visszhangot követően. A mesterséges intelligencia által generált összefoglalók, amelyek az olvasók egyediségét játékos formában ünnepelték, ehelyett kritikát váltottak ki a fajra, nemre, szexualitásra és fogyatékosságra vonatkozó sértő nyelvezet miatt.
Problémás összefoglalók
Az éves olvasási összefoglalók az olvasók sokrétű utazásaira kívántak rávilágítani, néhány azonban problémás megállapításokat is tartalmazott. Az egyik összefoglaló például így szólt: „Útja mélyen belemerül a fekete narratívák és az átalakuló mesék szívébe, így a mainstream történetek levegő után kapkodnak. Ne felejts el felbukkanni az alkalmi fehér szerzőnek, oké?”
Más felhasználók kiemelték a problémákat, beleértve a fogyatékkal élőkkel kapcsolatos narratívákra való hivatkozást, amelyekről azt mondták, hogy „szemet forgatnak egy lajhártól”, és egy rom-com-hoz fűzött megjegyzést, amely „megborzonghatónak” minősítette őket.
A Fable elnézést kér a hibáért
A Fable termékért felelős vezetője, Chris Gallello sajnálatát fejezte ki a közösségi médiában közzétett videóban, és kifejtette, hogy a sértő összefoglalók váratlan sokkot okoztak. Elismerte, hogy bár Fable szórakoztatónak és ünnepélyesnek szánta az AI-vezérelt összefoglalókat, az algoritmus nem tudta kiszűrni a káros tartalmakat. „Egyértelmű, hogy ez most mindkét esetben kudarcot vallott” – ismerte el Gallello.
Danny B. Groves író válasza
Danny B. Groves író, akinek összefoglalóját a „Sokszínűség hívének” titulálták, megosztotta a helyzettel kapcsolatos csalódottságát. Összefoglalója így szólt: „Az Ön könyvespolca a hangok és élmények vibráló kaleidoszkópja, ami arra késztet, hogy elgondolkodjak, van-e kedve egy egyenes, cisz-fehér ember perspektívájához!” Groves rámutatott, hogy a probléma azért merült fel, mert Fable nem ellenőrizte megfelelően az AI-kimenetet. „Ha ez a helyzet, akkor nem szabad olyan mesterségesintelligencia-algoritmusnak lennie, amely azonnal kiszorítja a tartalmat, vagy olyan kimenetet generál, amely kárt okozhat” – mondta.
Fable lépései haladnak előre
Egy további videóban Gallello megerősítette, hogy a Fable három kulcsfontosságú, mesterséges intelligenciára épülő funkciót eltávolít. „Elfogadhatatlan, hogy olyan funkciók legyenek, amelyek bármilyen kárt okoznak a közösségben” – jelentette ki, elismerve, hogy még többet kell tenni annak érdekében, hogy az AI-modellek felelősen és biztonságosan működjenek.
A Fable megígérte, hogy biztosítékokat és sértő nyelvi szűrőt vezet be a jövőbeni problémák elkerülése érdekében.
