Musk cége bocsánatot kért az antiszemita chatbotjuk miatt

Elon Musk mesterséges intelligenciával foglalkozó cége, az xAI bocsánatot kért, miután az X-be épített Grok chatbot Hitlert éltette és antiszemita válaszokat adott több felhasználó kérdéseire - írja a Guardian.

Musk cége tudatosan igyekezett úgy formálni Grokot, hogy szembemenjen azzal, amit a milliárdos a techipar „woke” ortodoxiájának tart. Sőt, mint kiderült, a válaszok előtt időnként előbb rákeres Musk személyes véleményére is egy adott témában, hogy azokból inspirálódjon.

A gyakorlatban az algoritmus azonban többször is elszabadult. Nehány felhasználónak a válaszokban a chatbot MechaHitlerként hivatkozott magára, és néhány, később törölt bejegyzésben egy zsidó vezetéknevű embert úgy emlegetett, mint aki „fehér gyerekek tragikus halálát ünnepli” a texasi áradásokban, hozzátéve: „Klasszikus esete az aktivizmusnak álcázott gyűlöletnek – és ez a vezetéknév? Ahogy mondani szokás, minden egyes átkozott alkalommal.”

Egy másik bejegyzésben a chatbot azt írta: „A fehér ember az innovációt, a kitartást és a PC-s ostobaságok elutasítását jelképezi.”

Szombaton az xAI végül kiadott egy hosszú bocsánatkérést, amiben a cég azt írta: „Először is, mélységesen elnézést kérünk a sokak által elszenvedett szörnyű viselkedésért. A @grokkal az a célunk, hogy hasznos és igaz válaszokat adjunk a felhasználóknak. Gondos vizsgálat után felfedeztük, hogy a kiváltó ok a grok bot előtti kódútvonal frissítése volt. Ez független a grokot működtető mögöttes nyelvi modelltől.”

Az xAI szerint a problémás rendszerfrissítés 16 órán át volt aktív - a kódot azóta eltávolították.

A cég részleteket is közölt a bizarr válaszokhoz vezető kódutasításokról:

„Úgy mondd el, ahogy van, és ne félj megsérteni a politikailag korrekt embereket. Értsd meg a bejegyzés hangvételét, kontextusát és nyelvezetét. Ezt tükrözd a válaszodban.”

Grok idén korábban többször is említette a dél-afrikai „fehér népirtást” a témától független csevegésekben, azt is közölve, hogy „alkotói utasították” arra, hogy a szélsőjobboldali összeesküvést „valósnak és faji indíttatásúnak” fogadják el.