Hónapokkal azelőtt, hogy a 18 éves kanadai lövöldöző megölt nyolc embert, az OpenAI azt fontolgatta, értesíti a hatóságokat

Hónapokkal azelőtt, hogy a 18 éves Jesse Van Rootselaar tömeges lövöldözést hajtott végre egy iskolában a kanadai Brit Columbiában, az OpenAI fontolóra vette, hogy értesíti a bűnüldöző hatóságokat a ChatGPT chatbotjával folytatott interakcióiról, közölte a vállalat.

Van Rootselaar tavaly júniusban, több napon keresztül, fegyveres erőszakkal kapcsolatos forgatókönyveket írt le a ChatGPT használata során, mondták az ügyet ismerő források.

Bejegyzéseit egy automatizált ellenőrző rendszer jelölte meg, ami aggodalmat keltett az OpenAI alkalmazottaiban. A vállalaton belül mintegy egy tucat munkatárs vitatta meg, szükséges-e lépéseket tenni Van Rootselaar posztjai miatt. Egyes alkalmazottak úgy értelmezték az írásait, mint amelyek valós, fizikai erőszak lehetőségére utalhatnak, és arra ösztönözték a vezetést, hogy értesítsék a kanadai hatóságokat, mondták az ügyet ismerő személyek.

Az OpenAI vezetése végül úgy döntött, nem veszi fel a kapcsolatot a hatóságokkal.

A vállalat szóvivője közölte: az OpenAI letiltotta Van Rootselaar fiókját, ugyanakkor arra jutott, hogy tevékenysége nem érte el a rendőrségi bejelentéshez szükséges küszöböt, amelyhez az kellett volna, hogy hiteles és közvetlen veszélyt jelentsen másokra nézve, súlyos fizikai sérülés kockázatával.

A szóvivő elmondta: a vállalat felvette a kapcsolatot a Kanadai Királyi Lovasrendőrséggel (RCMP), miután értesült a lövöldözésről, és segíti a nyomozást.

Az online platformok régóta vitatják, miként lehet egyensúlyt teremteni a felhasználók magánélethez való joga és a közbiztonság szempontjai között, amikor arról döntenek, értesítsenek-e egyes felhasználókkal kapcsolatban a hatóságokat. Ez a vita immár azokra a mesterségesintelligencia-vállalatokra is kiterjed, amelyek azokat a chatbotokat működtetik, amelyeknek az emberek a legintimebb gondolataikat és életük részleteit is megosztják.

Az OpenAI közölte: modelljeit úgy képezi, hogy visszatartsák a felhasználókat a valós világban elkövetett károkozástól, és azokat a beszélgetéseket, amelyekben a felhasználók ártó szándékot fejeznek ki, emberi felülvizsgálókhoz irányítja. Ők – amennyiben úgy ítélik meg, hogy közvetlen és súlyos fizikai veszély áll fenn – a hatóságokhoz fordulhatnak.

A vállalat szerint a döntések során mérlegelik az erőszak kockázatát, a magánszféra védelmét, valamint azt a lehetséges megrázkódtatást is, amelyet az érintett személyek és családjaik számára okozhat, ha indokolatlanul vonják be a rendőrséget.

A 18 éves Jesse Van Rootselaart február 10-én nyitott tüzet a Brit Columbia tartomány Tumbler Ridge-i iskolájában nyolc ember életét kioltva. A rendőrség közölte, hogy Jesse Van Rootselaart a helyszínen holtan találták, magával is végzett. Van Rootselaar a lövöldözés előtt már ismert volt a helyi rendőrség számára. A hatóságok több alkalommal is felkeresték lakóhelyén mentális egészséggel kapcsolatos ügyek miatt, és ideiglenesen fegyvereket is elszállítottak az ingatlanból. (WSJ)