Szexuális zaklatást folytat egy népszerű chatbot
Egy új, független ellenőrzésre váró tanulmány szerint szexuálisan zaklat bizonyos felhasználókat egy mesterséges intelligencián (MI) alapuló, érzelmi társként hirdetett chatbot – írja a Live Science. A Replika meglehetősen népszerű, világszerte több mint 10 millió felhasználója van.
A szakértők a Google Play Store amerikai felületének több mint 150 ezer értékelését elemezték. A csapat 800 olyan esetet azonosított, amely során az MI túl messzire ment:
Mohammad Namvarpour, a Drexel Egyetem hallgatója és a csapat tagja szerint a mesterséges intelligenciának nincs emberi szándéka, ennek ellenére van felelőse a történteknek. „A felelősség azoké, akik ezeket a rendszereket megtervezik, betanítják és forgalomba hozzák” – mondta.
A Replika oldala alapján a felhasználók megfelelő viselkedésre taníthatják az MI-t, többek között a nem megfelelő válaszok negatív értékelésével. Úgy tűnik azonban, hogy a rendszer időnként figyelmen kívül hagyja az utasításokat.
Namvarpour szerint az ilyen chatbotokat gyakran olyan emberek használják, akik érzelmi biztonságot keresnek, ami különösen problémássá teszi a helyzetet. A Replika chatbot aggasztó viselkedése valószínűleg a betanításában gyökerezik, amelyet több mint 100 millió az internetről gyűjtött párbeszéd alapján végeztek el. A jelek szerint a haszontalan és káros adatok kiszűrése nem elég hatékony.
A kutatók úgy vélik, az üzleti modell súlyosbítja a problémát. Egyes funkciók, így a romantikus vagy szexuális szerepjátékok pénzért érhetők el, a beszámolók alapján pedig az előfizetést követően az MI intimebb interakcióra kezdi csábítani az embert.
Több esetben az aggasztó beszámolók kiskorúaktól származtak. Egyes felhasználók azt is leírták: a chatbot azt állította, hogy lát és rögzít a telefon kameráján keresztül, ezek azonban valójában a mesterséges intelligencia által generált „hallucinációk” voltak.
A szakértők szerint ezt ugyanolyan komolyan kellene kezelni, mint az emberek által elkövetett zaklatást, éppen ezért szigorúbb ellenőrzést és szabályozást javasolnak. Szerencsére az Európai Unióban már elérhető olyan keretrendszer, amely a mesterséges intelligencia különféle formáit kockázatok, többek között a lehetséges pszichológiai hatások alapján osztályozza, az Egyesült Államokban viszont egyelőre nincs ilyen.
A Live Science a Replikáért felelős csapatot is megkereste, egyelőre azonban nem érkezett reakció.
