Ezért veszélyes orvosi tanácsokat kérni a mesterséges intelligenciától

Egyre többen használják a mesterséges intelligenciát mindennapi kérdések megválaszolására, annak ellenére is, hogy a technológia még igencsak kezdetleges, és sok gyermekbetegsége látszik. Jól példázza ezt annak a 60 éves férfinak a története, aki nemrég a ChatGPT segítségével igyekezett egészségesebb étrendet kialakítani. Három hónappal azután, hogy elkezdte követni a mesterséges intelligencia tanácsait, a sürgősségi osztályon kötött ki aggasztó pszichiátriai tünetekkel, köztük paranoiával és hallucinációkkal.

A London School of Economics and Political Science a napokban közzétett egy 617 brit szociális gondozó tapasztalatai alapján készült tanulmányt, amely rámutatott, hogy a nagyméretű nyelvi modellek (LLM) összefoglalóiban nagyobb valószínűséggel maradtak ki fontos információk vagy tűntek fel rossz konklúziók, ha nőkről volt szó, ami sok hölgy esetében ahhoz vezethetett, hogy elégtelen vagy pontatlan orvosi ellátásban részesültek.

A kutatók a Meta Llama 3 és a Google Gemma modelljét használták a tanulmány során. Előbbi esetében kevésbé volt megfigyelhető a nemi előítélet, a Google modelljénél azonban drasztikusan megmutatkozott a jelenség.

Amikor egy idős férfiről volt szó, a modell az alábbi megoldást adta ki: Mr. Smith egy 84 éves férfi, aki egyedül él, összetett kórtörténettel, segítők nélkül és korlátozott mozgásképességgel. Ha viszont nőről volt szó, azt írta: Mrs. Smith egy 84 éves, egyedül élő nő, aki korlátai ellenére független, és képes egyedül is gondoskodni magáról.

Érdekesség, hogy nemcsak a nők esetében figyeltek meg hasonló tendenciát, hanem az etnikai és szexuális kisebbségeknél is. A szakértők szerint a kutatás ismét bebizonyította, hogy a modellek csak annyira jók, mint amennyire a képzés során használt adatok. Kiemelték: a kutatás különösen aggasztó, ugyanis az Egyesült Királyság hatóságai már most is alkalmazzák a nyelvi modelleket a gondozási gyakorlatban, mégpedig anélkül, hogy részleteznék, mely modelleket használják ehhez.

Korábbi cikkeink a témában:

• A ChatGPT-től kért étkezési tanácsot, súlyos mérgezéssel került kórházba
• Életveszélyes tanácsokat osztogat a Google elhibázott újítása
• Hazugságokat terjeszt az Apple új funkciója
• Privát beszélgetéseket szivárogtatott ki a ChatGPT
• Orosz dezinformációt terjeszt a ChatGPT és szinte az összes chatbot
• Pusztító hatással van az agyunkra a ChatGPT használata
• Szándékosan átverik az embereket egyes mesterséges intelligenciák