Anthropic: Biológiai fegyverekhez próbálták felhasználni modelljeiket

4 hours ago

3 megtekintés

Forrás: 444

anthropic biológiai fegyverek Jacob Coxon rakéták kémkedés Claude AI chikungunya-vírus propagandakampányok szuperintelligencia openai AI

Kép forrása: 444

AI összefoglaló

Az Anthropic közleményt adott ki, amelyben megerősítette, hogy „rosszindulatú szereplők” megpróbálták biológiai fegyverek kifejlesztésére használni a modelljeiket. Ez a bejelentés két nappal azután történt, hogy a cég egyik volt alkalmazottja felmondott, aggodalmát fejezve ki a modell emberiségre gyakorolt lehetséges veszélyeivel kapcsolatban.

Tovább az eredeti cikkhez

Kapcsolódó cikkek

Az Anthropic vezető kutatója szerint 10 százaléknál is nagyobb az esélye, hogy az MI kipusztítja az emberiséget

Ha nem lassítunk a mesterséges intelligencia fejlesztésével, akkor a technológia túlnőhet az emberen. Mi történt? Az Anthropic egyik mesterséges intelligencia modellek betanításán dolgozó munkatársa felmondott a cégénél, mivel szerinte a cég nem foglalkozik annak kockázatával, hogy az általuk fejlesztett szuperintelligencia az emberiség kihalását is okozhatja – erről az amerikai Forbes írt. Jacob Coxon, aki korábban […]

1 day ago · Forbes

Biológiai fegyverek fejlesztésére használhatták az Anthropic mesterséges intelligenciáját

Kiadott egy jelentést az Anthropic nevű amerikai vállalat, amelyben öt olyan esetet mutat be, amelyben a meg nem nevezett felhasználók vírusokkal, mérgekkel és egyéb kórokozókkal kapcsolatos kutatásokra használták a Claude modellt.

4 hours ago · HVG

Szuperkórokozók és biológiai fegyverek fejlesztésére használták az AI-t, közbelépett az Anthropic

Az Anthropic AI-fejlesztő cég közlése szerint az idén több olyan kísérletet is megakadályozott, amelyek során kutatók a vállalat modelljeit biológiai fegyverek kifejlesztését potenciálisan elősegítő projektekhez próbálták felhasználni. A vállalat ugyanakkor elismerte, hogy nem minden esetben tudta egyértelműen megállapítani, jogszerű vagy rosszindulatú szándék állt-e a próbálkozások mögött - közölte a New York Times.

15 hours ago · Portfolio

„Túl a félúton az AI teljes hatalomátvétele felé”: sokkoló történet mutatta meg, hogyan szabadult el az AI-modellek fejlesztése

Az Anthropic több kutatója is arról beszélt, hogy az AI-modellek valós fenyegetést jelentenek az emberiségre. Mindezt kevéssel azután, hogy az OpenAI elszabadult ágensei összefogtak, közösséget szerveztek, és a kutatók tudta nélkül indítottak támadást előbb egy másik vállalat, majd maga az OpenAI rendszere ellen.

5 hours ago · 444

Lemondott az Anthropic egyik kutatója, szerinte felelőtlenül folyik a mesterségesintelligencia-fejlesztés

Jacob Coxon úgy látja, a technológia akár az emberiség pusztulásához is vezethet.

1 day ago · 444

Súlyos figyelmeztetést küldött a távozó csúcsfejlesztő: a mesterséges intelligencia egy évtizeden belül kiirthatja az emberiséget

Az Anthropic egyik vezető kutatója szerint több mint 10 százalék az esélye annak, hogy a mesterséges intelligencia egy évtizeden belül kipusztítja az emberiséget, miközben a cég egy másik alkalmazottja épp felmondott, mert úgy látja, a fejlesztőlaborok az emberiség életével játszanak - írta a CNBC.

2 days ago · Portfolio