AI visszaélések: biológiai fegyverek fejlesztésére is használnák

3 hours ago

6 megtekintés

Forrás: Raketa

Mesterséges intelligencia

Kép forrása: Raketa

AI összefoglaló

Az Anthropic, a Claude AI fejlesztője több olyan esetet is felfedezett, amikor a modelljeit biológiai fegyverek kifejlesztésére alkalmas kutatásokhoz próbálták felhasználni. A cég közbelépett, hogy megakadályozza a technológia ilyen célú visszaélését.

Tovább az eredeti cikkhez

Kapcsolódó cikkek

Szuperkórokozók és biológiai fegyverek fejlesztésére használták az AI-t, közbelépett az Anthropic

Az Anthropic AI-fejlesztő cég közlése szerint az idén több olyan kísérletet is megakadályozott, amelyek során kutatók a vállalat modelljeit biológiai fegyverek kifejlesztését potenciálisan elősegítő projektekhez próbálták felhasználni. A vállalat ugyanakkor elismerte, hogy nem minden esetben tudta egyértelműen megállapítani, jogszerű vagy rosszindulatú szándék állt-e a próbálkozások mögött - közölte a New York Times.

22 hours ago · Portfolio

Maga az Anthropic adott ki közleményt arról, hogy próbálták „rosszindulatú szereplők” biológiai fegyverekhez felhasználni a modelljüket

Más visszaélésekről is beszámoltak két nappal azután, hogy a cég egyik volt alkalmazottja felmondott, azt állítva, hogy a vállalat modelljei 2030-ra az emberiség kihalását okozhatják.

10 hours ago · 444

Biológiai fegyverek fejlesztésére használhatták az Anthropic mesterséges intelligenciáját

Kiadott egy jelentést az Anthropic nevű amerikai vállalat, amelyben öt olyan esetet mutat be, amelyben a meg nem nevezett felhasználók vírusokkal, mérgekkel és egyéb kórokozókkal kapcsolatos kutatásokra használták a Claude modellt.

11 hours ago · HVG

Riasztó jelentést tettek közzé: biológiai fegyverek fejlesztésére használták volna a mesterséges intelligenciát

Az egyik legnépszerűbb AI-modellt biológiai fegyverek fejlesztésének támogatására, kiberkémkedésre, valamint propagandaműveletekre próbálták felhasználni.

6 hours ago · Pénzcentrum

10 százalékra saccolja az emberiség kihalásának esélyét egy évtizeden belül az Anthropic AI-kutatója

Az AI-fejlesztések piacán a verseny diktálja a tempót, nem pedig a biztonság, ami magában hordozza annak veszélyét, hogy az egyre fejlettebb rendszerek képességei kontrollálhatatlanul fognak fejlődni. Az egyik legfontosabb szereplő, az Anthropic kutatói szerint a kockázat nagyobb, mint gondolnánk, bár ez nem a cég egyöntetű hivatalos állásfoglalása.

1 day ago · Raketa

Fellázadt a zeneipar: több milliárd dolláros per indul az Anthropic ellen

Beperelte a Sony Music és a Warner Music a Claude AI-asszisztens és modellcsalád mögött álló Anthropicot, amiatt, hogy állítólag szerzői jogokkal védett és sokszor kalózkodással megszerzett dalokat használtak, a Claude-modellek betanítása során. S bár óriási összegek forognak kockán, a per kimenetele túlmutat a pénzen, hozzájárulhat ugyanis annak a meghatározásához, hogy milyen szabályok szerint tanulhatnak a jövő mesterséges intelligenciái az emberiség által létrehozott kultúrából.

6 days ago · HVG