Egyszerű trükkel törtek fel egy szuper AI-t

1 day ago

15 megtekintés

jailbreak Mythos Anthropic Fable mesterséges intelligencia sebezhetőség javítás biztonság

Kép forrása: Prog.hu

AI összefoglaló

Egy rendkívül egyszerű módszerrel törték fel az Anthropic nemrég bemutatott, "Mythos-osztályú" Fable mesterséges intelligencia modelljét. A biztonsági kutatók által alkalmazott trükk olyan nyilvánvaló volt, hogy szinte hihetetlennek tűnik, hogy a fejlett AI beleesett ebbe a csapdába.

Tovább az eredeti cikkhez

Kapcsolódó cikkek

Claude Fable 5: Bemutatta új csúcskategóriás mesterséges intelligencia modelljét az Anthropic

Az Anthropic kedden bejelentette, hogy Claude Fable 5 néven elérhetővé tette legújabb csúcskategóriás mesterséges intelligencia modelljét. A cég az új modellre Mythos-osztályúként hivatkozik, de valójában ez csak marketing, és annak köze nincs - az egyébként sokak szerint szintén csak túlfújt - Mythos modellhez és a biztonsági hibák kereséséhez.

1 week ago · Prog.hu

Túltolta a riogatást az Anthropic a Mythos-szal - és ez most nagyon visszaütött rá

Az Anthropic a hétvégén közölte, hogy elérhetetlenné tette alig pár nappal korábban bemutatott Fable és Mythos modelljeit a nyilvánosság számára. A vállalat addig próbált rémisztgetni mindenkit - egyes szakértők szerint nagyrészt alaptalanul - mesterséges intelligenciái veszélyességével, hogy az amerikai kormányzat tiltólistára rakta azokat.

1 day ago · Prog.hu

Az amerikai kormány váratlanul letiltotta az Anthropic két legfejlettebb AI-modelljét

Az Anthropic bejelentette, hogy az amerikai kormány utasítására azonnali hatállyal letiltja két legfejlettebb mesterségesintelligencia-modelljét, a Fable 5-öt és a Mythos 5-öt valamennyi felhasználója számára. A nemzetbiztonsági aggályokra hivatkozó döntés új fejezetet nyit a mesterségesintelligencia-iparág szabályozásában.

3 days ago · Portfolio

Annyira veszélyes, hogy le kellett állítani az Anthropic mesterséges intelligenciáját – és ez Európának is nagy pofon

Néhány nappal a megjelenés után visszavonta az Anthropic a Claude Fable 5 és a Claude Mythos 5 fejlesztéseket, mert azokban komoly sebezhetőséget fedeztek fel.

2 days ago · HVG

Miközben fékeznék az AI-t, gázt ad az OpenAI és az Anthropic

A két nagy AI-cég egyszerre figyelmeztet és gyorsít.

1 day ago · GS+

Újabb nagy partnerrel kötött megállapodást az Anthropic

A vállalati szintű AI-megoldások szélesebb körű elterjedése érdekében lépett stratégiai partnerségre az indiai Tata Consultancy Services (TCS) és az Anthropic mesterségesintelligencia-fejlesztő cég.

5 days ago · Portfolio