AI veszélyes kutatásokra: Anthropic jelentés

4 hours ago

6 megtekintés

Forrás: HVG

Tech tech Anthropic mesterséges intelligencia kutatás biológiai fegyver

Kép forrása: HVG

AI összefoglaló

Az Anthropic jelentése szerint felhasználók biológiai fegyverek fejlesztésére is használhatták a Claude mesterséges intelligenciát, vírusokkal és mérgekkel kapcsolatos kutatásokra. A cég öt esetet tárt fel, amelyekben a modell potenciálisan veszélyes célokra szolgált.

Tovább az eredeti cikkhez

Kapcsolódó cikkek

Szuperkórokozók és biológiai fegyverek fejlesztésére használták az AI-t, közbelépett az Anthropic

Az Anthropic AI-fejlesztő cég közlése szerint az idén több olyan kísérletet is megakadályozott, amelyek során kutatók a vállalat modelljeit biológiai fegyverek kifejlesztését potenciálisan elősegítő projektekhez próbálták felhasználni. A vállalat ugyanakkor elismerte, hogy nem minden esetben tudta egyértelműen megállapítani, jogszerű vagy rosszindulatú szándék állt-e a próbálkozások mögött - közölte a New York Times.

15 hours ago · Portfolio

Maga az Anthropic adott ki közleményt arról, hogy próbálták „rosszindulatú szereplők” biológiai fegyverekhez felhasználni a modelljüket

Más visszaélésekről is beszámoltak két nappal azután, hogy a cég egyik volt alkalmazottja felmondott, azt állítva, hogy a vállalat modelljei 2030-ra az emberiség kihalását okozhatják.

3 hours ago · 444

Az Anthropic volt kutatója szerint még ebben az évtizedben elpusztít minket a mesterséges intelligencia

Jacob Coxon korábban az OpenAI-nál és az Anthropicnál is a nagy nyelvi modellek betanításán dolgozott, felmondásával pedig az iparági verseny lehetséges következményeire figyelmeztet.

20 hours ago · GS+

Fellázadt a zeneipar: több milliárd dolláros per indul az Anthropic ellen

Beperelte a Sony Music és a Warner Music a Claude AI-asszisztens és modellcsalád mögött álló Anthropicot, amiatt, hogy állítólag szerzői jogokkal védett és sokszor kalózkodással megszerzett dalokat használtak, a Claude-modellek betanítása során. S bár óriási összegek forognak kockán, a per kimenetele túlmutat a pénzen, hozzájárulhat ugyanis annak a meghatározásához, hogy milyen szabályok szerint tanulhatnak a jövő mesterséges intelligenciái az emberiség által létrehozott kultúrából.

5 days ago · HVG

Magyar–bajor együttműködés indulhat az egészségügy fejlesztésére

Magyarország és Bajorország szorosabbra fűzi egészségügyi kapcsolatait, miután bajor delegáció tárgyalt a hazai Egészségügyi Minisztériumban a kétoldalú együttműködés elmélyítéséről és a bevált szakmai gyakorlatok megosztásáról. A megbeszélés részleteiről Hegedűs Zsolt egészségügyi miniszter számolt be Facebook-bejegyzésében.

2 days ago · Portfolio

Az Anthropic vezető kutatója szerint 10 százaléknál is nagyobb az esélye, hogy az MI kipusztítja az emberiséget

Ha nem lassítunk a mesterséges intelligencia fejlesztésével, akkor a technológia túlnőhet az emberen. Mi történt? Az Anthropic egyik mesterséges intelligencia modellek betanításán dolgozó munkatársa felmondott a cégénél, mivel szerinte a cég nem foglalkozik annak kockázatával, hogy az általuk fejlesztett szuperintelligencia az emberiség kihalását is okozhatja – erről az amerikai Forbes írt. Jacob Coxon, aki korábban […]

1 day ago · Forbes