MI-fejlesztés lassítását kéri az Anthropic vezérigazgatója

1 day ago

10 megtekintés

Forrás: Telex

Techtud

Kép forrása: Telex

AI összefoglaló

Az Anthropic vezérigazgatója, Dario Amodei szerint az MI-modellek fejlesztésének ütemét lassítani kell a visszaélések kockázata miatt. Ez a felhívás a mesterséges intelligencia biztonságos és felelős fejlődésének fontosságát hangsúlyozza.

Tovább az eredeti cikkhez

Kapcsolódó cikkek

Már Obama is az MI kockázatai miatt aggódik, a nagy cégek vezetői szerint is lassítani kell

Anthropic vezérigazgatója egy háromlépcsős keretrendszert vázolt fel, amivel saját MI-cégeiket korlátoznák.

18 hours ago · Telex

Összefogtak a tech-óriások: tényleg fékezhetik az AI-fejlesztéseket?

Dario Amodei, az Anthropic vezérigazgatója esszéjében arra szólította fel az MI-ipart, hogy lassítsa a legfejlettebb modellek fejlesztését, és egy hárompontos biztonsági tervet vázolt fel. A javaslatot Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) és Elon Musk is támogatta, bár a kezdeményezés legfőbb dilemmája, hogy a rivális hatalmak – elsősorban Kína – csatlakoznak-e a lassításhoz. Donald Trump amerikai elnök hangsúlyozta, hogy az Egyesült Államoknak meg kell őriznie technológiai lépéselőnyét, és a veszélyeket csak "negatív erők" fújják fel. A biztonsági vita kritikus időszakban zajlik: az iparágat szabályozási nyomás, lakossági ellenérzések és a hatalmas MI-beruházások megtérülésével kapcsolatos piaci bizonytalanság egyaránt terheli.

13 hours ago · Portfolio

Az Anthropic vezető kutatója szerint 10 százaléknál is nagyobb az esélye, hogy az MI kipusztítja az emberiséget

Ha nem lassítunk a mesterséges intelligencia fejlesztésével, akkor a technológia túlnőhet az emberen. Mi történt? Az Anthropic egyik mesterséges intelligencia modellek betanításán dolgozó munkatársa felmondott a cégénél, mivel szerinte a cég nem foglalkozik annak kockázatával, hogy az általuk fejlesztett szuperintelligencia az emberiség kihalását is okozhatja – erről az amerikai Forbes írt. Jacob Coxon, aki korábban […]

3 days ago · Forbes

Az Anthropic azzal vádolja a kínai MI-cégeket, hogy a Claude-nak továbbították a hozzájuk beérkező kérdéseket

A desztillációnak nevezett folyamat lényege, hogy a rivális cég felfedje a csetbot gondolkodási folyamatát, és ez alapján fejlessze a saját MI-jét.

2 days ago · Telex

Biológiai fegyverek fejlesztésére használhatták az Anthropic mesterséges intelligenciáját

Kiadott egy jelentést az Anthropic nevű amerikai vállalat, amelyben öt olyan esetet mutat be, amelyben a meg nem nevezett felhasználók vírusokkal, mérgekkel és egyéb kórokozókkal kapcsolatos kutatásokra használták a Claude modellt.

3 days ago · HVG

Az Anthropic is lassítana az AI fejlesztésén, az OpenAI pedig egyetért

Az OpenAI vezetője csatlakozott az Anthropic független biztonsági ellenőrökről szóló vállalásához, de közös fejlesztési szünetet egyelőre nem jelentettek be.

16 hours ago · GS+