AI vészleállító: kötelezővé tennék?

13 hours ago

4 megtekintés

Forrás: 444

anthropic Kill Switch Act mi vészleállító Jack Clark Donald Trump dario amodei mesterséges intelligencia kill switch ai openai Evan Hubinger TECH

Kép forrása: 444

AI összefoglaló

Az Anthropic társalapítója, Jack Clark szerint indokolt lehet jogszabályban rögzíteni a mesterséges intelligencia rendszerek vészleállítójának kötelezővé tételét. Ez lehetővé tenné, hogy külső felek is ellenőrizhessék a rendszerek leállításának lehetőségét.

Tovább az eredeti cikkhez

Kapcsolódó cikkek

Megszólalt az Anthropic egyik vezetője: vészleállító rendszert tenne kötelezővé az összes AI-vállalatnál

Az Anthropic társalapítója, Jack Clark egy hétfői interjúban arról beszélt, hogy szerinte kötelezőnek kellene lennie az AI-fejlesztő vállalatok számára, hogy egy független harmadik fél által ellenőrizhető vészleállító mechanizmust ("kill switch") működtessenek mesterségesintelligencia-rendszereiknél - írta a BBC.

11 hours ago · Portfolio

Az Anthropic vezető kutatója szerint 10 százaléknál is nagyobb az esélye, hogy az MI kipusztítja az emberiséget

Ha nem lassítunk a mesterséges intelligencia fejlesztésével, akkor a technológia túlnőhet az emberen. Mi történt? Az Anthropic egyik mesterséges intelligencia modellek betanításán dolgozó munkatársa felmondott a cégénél, mivel szerinte a cég nem foglalkozik annak kockázatával, hogy az általuk fejlesztett szuperintelligencia az emberiség kihalását is okozhatja – erről az amerikai Forbes írt. Jacob Coxon, aki korábban […]

5 days ago · Forbes

10 százalékra saccolja az emberiség kihalásának esélyét egy évtizeden belül az Anthropic AI-kutatója

Az AI-fejlesztések piacán a verseny diktálja a tempót, nem pedig a biztonság, ami magában hordozza annak veszélyét, hogy az egyre fejlettebb rendszerek képességei kontrollálhatatlanul fognak fejlődni. Az egyik legfontosabb szereplő, az Anthropic kutatói szerint a kockázat nagyobb, mint gondolnánk, bár ez nem a cég egyöntetű hivatalos állásfoglalása.

5 days ago · Raketa

Lemondott az Anthropic egyik kutatója, szerinte felelőtlenül folyik a mesterségesintelligencia-fejlesztés

Jacob Coxon úgy látja, a technológia akár az emberiség pusztulásához is vezethet.

5 days ago · 444

Az Anthropic is lassítana az AI fejlesztésén, az OpenAI pedig egyetért

Az OpenAI vezetője csatlakozott az Anthropic független biztonsági ellenőrökről szóló vállalásához, de közös fejlesztési szünetet egyelőre nem jelentettek be.

2 days ago · GS+

Szuperkórokozók és biológiai fegyverek fejlesztésére használták az AI-t, közbelépett az Anthropic

Az Anthropic AI-fejlesztő cég közlése szerint az idén több olyan kísérletet is megakadályozott, amelyek során kutatók a vállalat modelljeit biológiai fegyverek kifejlesztését potenciálisan elősegítő projektekhez próbálták felhasználni. A vállalat ugyanakkor elismerte, hogy nem minden esetben tudta egyértelműen megállapítani, jogszerű vagy rosszindulatú szándék állt-e a próbálkozások mögött - közölte a New York Times.

5 days ago · Portfolio