Anthropic: Kötelező vészleállító kell az AI-rendszerekbe

12 hours ago

2 megtekintés

Üzlet

Kép forrása: Portfolio

AI összefoglaló

Az Anthropic társalapítója, Jack Clark szerint kötelezővé kellene tenni az AI-fejlesztő cégeknél egy független harmadik fél által ellenőrizhető vészleállító rendszert. Ez a mechanizmus biztosítaná a mesterséges intelligenciák biztonságos működését és felügyeletét.

Tovább az eredeti cikkhez

Kapcsolódó cikkek

Kötelezővé tehetnék az AI-rendszerek vészleállítóját az Anthropic társalapítója szerint

Jack Clark szerint ideje lehet jogszabályban előírni, hogy a mesterségesintelligencia-rendszereket le lehessen állítani, és a vészleállító működését külső szereplő is ellenőrizhesse.

14 hours ago · 444

Szuperkórokozók és biológiai fegyverek fejlesztésére használták az AI-t, közbelépett az Anthropic

Az Anthropic AI-fejlesztő cég közlése szerint az idén több olyan kísérletet is megakadályozott, amelyek során kutatók a vállalat modelljeit biológiai fegyverek kifejlesztését potenciálisan elősegítő projektekhez próbálták felhasználni. A vállalat ugyanakkor elismerte, hogy nem minden esetben tudta egyértelműen megállapítani, jogszerű vagy rosszindulatú szándék állt-e a próbálkozások mögött - közölte a New York Times.

5 days ago · Portfolio

Kimondta az Anthropic vezére: a mesterséges intelligencia töredékét használjuk ki

A vállalatok egyelőre alig aknázzák ki a mesterséges intelligenciában rejlő lehetőségeket – erről beszélt az Anthropic és a Salesforce vezetője a San Franciscó-i Dreamforce konferencián - jelentette a Bloomberg. Az AI-ban rejlő potenciál jobb kihasználásáról szól majd november 26-ai AI & Digital Transformation konferenciánk. Regisztráció itt!

9 minutes ago · Portfolio

Már biológiai fegyverekhez is próbálják bevetni az AI-t, az Anthropic közbelépett

A Claude-fejlesztő Anthropic több esetet is azonosított az elmúlt hónapok során, amikor AI-modelljeinek képességeit olyan biológiai kutatásokhoz próbálták felhasználni, amelyek akár biológiai fegyverek fejlesztését segíthették volna.

4 days ago · Raketa

Az Anthropic is lassítana az AI fejlesztésén, az OpenAI pedig egyetért

Az OpenAI vezetője csatlakozott az Anthropic független biztonsági ellenőrökről szóló vállalásához, de közös fejlesztési szünetet egyelőre nem jelentettek be.

2 days ago · GS+