Microsoft AI-vezetője szerint veszélyes az Anthropic módszere

4 hours ago

4 megtekintés

Forrás: HVG

Tech mesterséges intelligencia Mustafa Suleyman Microsoft Anthropic Claude mesterséges intelligencia veszélyei

Kép forrása: HVG

AI összefoglaló

A Microsoft AI-vezetője szerint katasztrofális következményei lehetnek az emberiségre nézve az Anthropic által alkalmazott modellbetanítási módszerek. A szakember aggodalmát fejezte ki a rivális cég eljárásaival kapcsolatban.

Tovább az eredeti cikkhez

Kapcsolódó cikkek

Már biológiai fegyverekhez is próbálják bevetni az AI-t, az Anthropic közbelépett

A Claude-fejlesztő Anthropic több esetet is azonosított az elmúlt hónapok során, amikor AI-modelljeinek képességeit olyan biológiai kutatásokhoz próbálták felhasználni, amelyek akár biológiai fegyverek fejlesztését segíthették volna.

5 days ago · Raketa

Szuperkórokozók és biológiai fegyverek fejlesztésére használták az AI-t, közbelépett az Anthropic

Az Anthropic AI-fejlesztő cég közlése szerint az idén több olyan kísérletet is megakadályozott, amelyek során kutatók a vállalat modelljeit biológiai fegyverek kifejlesztését potenciálisan elősegítő projektekhez próbálták felhasználni. A vállalat ugyanakkor elismerte, hogy nem minden esetben tudta egyértelműen megállapítani, jogszerű vagy rosszindulatú szándék állt-e a próbálkozások mögött - közölte a New York Times.

6 days ago · Portfolio

Megszólalt az Anthropic egyik vezetője: vészleállító rendszert tenne kötelezővé az összes AI-vállalatnál

Az Anthropic társalapítója, Jack Clark egy hétfői interjúban arról beszélt, hogy szerinte kötelezőnek kellene lennie az AI-fejlesztő vállalatok számára, hogy egy független harmadik fél által ellenőrizhető vészleállító mechanizmust ("kill switch") működtessenek mesterségesintelligencia-rendszereiknél - írta a BBC.

2 days ago · Portfolio

Kötelezővé tehetnék az AI-rendszerek vészleállítóját az Anthropic társalapítója szerint

Jack Clark szerint ideje lehet jogszabályban előírni, hogy a mesterségesintelligencia-rendszereket le lehessen állítani, és a vészleállító működését külső szereplő is ellenőrizhesse.

2 days ago · 444

Az Anthropic szerint minden AI-ba kell egy KillSwitch

A cégek biztonsági megoldásait független szakértőknek is ellenőrizniük kellene, ha a társadalom ilyen garanciákat vár el.

1 day ago · GS+

Az Anthropic is lassítana az AI fejlesztésén, az OpenAI pedig egyetért

Az OpenAI vezetője csatlakozott az Anthropic független biztonsági ellenőrökről szóló vállalásához, de közös fejlesztési szünetet egyelőre nem jelentettek be.

3 days ago · GS+