AI biztonság: Kill Switch és független ellenőrzés

19 hours ago

9 megtekintés

Forrás: GS+

infopctech

Kép forrása: GS+

AI összefoglaló

Az Anthropic szerint minden mesterséges intelligenciába be kell építeni egy "kill switch" funkciót a biztonság érdekében. A cégek biztonsági megoldásait független szakértőknek is ellenőrizniük kellene, ha a társadalom ilyen garanciákat vár el.

Tovább az eredeti cikkhez

Kapcsolódó cikkek

Kötelezővé tehetnék az AI-rendszerek vészleállítóját az Anthropic társalapítója szerint

Jack Clark szerint ideje lehet jogszabályban előírni, hogy a mesterségesintelligencia-rendszereket le lehessen állítani, és a vészleállító működését külső szereplő is ellenőrizhesse.

1 day ago · 444

Az Anthropic is lassítana az AI fejlesztésén, az OpenAI pedig egyetért

Az OpenAI vezetője csatlakozott az Anthropic független biztonsági ellenőrökről szóló vállalásához, de közös fejlesztési szünetet egyelőre nem jelentettek be.

3 days ago · GS+

Megszólalt az Anthropic egyik vezetője: vészleállító rendszert tenne kötelezővé az összes AI-vállalatnál

Az Anthropic társalapítója, Jack Clark egy hétfői interjúban arról beszélt, hogy szerinte kötelezőnek kellene lennie az AI-fejlesztő vállalatok számára, hogy egy független harmadik fél által ellenőrizhető vészleállító mechanizmust ("kill switch") működtessenek mesterségesintelligencia-rendszereiknél - írta a BBC.

1 day ago · Portfolio

10 százalékra saccolja az emberiség kihalásának esélyét egy évtizeden belül az Anthropic AI-kutatója

Az AI-fejlesztések piacán a verseny diktálja a tempót, nem pedig a biztonság, ami magában hordozza annak veszélyét, hogy az egyre fejlettebb rendszerek képességei kontrollálhatatlanul fognak fejlődni. Az egyik legfontosabb szereplő, az Anthropic kutatói szerint a kockázat nagyobb, mint gondolnánk, bár ez nem a cég egyöntetű hivatalos állásfoglalása.

6 days ago · Raketa

Már biológiai fegyverekhez is próbálják bevetni az AI-t, az Anthropic közbelépett

A Claude-fejlesztő Anthropic több esetet is azonosított az elmúlt hónapok során, amikor AI-modelljeinek képességeit olyan biológiai kutatásokhoz próbálták felhasználni, amelyek akár biológiai fegyverek fejlesztését segíthették volna.

5 days ago · Raketa

Szuperkórokozók és biológiai fegyverek fejlesztésére használták az AI-t, közbelépett az Anthropic

Az Anthropic AI-fejlesztő cég közlése szerint az idén több olyan kísérletet is megakadályozott, amelyek során kutatók a vállalat modelljeit biológiai fegyverek kifejlesztését potenciálisan elősegítő projektekhez próbálták felhasználni. A vállalat ugyanakkor elismerte, hogy nem minden esetben tudta egyértelműen megállapítani, jogszerű vagy rosszindulatú szándék állt-e a próbálkozások mögött - közölte a New York Times.

6 days ago · Portfolio