AI-védelmi rések a techóriásoknál

6 hours ago

6 megtekintés

Üzlet

Kép forrása: Portfolio

AI összefoglaló

A Meta új AI-detektáló eszköze a saját képeit sem ismerte fel minden esetben, miután azokat körbevágták. Ez rávilágít a technológiai óriások AI-védelmi rendszereiben tátongó, fájdalmas résre.

Tovább az eredeti cikkhez

Kapcsolódó cikkek

Rés a pajzson: máris sebezhetőségeket találtak az amerikai kormányzati rendszerekben az AI-csúcsfegyverrel

Az Egyesült Államok kibervédelmi ügynöksége, a CISA az Anthropic Mythos nevű mesterségesintelligencia-modelljét használja a kormányzati szoftverek átvilágítására – közölte három, az ügyet jól ismerő forrás. A lépés újabb jele annak, hogy a kormányzat készen áll az Anthropic eszközeinek alkalmazására, annak ellenére is, hogy a vállalat feszült viszonyban áll a Fehér Házzal.

3 days ago · Portfolio

Vigyázzon: kiadott egy új mesterséges intelligenciát a Meta, idegenek készíthetnek képet önről

A Meta Muse Image néven adta ki új képgenerátorát, és hamarosan jön egy videógenerátor is. A rendszer használata azonban finoman szólva is aggályos.

2 days ago · HVG

Figyelmeztet az AI-cég: olyan gondolkodó teret találtak egy AI-modellben, amely teljesen magától jött létre

Az Anthropic kutatóinak friss tanulmánya szerint felfedeztek egy önmagától kialakult belső struktúrát a Claude mesterségesintelligencia-modell neurális hálózatában, amelyet J-térnek neveztek el. Ez a kis méretű zóna lehetővé teszi a modell számára, hogy érveljen, következtetéseket vonjon le és fogalmakat kezeljen – akár anélkül, hogy azokat kimondaná. A felfedezésnek komoly biztonsági vonatkozásai is vannak: a J-lencse nevű eszközzel a kutatók még a válaszadás előtt ki tudták mutatni a modell rejtett stratégiai gondolkodását, például egy fiktív zsarolási forgatókönyvben. A VentureBeat beszámolója szerint a kutatók hangsúlyozzák, hogy nem öntudatra ébredésről van szó, ugyanakkor az eredmények arra utalnak, hogy a tudatos hozzáféréshez társított funkcionális architektúra megfelelő számítási nyomás alatt magától is kialakulhat a tanuló rendszerekben.

3 days ago · Portfolio

Nem úgy alakult a Mark Zuckerberg agresszív AI-forradalma, ahogy tervezte

Változtatni a hozzáállásán persze nem tervez a Meta, de egyelőre nem váltotta be a hozzáfűzött reményeket a mesterséges intelligenciára való átállás.

6 days ago · GS+

A Meta bemutatta első saját képgeneráló AI modelljét

Bemutatkozott a Muse Images, hamarosan pedig jön a videót készítő algoritmus is.

2 days ago · GS+