AI-tömörítés: Brutális VRAM-megtakarítás az Nvidiától

4 hours ago

8 megtekintés

Forrás: GS+

infopctech

Kép forrása: GS+

AI összefoglaló

Az Nvidia új AI-alapú tömörítési technológiája drasztikusan csökkentheti a nagy nyelvi modellek memóriahasználatát. Egy demó során a korábbi 6,5 GB helyett mindössze 970 MB VRAM-ra volt szükség a modell futtatásához.

Tovább az eredeti cikkhez

Kapcsolódó cikkek

Élethű, vagy egyformára gyúrt AI-slop? Az NVIDIA DLSS 5 működése, célja és aggasztó hibái

Mi történik, amikor a grafika már nem csak renderelt, hanem AI-generált? Az NVIDIA DLSS 5-tel a GPU-k szerepe gyökeresen átalakul, de tényleg erre a GPT-pillanatra vártunk a játékok világában (is)?

6 days ago · GS+

Nyilvánosság elé állt a Századvég-elemző, akinél az AI-s Tisza-program volt az utolsó csepp

A magára „liberális gerillaként” tekintő Balogh Bence egy interjúban beszélt arról, hogyan nézett ki a munka a legismertebb fideszes elemzőintézetnél.

1 week ago · 444

Brutálisan megdrágult az orosz olaj

2013 óta nem látott szintre ugrott ma az Urals nyersolaj jegyzése, ami azt jelenti, hogy jelenleg a nyugati Brentnél is drágább az orosz olaj.

4 days ago · Portfolio

Az AI-s gyümölcsös szemét árasztja el a netet, és ez már tényleg a legalja

Milliós nézettséget hoz a beszélő gyümölcsökből gyártott algoritmusszemét.

3 days ago · GS+

Elindulhat von der Leyen rendszerváltása, néhány év, és teljesen új formát ölt az EU-s tarifarendszer

A tagállamokat tömörítő Európai Tanács kiegyezett a Parlamenttel, így idén végre elindulhat az uniós vámrendszer átfogó reformja, amely a tervek szerint 2034-re válik majd kötelezővé mindenki számára. Az átalakításra egyre nagyobb szükség volt az évi mintegy egymilliárd online vásárolt küldemény okozta terhelés miatt, de az egységesítő átalakítás ennél jóval többet jelenthet az unió közös piacának. Az új modellben megszűnik a 150 euró alatti csomagok vámmentessége, és a hatóságok munkáját adatvezérelt ellenőrzések, mesterséges intelligencia, valamint egy mindent összekötő közös uniós adatplatform segíti majd. A reform hatására az eddig elméletben a vevőket terhelő kötelezettségek áthárulnak a feladókra, így egy sor szabálytalanság kezelhetővé válik, és a beszállítóknak sem kell majd belépési pontonként más vámeljárásokhoz alkalmazkodniuk.

1 week ago · Portfolio