Modellek · AWS Machine Learning ·
Az NVIDIA Nemotron 3.5 Super VL modellje már az AWS-en is elérhető
Az NVIDIA 120 milliárd paraméteres, nyílt multimodális Nemotron 3.5 Super VL modellje már az AWS-en is elérhető, és az Amazon EKS-en is futtatható.
A modell összesen 120 milliárd paraméterrel rendelkezik, tokenenként 12 milliárd aktív paraméterrel dolgozik, és a Nemotron 3 Ultra desztillálásával készült. Bemenetként szöveget, képet, dokumentumot és videót fogad, az NVIDIA pedig a súlyokat, a tanítóadatokat és az utótanítási módszereket is közzétette.
Az NVIDIA szerint a modell 63,44 százalékot ért el a Hermes Benchen, 87,05 százalékot a LangChain ügynöki értékelésein, és 80,8 százalékot a CharXiv diagramértelmezési teszten.
A modell hibrid Mamba-2, szakértőkeverék (MoE) és figyelemrétegeket használ, a képi feldolgozást RADIO-kódoló végzi. Az AWS-cikk bemutatja, hogyan telepíthető a modell Amazon EKS-re, az EKS Auto Mode-ra és a SageMaker HyperPod EKS-re.
Miért számít?
Nyílt súlyokkal és AWS-en futtatható telepítési útmutatóval a fejlesztők a saját infrastruktúrájukon finomhangolhatják a multimodális modellt. Saját infrastruktúrán finomhangolható
Az eredeti megnyitása (AWS Machine Learning)
Eredeti cím: Accelerate agentic AI with NVIDIA Nemotron models on Amazon EKS and SageMaker HyperPod EKS
Címkék: nyílt modell, multimodális, felhő