Kutatás · The Decoder ·
Az Anthropic FlashProve prototípusa kriptográfiával igazolja a modell válaszát
Az Anthropic nyílt forráskódú kutatási prototípusa, a FlashProve zkSNARK-alapú kriptográfiával igazolja, hogy egy AI-válasz valóban a megjelölt modelltől származik, a súlyok felfedése nélkül.
Az Anthropic kiadta a FlashProve nevű kutatási prototípust, amely kriptográfiával ellenőrzi, hogy egy válasz valóban a megjelölt modelltől érkezett-e. Jelenleg a felhasználó nem tudhatja, hogy a szolgáltató vagy egy útválasztó nem cserélte-e le a kérést olcsóbb modellre, illetve nem módosította-e az adatfolyamot. A rendszer zkSNARK-alapú kriptográfiát használ: a szolgáltató előbb a modell súlyairól digitális ujjlenyomatot készít, majd minden válaszhoz tömör bizonyítékot ad, amely nem árul el semmit a titkos súlyokról.
Az Anthropic technikai jelentése szerint a FlashProve egyetlen H100 GPU-n nagyjából 110 token/másodperc sebességgel állítja elő a bizonyítékot a Llama 4 Maverick 400 milliárd paraméteres modelljéhez. Egy bizonyíték körülbelül 19 megabájt, CPU-n 17 másodperc alatt ellenőrizhető, a normál következtetéshez képest pedig nagyjából 70–95-szörös többletterhelést jelent. Ez jelentős előrelépés az eddigi, egyetlen elérhető nyílt forráskódú megoldáshoz képest, amelynek 1000 token feldolgozása több mint 14 órát vett igénybe, a 93,6 gigabájtos bizonyíték pedig közel egy napig tartott ellenőrizni.
Az Anthropic szerint a módszerrel a szabályozók ellenőrizhetik, hogy a szolgáltatók tényleg csak jóváhagyott modelleket futtatnak-e, a cégek pedig bizonyíthatják, hogy kódjukat egy adott biztonsági modell átnézte. A prototípus korlátai azonban jelentősek: csak legfeljebb 1024 token hosszú kontextust igazol, a modell architektúráját nem rejti el, és csak akkor működik, ha a modell mindig a legvalószínűbb következő tokent választja. A teljes kód, a Lean-bizonyítások és a dokumentáció GitHubon érhetők el Apache 2.0 licenc alatt.
Miért fontos neked?
Auditálással, szabályozással vagy kiszolgáló-biztonsággal foglalkozó csapatoknak érdemes figyelniük rá, mert a modellcsere és az adatmódosítás igazolására adhat módszert. A kutatási szakaszban van: jelenlegi verziója csak rövid kontextust és a legvalószínűbb következő token választását támogatja, ezért véletlenszerű kimenetű éles chatbotoknál még nem használható.
Az eredeti megnyitása (The Decoder)
Eredeti cím: Anthropic's new prototype proves which model wrote an AI response without exposing its weights
Címkék: kutatás, kriptográfia, biztonság