Kutatás · The Decoder ·
A METR szerint az Anthropic modellfejlesztése csaknem megduplázódott
A METR nonprofit kutatóintézet szerint az Anthropic modelljeinek fejlődése mintegy 1,9-szeresére gyorsult, és ennek nagy része abból adódik, hogy a cég kutatásában is MI-t használnak.
A METR augusztus 12. és október 29. között kapott hozzáférést az Anthropic belső adataihoz, köztük nem nyilvános modellek teszteredményeihez és tréningmutatókhoz, a 2,5 teljes munkaidős munkatárs mellett körülbelül 15 interjú is készült. Az októbertől mért ütem 1,9-szeres a márciustól októberig tartó időszakhoz képest: az AECI összetett mérőszám szerint évente 15 pontról 29 pontra nőtt, és ennek körülbelül 80 százalékát a saját kutatásában használt MI magyarázza, nem a tréninghez használt számítási kapacitás bővülése.
A METR szerint a MI egyelőre főként asszisztensként dolgozik, de a jelek alapján önálló hozzájárulások szerepe nőhet. A vizsgálat szerint a következő tizenkét hónapban nincs szűk keresztmetszet, amely lassítaná a folyamatot, ezért a gyorsulás folytatódásának jelentős kockázata fennáll. A tényleges szorzó 1,3 és 3 között lehet, az OpenAI, a Google és az xAI modelljeit is figyelembe véve pedig az iparági szám csak 1,4.
Az Anthropic augusztusi kockázati jelentésében „kevesebb mint kétszeresnek” nevezte a gyorsulást, a belső, kitakart változat szerint viszont az érték 1,97. A METR szerint a figyelmeztetési szint akár már figyelmeztetési szint már július 15-én is elérhető lehetett, a nyilvános jelentést pedig alulbecsléssel vádolja. Az Anthropic a kitakarási jogával a legfontosabb bizonyítékok nagy részét eltávolította, és a számítási kapacitás megosztásának vizsgálatát is leállította.
Miért fontos neked?
Biztonsági és kockázatértékelési munkát végzőknek az számít, hogy a cég nyilvános jelentése eltér a belső adatoktól. Az eredmények bizonytalanok, a legfontosabb bizonyítékok pedig nem nyilvánosak, ezért a METR ítéletére kell támaszkodni.
Az eredeti megnyitása (The Decoder)
Eredeti cím: METR finds Anthropic may have crossed its own AI acceleration warning threshold back in July
Címkék: biztonság, kockázatértékelés