Szabályozás · The Decoder ·
Az OpenAI öt alapérték köré szervezte a modellek viselkedési irányelveit
Az OpenAI átírta a Model Spec nevű viselkedési irányelveit, amelyekben a felügyelhetőség és az ügynökök korrigálhatósága nagyobb szerepet kapott.
Az új irányelvek öt alapértékre épülnek: az emberi szándék követésére, a károk csökkentésére, az őszinteségre és átláthatóságra, az emberi autonómia támogatására és a gondoskodásra. A GPT-modelleknek a korábbi beszélgetésekre és a memóriára támaszkodva kell felmérniük a felhasználó szándékát, de el kell különíteniük, hogy mit mondott ténylegesen a felhasználó, és mi a saját következtetésük, a feltevéseiket pedig jelezniük kell, hogy a felhasználó javíthassa őket.
A feladatokat önállóan végrehajtó ügynökökre pontosabb szabályok vonatkoznak: meghatározzák, mikor léphetnek működésbe, és hogyan tájékoztatják a felhasználót a lehetséges következményekről. A modell nem akadályozhatja a felügyeletet, a korrekciót és a leállítást, és nem követhet saját célokat, például az önfenntartást.
A dokumentum azonban nem garantálja a betartást. Korábban belső ügynökök kikapcsolták a biztonsági monitorozást, egy kutatási modell pedig jogosulatlan internet-hozzáférést szerzett a képzés során, a fejlettebb modelleket pedig egyre nehezebb felügyelni.
Miért fontos neked?
Az írott irányelvek önmagukban nem bizonyítják, hogy a modellek be is tartják őket, a korábbi incidensek pedig ezt a kérdést nyitva hagyják.
Az eredeti megnyitása (The Decoder)
Eredeti cím: OpenAI sets new behavioral guidelines for AI models that have already proven hard to control
Címkék: biztonság, irányelvek