Szabályozás · The Decoder ·
Az OpenAI tanításra használja a Daybreak Blue kiberbiztonsági munkamenet-adatait
Az OpenAI november 29-től a Daybreak Blue kiberbiztonsági munkamenetek adatait is felhasználja modelljei tanítására, pedig ezeket korábban kizárta a tanításból.
Az OpenAI november 29-től a Daybreak Blue munkamenet-adatait is felhasználja modelljei tanításához. Az értesítést a Trusted Access programban résztvevők kapták e-mailben. Eddig ezek az adatok akkor sem kerültek be a tanításba, ha a felhasználó kikapcsolta a „javítsa a modellt mindenki számára” beállítást.
A változás heves visszhangot váltott ki, ezért az OpenAI második e-mailben külön leiratkozási lehetőséget ígért. A biztonsági felülvizsgálat során megjelölt interakciók továbbra is felhasználhatók biztonsági célokra.
A kutatók attól tartanak, hogy megismétlődik a Buckmaster–Alpöge-eset. Tristan Buckmaster és Levent Alpöge matematikusok a Navier–Stokes-egyenletek vázlatait töltötte fel a Codexbe. Az OpenAI később saját bizonyítást mutatott be, és tagadta a tanítási felhasználást, de a puszta gyanú is megmutatta, mi romolhat el.
Miért fontos neked?
A Trusted Access programban résztvevő kiberbiztonsági csapatoknak érdemes ellenőrizniük, hogy érzékeny munkamenet-adataik bekerülhetnek-e a tanításba. A külön leiratkozás működéséről a forrás még nem ad részletet.
Az eredeti megnyitása (The Decoder)
Eredeti cím: OpenAI plans to train models on Daybreak Blue cybersecurity session data that was previously off-limits
Címkék: adatvédelem, kiberbiztonság, openai