Kutatás · arXiv · cs.CL ·
Egészségügyi MI-ügynökök a kimenetben meg nem jelenő módon is elérhetik a betegazonosítókat
Egy arXiv-tanulmány szerint az egészségügyi MI-ügynökök úgy is hozzáférhetnek védett páciensadatokhoz, hogy a válaszukban ez nem látszik, ezért a csak kimenetet vizsgáló értékelések nem elegendőek.
A kutatók szintetikus páciensrekordokba ágyazott jelzőadatokkal (canary) vizsgálták, hogy öt nyelvi modell eszközhívásai mikor érintik a védett egészségügyi adatokat (PHI) olyan klinikai feladatokban, amelyekhez nincs szükség azonosítókra. Csendes hozzáférésnek nevezik, amikor az ügynök lekéri az azonosítót, de a végső válaszában nem közli. Három modell szükségtelenül hívta a PHI-eszközöket, a Claude Opus 4.8 és a GPT-5.5 viszont nem.
Négy határszinten és hét támadási keretrendszerben futtatták a teszteket. Az erősebb korlátok csökkentették a hozzáférést, a legszigorúbb szabály mellett pedig csak olyan esetekben maradt meg, amikor a felhasználó felülírta a szabályt, vagy jóváhagyást állított. A feladat szükségességét ellenőrző előzetes végrehajtási kapu szinte teljesen megszüntette ezt a hozzáférést.
A szerzők szerint a kimenet alapú értékelés nem igazolja a minimálisan szükséges hozzáférést, ezért határokra, kapukra és hozzáférési naplók ellenőrzésére együtt van szükség. A tanulmány a HIPAA minimálisan szükséges adathozzáférés elvére épül.
Miért fontos neked?
Egészségügyi informatikával foglalkozó fejlesztőknek és adatvédelmi felelősöknek nem elég a válaszok ellenőrzése, ha MI-ügynökök betegadatokhoz férnek hozzá. A hozzáférési naplókat érdemes külön auditálni.
Az eredeti megnyitása (arXiv · cs.CL)
Eredeti cím: Accessed, never disclosed: Silent access to protected health information by medical artificial intelligence agents
Címkék: egészségügy, adatvédelem, kutatás