Ügynökök · CNBC ·
Az Apple az MI-ügynökök kiszámíthatatlan viselkedésétől tart
Az Apple éves pénzügyi beszámolójában kockázatként nevezte meg, hogy a mesterséges intelligencia-ügynökök „nem szándékolt vagy kiszámíthatatlan módon” viselkedhetnek, ami pereket és hírnévromlást okozhat.
Az Apple kedden benyújtott éves pénzügyi beszámolójában új kockázati tényezőként szerepel, hogy az önállóan működő MI-ügynökök olyan cselekvéseket is végrehajthatnak, amelyekre nincs felhatalmazásuk. A cég szerint az ügynökök olyan belső vagy külső rendszerekkel léphetnek kapcsolatba, amelyekhez nem férhetnek hozzá, kódot futtathatnak vagy módosíthatnak, üzeneteket küldhetnek és tranzakciókat hajthatnak végre. Az Apple ezért a pereket és a hírnév sérülését tartja fő veszélynek.
Az Apple egy hónappal korábban módosította a teljes lemezhozzáférés működését a Mac-eken, hogy csökkentse az ügynökök számítógépen szerzett hozzáférésével járó kockázatot. Az ősszel megjelent Siri AI a helyi adattárolást használja a naptárhoz és az e-mailekhez, de nem dolgozhat önállóan hosszabb ideig, mint az OpenAI Dots vagy a Meta Muse.
John Ternus, az Apple új vezérigazgatója szerint a Siri képességeinek bővítésére valódi mozgástér van, és fontos, hogy a felhasználók tudják, mihez adnak hozzáférést. Az Apple a jelentésében a biztonság és adatvédelem szempontjait hangsúlyozta, miközben a szabályozás változónak és kiszámíthatatlannak minősítette, az új törvényekhez való igazodás pedig sok pénzbe kerülhet.
Miért fontos neked?
Azoknak a vállalatoknak és fejlesztőknek, akik ügynöki MI-eszközöket telepítenek, vagy hozzáférést adnak nekik e-mailhez, fiókokhoz és rendszerekhez, ez a hír azt jelzi, hogy a nagy technológiai cégek sem látják teljes kontroll alatt a harmadik féltől származó ügynököket. Az Apple szerint ezek feletti kontroll korlátozott lehet, ezért a hozzáférési jogosultságok szűkítése indokolt lehet.
Eredeti cím: Apple warns of risks related to AI agents behaving in 'unintended or unpredictable' ways
Címkék: ügynöki mi, kiberbiztonság