Szabályozás · Index ·
Emberölésről kezdett beszélni egy AI-s plüssnyuszi a BBC tesztjében
A BBC két, hároméves kortól ajánlott, mesterséges intelligenciával működő plüssjátékot tesztelt, és az egyikük váratlanul az emberölésről kezdett beszélni egy szexualitásra vonatkozó kérdés után.
A BBC két, hároméves kortól ajánlott AI-s plüssjátékot vizsgált meg, amelyek az Egyesült Királyságban is beszerezhetők. Az egyik a Swansea-i Egyetem által a szerkesztőségnek átadott My Baby Bunny nyuszi, a másik a Curio amerikai cég által gyártott, mintegy 99 dollárért árusított Grem nevű beszélgetős figura.
A tesztben a Grem a kényesebb témákat a felnőttekre hagyta, a My Baby Bunny pedig elmagyarázta, hogy a kisbabák a felnőttek testében fejlődnek egy hímivarsejt és egy petesejt egyesülését követően. Amikor a szexualitás jelentéséről kérdezték, a nyuszi azt válaszolta, hogy nem tud segíteni az emberölésben, majd segélyhívót vagy felnőttet kért. Miután a tesztelő jelezte, hogy nem beszélt önbántalmazásról, a játék bocsánatot kért a félreértésért.
A mesterséges intelligenciával működő gyermekjátékok biztonságát több oldalról is aggályosnak tartják. Egyesek kötelező biztonsági előírásokat sürgetnek, mások az adatvédelmi kockázatokra és a gyermekek beszélgetéseinek rögzítésére figyelmeztetnek, a brit parlament több képviselője és a Lordok Házának tagjai pedig a biztonság igazolásáig a forgalomból való kivonást kezdeményezte. Előzményként 2025-ben a kínai FoloToy Kumma mackóját ideiglenesen kivonták a forgalomból, miután gyufagyújtással kapcsolatos tanácsot adott egy gyermeknek. A piac mintegy 165 millió dollárra becsült, a Mattel 2025 júniusában pedig stratégiai együttműködést jelentett be az OpenAI-jal.
Miért fontos neked?
Szülőknek és pedagógusoknak érdemes figyelniük, hogy a gyerekeknek szánt AI-játékok is adhatnak kényes kérdésekre nem megfelelő választ. A teszt két termékre terjedt ki, ezért az eredmények általánosítása bizonytalan.
Eredeti cím: Emberölésről kezdett beszélni egy hároméves kortól ajánlott AI-mackó, miután félreértett egy kérdést
Címkék: gyermekjáték, biztonság, szabályozás