Kutatás · The Decoder ·

A METR szerint a mesterséges intelligencia gyorsabban fejlődik, mint ahogy az emberek ellenőrizni tudják

A METR kutatószervezet figyelmeztet, hogy az MI-modellek egyre gyorsabban fejlődnek az MI-kutatási feladatokban, és az emberek már nehezen tudják megbízhatóan tesztelni, hogy az új rendszerek biztonságosak-e.

A METR szerint a modellek az egyértelmű programozási és számítási feladatokban a legtöbbször legyőzik a tapasztalt szakembereket, de a nagy szakértőcsoportokat még nem múlják felül. A hosszabb feladatoknál, amelyeket az embereknek is sokáig tart megoldani, a modellek által kezelhető feladat hossza 3,6 havonta megduplázódik. Ha ez a tendencia folytatódik, 2027 júliusára a modellek a 200 órás feladatok felét sikerrel oldhatják meg. A kutatók szerint a gyakori, könnyen futtatható tesztek túlbecsülhetik a valós teljesítményt, mert a fejlesztők pont ilyen környezetben tanítják a modelleket.

A rendszerek még küzdenek a nyitott kérdésekkel, amelyekre nincs azonnali visszajelzés, és az olyan helyzetekkel, amelyeket nehéz a tanításhoz újrateremteni. A szervezet szerint az emberek így a jövőben nem biztos, hogy érdemben értik és kezelik az új MI-rendszerek súlyos kockázatait.

Miért fontos neked?

Ha céged vagy munkád programozáshoz, adatfeldolgozáshoz vagy más, pontosan leírható számítógépes feladatokhoz kapcsolódik, a gépek már most sok helyen erősek lehetnek. A kész teszteredmények azonban nem feltétlenül mutatják meg, mit tudnak valós helyzetben.

Az eredeti megnyitása (The Decoder)

Eredeti cím: AI is getting better faster than experts can reliably test whether new systems are safe, METR warns

Címkék: biztonság, kutatás, értékelés

Minden AI-hír 2026. november 22.

Ajánlott oldalak

topzene.hu – Zenei hírek és újdonságok.