Kutatás · arXiv · cs.AI ·
Az egyszer előforduló tények aránya szabja meg az LLM-ek felfedezőképességét
Az arXiv-en megjelent kutatás szerint a tanítóadatban csak egyszer előforduló tények aránya határozza meg, mennyi tudományos felfedezésre képesek a nyelvi modellek.
A szerzők a felfedezőképességet a hiányzó valószínűségi tömeg problémájaként vizsgálták, és elméleti keretet dolgoztak ki, amelyben a egyszer megfigyelt tények határozzák meg a felfedezési kapacitást. Anyagtudományi és szabályozási genomikai kísérletekben közvetlenül változtatták ezek arányát a tanítókészletekben.
Két nyílt súlyú modellcsalád, többféle mintavételi stratégia és eltérő gondolkodási keret mellett is az derült ki, hogy több egyszer előforduló tény több felfedezéshez vezetett. Az összefüggés nem magyarázható pusztán a tanítóadatok sokszínűségével, és domainek közötti átvihetőség is megfigyelhető, ha az átvitelt domainspecifikus adat támogatja.
A szerzők szerint a tanítóadatok monofact-aránya kulcsfontosságú tényező a nyelvi modellek tudományos felfedezőképességében. A tanulmány az arXiv preprint-szerveren jelent meg 2026. november 2-án.
Miért fontos neked?
A tanítóadatokat összeállító kutatócsoportoknak és a tudományos területekre specializált modellfejlesztőknek a monofactok aránya lehet fontos szempont. Az eredmények két modellcsaládon és két tudományterületen születtek, ezért általánosíthatóságuk további vizsgálatot igényel.
Az eredeti megnyitása (arXiv · cs.AI)
Eredeti cím: Tracing the Scientific Discovery Capacity of LLMs to Their Training Data
Címkék: kutatás, tanítóadat, tudományos felfedezés