Modellek · Hugging Face ·
Natív TPU-támogatásról számolt be a Hugging Face
A Hugging Face bemutatta, hogyan használható a TorchTPU natív PyTorch-háttérként. A leírás szerint a Transformers, a Diffusers és a Kernels is futtatható TPU-n; az útmutató modellbetöltési és optimalizálási példákat ad. Az eredmények a közölt hardver- és tesztbeállításokra vonatkoznak.
Miért számít?
A megszokott PyTorch-eszközök TPU-támogatása több hardverválasztási lehetőséget adhat a fejlesztőknek. A váltás értékét a saját modell kompatibilitása, sebessége és teljes futtatási költsége alapján érdemes megítélni, nem egyetlen bemutatott mérésből.
Az eredeti megnyitása (Hugging Face)
Eredeti cím: Hugging Face ❤️ TorchTPU: TPUs, Natively