Eszközök · AWS Machine Learning ·
Költségkezelési útmutató az Amazon Bedrockhoz FinOps- és platformcsapatoknak
Az AWS öt lépésben írja le, hogyan rendelhetők hozzá az Amazon Bedrock költségei azonosítókhoz, és hogyan állíthatók be költségvetési korlátok.
Az AWS szerint az ágensi munkafolyamatokban egy feladat sok modellhívásból áll, és a tokenfogyasztás a nagyobb kontextus miatt a hívások számával nő. A módszer öt szakasza: hozzárendelés, megfigyelés, korlátozás, optimalizálás és rendszeres áttekintés. A költségek az IAM-főszereplőhöz kerülnek, a CUR 2.0 exportban a line_item_iam_principal oszlopban jelennek meg.
Ha egy átjáró egyetlen IAM-szerepkörön keresztül hívja a modellt, minden költség ahhoz a szerepkörhöz kerül, így a felhasználónkénti láthatóság elvész. Az átjáró ezért felhasználónként egyszer hívja meg az STS-t, és a hitelesítő adatokat legfeljebb egy óráig gyorsítótárazza. A címkézett azonosítók a csapat, az alkalmazás és a költséghely szerint csoportosíthatók, miután a címkéket aktiválták a számlázásban.
Az aktivált címkék a CUR 2.0-ban az iamPrincipal/ előtaggal jelennek meg, és 24–48 órán belül megjelennek a Cost Explorerben is. Az alkalmazási következtetési profilok alkalmazásonként, modellenként és régiónként készíthetők, és költségcímkével rendelkeznek.
Miért fontos neked?
A költségek azonosítókhoz rendelése nélkül a csapatok nem tudják megmondani, melyik munkafolyamat okozza a kiadást. Ezért a felhasználónkénti hozzárendelés a FinOps- és a platformcsapat közös feladata.
Az eredeti megnyitása (AWS Machine Learning)
Eredeti cím: Managing Amazon Bedrock costs end to end: A playbook for FinOps and platform teams
Címkék: felhőköltség, finops, amazon bedrock