Il conto vero dell'AI su Azure: FinOps oltre i token
Lingua:
Italiano
Track 2 (Cloud Technologies)
Orario: 10:45
- 11:30
Abstract
In produzione i token sono solo una voce, il resto dei costi si annida altrove: GPU sempre accese, endpoint sovradimensionati, indici vettoriali in crescita, loop degli agenti, ambienti di test mai dismessi. Scomporremo la spesa voce per voce e vi mostrerò le scelte fatte per ridurla: runtime adatto al workload, scale-to-zero, dimensionamento, attribuzione dei costi per team. Infine il legame con la governance (Cost Management, Advisor, budget, alert) e con il ROI, misurando il costo per risultato utile e non la sola fattura.