I consumi sono la voce che spaventa di più, perché cambia ogni mese. Si capisce bene se la si scompone in sei fattori.
Testo in ingresso. È tutto ciò che il modello deve leggere: la domanda, le istruzioni, i documenti di riferimento. Più testo gli date, più consuma, anche quando la domanda è breve.
Testo in uscita. È ciò che il modello scrive. Una risposta di due righe costa meno di una bozza di tre pagine. Di solito scrivere costa più che leggere, a parità di quantità.
Numero di richieste. Cento domande al giorno consumano dieci volte più di dieci domande. Sembra ovvio, ma va misurato su un mese normale, non su un giorno di picco.
Lunghezza dei documenti. Un contratto di quaranta pagine pesa molto più di una bolla di consegna. Se il sistema legge documenti lunghi, conviene passargli solo le parti che servono.
Motore più o meno potente. Non ogni compito richiede il motore più capace. Smistare una mail o riconoscere un tipo di documento va bene con un motore leggero, che costa meno. Ragionare su un caso complicato richiede un motore più potente, e più caro.
Risposte salvate. Le domande ripetute, come orari o documenti da portare, possono avere una risposta già pronta. Il sistema la riusa senza chiamare il modello ogni volta.
Sopra tutto questo si mette un tetto mensile. È una soglia di spesa oltre la quale scatta un avviso, o il sistema passa le richieste a una persona. Con un tetto, la voce variabile smette di essere una sorpresa.
Scenario
Questo è uno scenario costruito per spiegare, non un cliente. I nomi di persone e aziende sono inventati.
Scenario: Anna, responsabile amministrativa di un'azienda di ricambi, vede i consumi salire in un mese. Il resoconto mostra che pochi colleghi incollavano interi listini nelle domande. Basta una regola scritta e il mese dopo la spesa torna nella norma.