Ecco i criteri, in ordine di importanza per chi guida una piccola o media impresa.
1. Prove in produzione. L'agenzia deve mostrare sistemi che girano davvero, usati ogni giorno da persone vere. I numeri devono avere una data e una fonte, non essere percentuali generiche.
2. Demo navigabile sul vostro caso. Non un video registrato, ma una schermata che potete usare voi, con dati simili ai vostri.
3. Dati in Unione europea e accordo sul trattamento. Dovete sapere dove stanno i dati e chi li tocca. Serve la nomina dell'agenzia a responsabile del trattamento prevista dal GDPR, la legge europea sulla privacy.
4. Uscita libera. Alla fine del rapporto vi restituiscono dati, configurazioni e, se pattuito, il codice. Lo spegnimento deve essere provato almeno una volta, non solo descritto.
5. AI Act. L'AI Act è la legge europea sull'intelligenza artificiale. L'agenzia deve sapere cosa chiede a voi e cosa chiede a lei.
6. Registro dei sistemi e dei ruoli. Un elenco dei sistemi attivi, con chi li gestisce, chi li controlla e chi risponde in caso di problemi.
7. Chi decide. Dove una scelta pesa su persone o soldi, una persona approva. Il sistema propone, l'uomo firma.
8. Pilota misurato. Un pilota è una prova su un flusso vero, misurata. Si parte da un numero di partenza e si confronta con il numero d'arrivo.
9. Prezzo scritto per perimetro. Ogni voce ha confini chiari. Quello che è fuori dal perimetro è scritto in un elenco.