AI governance
Prima del modello, serve un perimetro.
La scelta della tecnologia arriva dopo. Prima bisogna stabilire quale problema deve risolvere il sistema AI, quali dati può utilizzare, chi ne risponde e come verificarne il comportamento.
Un sistema AI senza ownership diventa un rischio non gestito.
Molte iniziative AI iniziano dalla scelta del modello o da una sperimentazione tecnica. Quando il progetto entra in un processo reale emergono però domande diverse: chi autorizza l’utilizzo, quali dati sono ammessi, quali decisioni può influenzare, chi controlla gli output e come vengono gestiti gli errori.
Il perimetro minimo di un sistema AI
- 01
Purpose: quale problema deve risolvere?
- 02
Data: quali dati può utilizzare e quali sono esclusi?
- 03
Owner: chi è responsabile del sistema?
- 04
Users: chi può utilizzarlo e in quali condizioni?
- 05
Decisions: quali decisioni può supportare o influenzare?
- 06
Human oversight: quando deve intervenire una persona?
- 07
Controls: quali controlli verificano il comportamento?
- 08
Evidence: quali informazioni devono essere conservate?
Portare l’AI dentro un processo reale
Definire
Formalizziamo scopo, utenti, dati ammessi e risultati attesi.
Limitare
Stabiliamo confini operativi, decisioni escluse e supervisione umana.
Controllare
Definiamo verifiche, logging, responsabilità ed evidenze.
Cosa deve esistere prima della produzione
scheda del sistema AI
scopo e perimetro di utilizzo
owner tecnico e owner di processo
dati consentiti e dati esclusi
matrice dei rischi
controlli operativi
supervisione umana
evidenze necessarie
criteri per sospendere o correggere il sistema
Richiesta
Stai valutando un sistema AI?
Descrivi il caso d’uso, il processo coinvolto e i dati che il sistema dovrebbe trattare. La valutazione deve iniziare dal perimetro, non dal modello.