Norme e controllo dell'esecuzione dell'AI: una prospettiva infrastrutturale.

Livelli diversi, stesso problema.

AI Act, NIS2 e gli standard ISO e NIST operano su piani differenti: giuridico, organizzativo, di gestione del rischio. Pur essendo strumenti eterogenei, convergono su un insieme ristretto di requisiti chiave.

Letti per principi, e non per articoli, questi requisiti si possono ricondurre a quattro proprietà ricorrenti: controllo preventivo dell'invocazione dell'AI, tracciabilità documentata e verificabile delle decisioni, auditabilità tecnica e responsabilità attribuibile a soggetti identificabili.

Il piano giuridico definisce obblighi; il piano organizzativo definisce processi; il piano della gestione del rischio definisce metodi. Manca, in questa stratificazione, una definizione esplicita dei meccanismi tecnici attraverso i quali tali requisiti possono essere resi osservabili nei sistemi che effettivamente eseguono l'AI.

Il denominatore comune mancante.

I requisiti elencati nei quadri di riferimento sono espressi in termini di cosa deve essere garantito. La loro traduzione operativa è oggi delegata a strumenti eterogenei — regole testuali, documentazione, controlli applicativi, registrazioni successive — raramente ricondotti a uno stesso piano architetturale.

In particolare, manca un punto di controllo tecnico che presenti, congiuntamente, le seguenti quattro proprietà.

• Non aggirabile L'autorizzazione all'uso dell'AI non può essere ignorata, riscritta o omessa dal codice che la richiede.
• Indipendente Il punto di controllo è disaccoppiato dalle applicazioni: non dipende dalla loro cooperazione né dalla loro corretta configurazione.
• Sotto-applicativo Risiede al di sotto del livello applicativo, in una posizione che le applicazioni non possono modificare.
• Evidenze tecniche Produce, come effetto del proprio funzionamento, registrazioni verificabili delle decisioni assunte.

L'assenza di un tale punto di controllo non è una lacuna delle norme: è una lacuna dell'architettura dei sistemi. È, in altri termini, un problema architetturale.

Dove si colloca AIKNOCK.

AIKNOCK esplora un possibile punto di controllo tecnico ex-ante, a livello di sistema, coerente con i requisiti di controllo dell'esecuzione, auditabilità e gestione del rischio richiamati da norme e standard, senza sostituirli né interpretarli.

Le norme e gli standard definiscono obblighi. AIKNOCK opera sul piano dei meccanismi tecnici. Il sistema opera in modo indipendente da quadri normativi o di standard esterni e mantiene un comportamento tecnico coerente al livello dell'esecuzione. I due piani sono complementari: ciò che il diritto e gli standard prescrivono come proprietà del sistema, un meccanismo come quello descritto può contribuire a rendere osservabile e verificabile.

Cosa AIKNOCK non fa rispetto alle norme.

Per evitare confusione fra piani distinti, è opportuno enunciare esplicitamente l'ambito che AIKNOCK non occupa.

• NON FA non interpreta la legge,
• NON FA non garantisce conformità,
• NON FA non sostituisce processi organizzativi o legali,
• NON FA non elimina le responsabilità dei deployer,
• NON FA non governa dataset né processi di training.

L'osservanza delle norme resta una responsabilità degli operatori, degli implementatori e delle autorità competenti. AIKNOCK non sposta tale responsabilità: descrive un piano tecnico distinto.

Conclusione.