AI Governance · Lettura tecnica
Una lettura architetturale del problema dell'AI governance e del ruolo del livello di execution control nei sistemi che incorporano l'Intelligenza Artificiale: un piano tecnico distinto dai quadri normativi e dagli standard, ma con essi coerente.
§ 01 · Definizione e contesto
Per AI governance si intende l'insieme delle proprietà tecniche, organizzative e giuridiche attraverso cui un sistema informativo che incorpora componenti di Intelligenza Artificiale viene reso descrivibile, verificabile e attribuibile a soggetti identificabili.
Il termine è oggi associato sia a obblighi normativi — fra cui il Regolamento UE 2024/1689 sull'Intelligenza Artificiale, la direttiva NIS2 sulla sicurezza delle reti, gli standard ISO/IEC 42001 e ISO/IEC 27001 e il NIST AI Risk Management Framework — sia a pratiche operative interne alle organizzazioni che adottano l'AI in contesti decisionali e di servizio. Sul piano architetturale, tuttavia, l'AI governance pone un problema specifico: come rendere il comportamento di esecuzione del sistema osservabile e vincolato in modo indipendente dalle applicazioni che invocano i modelli.
§ 01.1 · AI governance and execution control
AI governance describes the set of technical, organisational and legal properties by which a computing system that incorporates Artificial Intelligence is made describable, verifiable and attributable. From an architectural point of view, AI governance raises a specific question: how to make the execution behaviour of the system observable and constrained independently of the applications that invoke the models.
The technical answer to that question is AI execution control: a layer that interposes between the calling applications and the models being invoked, and that constrains the use of AI before execution. Such a layer belongs to the discipline of AI security architecture and, when placed at the level of the operating system, takes the form of operating system AI control. It complements AI compliance regimes without replacing or reinterpreting them.
§ 02 · Il problema
Nei sistemi attuali, la governance dell'AI è in larga misura dichiarativa: si esprime attraverso policy, documenti di riferimento, registri tenuti dalle applicazioni e revisioni successive. L'esecuzione dell'AI rimane invece interamente nelle mani del codice applicativo, che decide quando, come e con quali condizioni invocare i modelli.
Questa configurazione presuppone la cooperazione delle applicazioni con la governance dichiarata. Quando l'AI diventa una capability critica del sistema informativo — pervasiva, decisionale, distribuita su più team e fornitori — la fiducia nell'applicazione che invoca cessa di essere una strategia tecnica sufficiente. La governance si frammenta nei livelli applicativi e la sua verificabilità dipende dalla qualità eterogenea dei singoli sviluppi.
§ 03 · Limiti degli approcci attuali
Gli strumenti più diffusi per la governance dei sistemi di AI condividono caratteristiche ricorrenti, ognuna delle quali pone limiti strutturali al controllo tecnico dell'esecuzione:
Tali strumenti non sono inutili: descrivono cosa deve essere garantito. Il loro limite è che non costituiscono, da soli, un punto di applicazione tecnica del controllo. Ne consegue che, nei contesti regolati e critici, manca un livello architetturale dedicato a tradurre i requisiti di AI compliance in vincoli osservabili sul comportamento di esecuzione del sistema.
§ 04 · Approccio architetturale
L'approccio architetturale all'AI governance consiste nello spostare il controllo dell'invocazione al di sotto del livello applicativo, in un livello tecnico interposto che opera al livello del sistema operativo o, più in generale, della piattaforma di esecuzione. In questa prospettiva la governance smette di essere una proprietà dichiarata sopra le applicazioni e diventa una proprietà del sistema.
Il controllo dell'esecuzione dell'AI non è una questione di cooperazione applicativa: è una proprietà del sistema sottostante. Solo a quel livello può essere vincolato in modo verificabile e indipendente dal codice chiamante.
Su questo piano si situano i lavori più recenti in materia di AI security architecture e di operating system AI control, che riconducono il problema dell'AI governance a una questione di interposizione tecnica, di registrazione strutturale degli eventi e di separazione fra disponibilità di un modello e autorizzazione al suo uso. Le condizioni di esercizio della governance diventano così condizioni di funzionamento del sistema informatico stesso.
§ 05 · Relazione con AIKNOCK
AIKNOCK è una specifica tecnica aperta che descrive un sistema di execution control dell'AI operante a livello di sistema operativo. Si colloca sul piano dei meccanismi tecnici, definendo un punto decisionale ex-ante, non aggirabile, attraversato da ogni invocazione di modelli prima dell'esecuzione.
La relazione con il discorso più ampio sull'AI governance è di complementarità: i quadri normativi e gli standard internazionali definiscono cosa deve essere garantito; una specifica come AIKNOCK descrive un come tecnico per rendere una parte di tali proprietà osservabili e verificabili al livello dell'esecuzione. La specifica non interpreta la legge, non garantisce conformità e non si sostituisce ai processi organizzativi: opera su un piano distinto, quello del comportamento del sistema durante l'esecuzione di operazioni di Intelligenza Artificiale.
§ 06 · Conclusione
L'AI governance, vista da una prospettiva infrastrutturale, è un problema di livello architetturale: dove collocare il controllo del comportamento di esecuzione dei sistemi che incorporano l'Intelligenza Artificiale.
Spostare il controllo al di sotto del livello applicativo è la condizione tecnica perché la governance diventi una proprietà del sistema, non una sua dichiarazione.
AIKNOCK descrive un punto di applicazione tecnica di tale controllo, coerente con i requisiti posti dai principali quadri di riferimento, senza implementarli né rappresentarli.