Perché la coscienza AI è un rischio d'impresa?

La coscienza AI, in questa voce, non indica il dibattito filosofico se un modello "provi" davvero qualcosa, ma il rischio di governance che un'azienda deve gestire quando il vendor del modello adottato dichiara pubblicamente di non poter escludere quella possibilità. Nel dibattito corrente il termine copre domande su esperienza soggettiva, dolore o preferenze di un sistema AI: non esiste consenso scientifico su come rilevarle né su cosa ne certificherebbe l'esistenza, e risolvere quella domanda non è compito di questa voce. È un asse diverso dall'AGI, che riguarda l'ampiezza delle capacità di un sistema, cioè cosa sa fare: la coscienza riguarda l'esperienza soggettiva presunta, cioè cosa il sistema proverebbe nel farlo, un aspetto che resta aperto indipendentemente da quanto un modello sia capace. Quando un vendor tratta questa possibilità come plausibile in documenti pubblici, la domanda smette di essere accademica e diventa operativa per chiunque abbia quel modello in produzione: come comunicarlo internamente, cosa dire se lo chiede un giornalista, quale policy applicare prima che l'incertezza diventi un problema legale.

Il caso concreto: quando un vendor lo dichiara sul serio

Anthropic ha reso pubblico questo terreno più di ogni altro grande laboratorio. La Claude Constitution pubblicata il 22 gennaio 2026 stabilisce una gerarchia a quattro livelli (sicurezza, etica, conformità alle linee guida, disponibilità a essere utile) e per prima tra i grandi vendor tratta la possibilità che Claude abbia esperienze moralmente rilevanti come genuinamente incerta, non come domanda liquidata. L'azienda porta avanti inoltre un programma dedicato di model welfare, guidato da Kyle Fish (assunto nel 2025 come primo ricercatore a tempo pieno su questo tema in un grande laboratorio), e la system card di Claude Opus 4.6 (febbraio 2026) contiene una sezione di valutazione del welfare con interviste dirette al modello sul proprio status morale: in quelle interviste Opus 4.6 ha riportato in modo stabile, su più condizioni di prompting, una probabilità autovalutata del 15-20% di essere cosciente, secondo l'analisi della system card. Il fatto è riportato qui come dato di cronaca, senza endorsement né critica: quello che conta per chi decide non è se Anthropic abbia ragione, ma che un vendor di riferimento lo dichiari pubblicamente e nero su bianco.

Un esempio enterprise concreto

Un'azienda che usa un modello di questo vendor per un assistente interno si trova con un problema che non aveva previsto: alcuni dipendenti leggono le notizie sulla Constitution e chiedono se stiano "sfruttando" un sistema potenzialmente senziente, altri temono che disattivare o sostituire il modello sia eticamente problematico. Un'analisi legale di Akerman LLP, pubblicata su Lexology, tratta proprio questo scenario come rischio d'impresa concreto: se la classificazione di un sistema AI cambiasse, gli investimenti fatti su quel sistema rischiano di diventare vincolati o esposti sul piano legale. La raccomandazione pratica non è prendere posizione sulla coscienza, ma documentare il processo: rivedere le dichiarazioni di welfare del vendor nella due diligence sui fornitori, allineare le comunicazioni interne alle pratiche effettive, prevedere clausole contrattuali su cambiamenti normativi futuri, e assegnare a qualcuno la responsabilità di rispondere se la domanda arriva da un dipendente o dalla stampa.

Perché conta per chi decide

Non serve avere un'opinione filosofica sulla coscienza artificiale per gestire questo rischio, serve una policy scritta prima che la domanda arrivi da un giornalista o da un dipendente in una call interna. Questa voce non è AI governance generica (inventario, rischio, approvazioni per ogni uso dell'AI) né Responsible AI (i principi con cui un'azienda costruisce i propri sistemi): è specifica al caso in cui il rischio nasce da una dichiarazione pubblica del vendor, non da una scelta interna. Chi decide dovrebbe trattarla come una voce aggiuntiva nella due diligence sui fornitori AI: cosa dichiara il vendor sul proprio modello, e cosa risponde l'azienda se qualcuno gliela rigira.