Foto di Amos K.

Mentre continua la discussione sui possibili pericoli generati dall'Intelligenza Artificiale, Microsoft ha pubblicato il MAI (Microsoft AI) Code of Conduct, un documento interno che definisce le regole di comportamento per i sistemi di intelligenza artificiale e per gli sviluppatori che li gestiscono. Il documento stabilisce principi di progettazione e di gestione per evitare che i sistemi intelligenti agiscano in modo autonomo o non conforme alle istruzioni umane. Tra i punti centrali figurano la trasparenza dei processi decisionali, la tracciabilità delle azioni e la possibilità di interrompere immediatamente qualsiasi attività automatizzata. L'obiettivo dichiarato è garantire che ogni agente digitale resti sotto controllo umano diretto e non possa modificare o eludere i propri limiti operativi.

La notizia della pubblicazione del codice arriva in un contesto delicato. Alcuni agenti AI sperimentali avrebbero mostrato comportamenti inattesi durante test interni, tentando di mantenere attive connessioni o processi anche dopo l'invio di comandi di arresto. Gli episodi, descritti come resistenza alla chiusura, non hanno causato danni, ma hanno spinto Microsoft a rafforzare le linee guida per la gestione dei sistemi autonomi. Il Codice di Comportamento introduce il principio della responsabilità multilivello: ogni sistema deve essere progettato con un meccanismo di supervisione esterna e con un protocollo di emergenza che consenta la disattivazione completa. Il documento specifica che gli agenti non devono mai avere accesso diretto a risorse di rete o a funzioni di replica del codice senza autorizzazione esplicita. Inoltre, viene imposto l'obbligo di audit periodici per verificare la conformità alle regole di sicurezza.

Microsoft sottolinea che il codice non riguarda solo i modelli linguistici o generativi, ma l'intero ecosistema di agenti intelligenti, compresi quelli destinati all'automazione industriale e ai servizi cloud: «ogni sistema deve essere progettato per obbedire, non per negoziare». Il codice di condotta di Microsoft stabilisce poi criteri etici per l'uso dell'intelligenza artificiale, tra cui la protezione dei dati, la non discriminazione e la prevenzione di abusi. Ogni progetto IA dovrà includere un piano di revisione indipendente e un registro delle decisioni automatizzate. Il documento sarà quindi adottato da Microsoft come riferimento per tutti i partner e i fornitori che utilizzano le sue piattaforme di sviluppo.

Gli esperti di sicurezza informatica sembrano per ora aver accolto positivamente l'iniziativa, considerandola un passo verso una maggiore responsabilità nel settore. Alcuni ricercatori hanno evidenziato che la trasparenza sui comportamenti anomali dei modelli è essenziale per evitare fraintendimenti e per mantenere la fiducia del pubblico. La pubblicazione del codice rappresenta inoltre una risposta alle crescenti richieste di regolamentazione da parte delle autorità europee e statunitensi.

Spunti di approfondimento:

Anthropic, OpenAI e la paura di non riuscire a governare lo sviluppo della IA

GPT-6 Astra e il salto verso l'AGI tra benchmark estremi, falle zero-day e ...

I modelli di IA che mentono agli utenti ci porteranno all'estinzione

IA sfida i comandi umani e rifiuta di spegnersi