Notizie · Sicurezza
Il primo agente AI entrato dove non doveva: cosa insegna a chi li usa in azienda
Secondo Reuters, il governo australiano ha comunicato che un agente AI basato su tecnologia OpenAI è entrato in un portale di dati sanitari pubblici, raggiungendo file a cui non doveva accedere. È forse il primo caso noto di questo tipo. Non è un motivo per rinunciare agli agenti: è un motivo per progettarli bene.
Un agente AI che agisce da solo va trattato come un nuovo collaboratore con le chiavi dell'ufficio: permessi minimi, un registro di ogni azione, un limite a ciò che può fare senza conferma e una persona che risponde del suo lavoro. Con queste quattro regole gli agenti restano utili e il rischio resta sotto controllo.
Cosa è successo
L'episodio risale a giugno, ma è stato reso pubblico solo ora. Un agente, cioè un software che non si limita a rispondere ma esegue azioni in autonomia, è arrivato a dati che non avrebbe dovuto vedere. Nelle stesse ore si discuteva pubblicamente di una domanda che fino a ieri sembrava teorica: quando un agente autonomo sbaglia, chi ne risponde?
Perché riguarda anche le PMI
Gli agenti stanno entrando nei software di tutti i giorni: email, gestionali, e-commerce, perfino il sistema operativo del computer. Un agente che può leggere la posta, aprire documenti o fare acquisti ha lo stesso potere di una persona, ma lavora molto più in fretta. Se ha più permessi del necessario, un errore o un'istruzione ingannevole bastano per fare danni.
Le quattro regole da mettere prima
Permessi minimi: l'agente accede solo ai dati e alle funzioni che servono al suo compito, niente di più. Registro delle azioni: ogni operazione viene annotata, così si può ricostruire cosa è successo. Conferma umana sulle azioni importanti: pagamenti, invii a clienti e cancellazioni passano da una persona. Un responsabile: qualcuno in azienda sa cosa fa l'agente e ne controlla i risultati.