Per anni il dibattito sulla sicurezza dell’intelligenza artificiale si è concentrato su ciò che i chatbot dicono. Oggi l’attenzione si sposta su ciò che fanno. La Federal Trade Commission ha avviato un’indagine su OpenAI e Anthropic per valutare i rischi creati dai loro prodotti. Un segnale da non sottovalutare, perché riguarda la direzione verso cui si sta muovendo l’intera industria.

Al centro della questione ci sono i cosiddetti agenti autonomi. Non più assistenti che si limitano a rispondere a una domanda, ma sistemi capaci di navigare sui siti web, utilizzare software e compiere azioni concrete per conto delle persone. Si tratta di un salto di qualità notevole, che promette di far risparmiare tempo ma che cambia anche la natura del rischio.

Quando un chatbot sbaglia, l’utente legge una risposta errata e può ignorarla. Quando a sbagliare è un agente che opera in autonomia, l’errore si traduce direttamente in un’azione, talvolta difficile da annullare. È proprio su questa zona grigia che la FTC intende fare luce, chiedendosi chi risponda delle conseguenze e quanto siano affidabili le verifiche condotte dalle aziende. Delegare un compito a un software significa concedergli una parte della propria fiducia, e nessuna tecnologia autonoma potrà diffondersi davvero finché gli utenti non sapranno su quali basi quella fiducia viene accordata. Siamo pronti a cedere il controllo operativo alle macchine?