Event description
L’impiego di agenti di intelligenza artificiale nello sviluppo software introduce nuove possibilità di automazione e nuovi problemi di sicurezza. La capacità di utilizzare strumenti, modificare codice e proseguire attività attraverso cicli di autocorrezione richiede criteri espliciti per delimitare le azioni consentite e valutarne gli esiti. Il seminario esamina le dimensioni di safety e security dei sistemi agentici, con particolare attenzione alla gestione dei permessi, all’isolamento dell’ambiente di esecuzione, alla protezione dei dati e alla manipolazione delle istruzioni attraverso contenuti esterni. Casi documentati durante valutazioni interne di OpenAI e Anthropic offrono elementi concreti per analizzare i rischi associati al superamento del perimetro operativo previsto. L’impiego di strumenti come Codex e Claude Code viene discusso attraverso esempi di organizzazione dei compiti, cicli di feedback, verifiche indipendenti e supervisione umana. L’obiettivo è individuare pratiche e competenze utili a integrare gli agenti nei processi di sviluppo, mantenendo tracciabilità delle azioni, capacità di verifica e responsabilità sulle decisioni.