Il lavoro che resta quando il codice lo scrive un agente

Quando un agente scrive codice, esegue i test e corregge gli errori, allo sviluppatore resta un compito diverso: decidere cosa delegare, capire se sta andando bene e riprendere il controllo quando serve. Annie Vella lo chiama «supervisory engineering» e lo collega a decenni di ricerca su piloti e operatori di impianti automatizzati.

Vedere le modifiche non significa averle capite. Vella richiama un esperimento del 1995 su un sistema automatizzato: gli operatori continuavano a percepire i cambiamenti, ma ne comprendevano meno il significato al crescere dell’automazione. Nel software il parallelo è seguire una serie di modifiche senza costruirsi il modello mentale del sistema necessario a riconoscere un guasto. È un’applicazione di quella ricerca al coding, non un esperimento sugli agenti attuali.

C’è poi un problema di allenamento, descritto da Lisanne Bainbridge già nel 1983: se l’automazione funziona quasi sempre, intervenire diventa raro proprio mentre ci si aspetta che una persona sappia farlo nei casi più difficili. Per questo Vella sposta l’attenzione dal solo controllo del codice al progetto degli strumenti: quali segnali aiutano davvero a capire cosa sta succedendo? E come si passa dalla supervisione all’intervento? La disponibilità di log e pulsanti di approvazione non risponde da sola a queste domande.