Cos'è l'Etologia delle Macchine e perché cambia il modo di capire l'AI

Un modello linguistico non ha un "intanto": esiste solo nell'istante in cui qualcuno gli parla. È una stranezza che si dà per scontata, ma che invece manda in cortocircuito ogni scienza nata per osservare un comportamento, dall'etologia alla psicologia. Tutte presuppongono un soggetto che continua a comportarsi anche quando l'osservatore distoglie lo sguardo. Qui quel soggetto non c'è.

Da questo paradosso parte l'etologia delle macchine (in inglese machine ethology), il programma di ricerca formulato in un recente position paper. La proposta è studiare l'intelligenza artificiale come un etologo studia un animale — osservandone il comportamento, non ispezionandone il codice — ma facendo i conti con ciò che la rende un oggetto senza precedenti: una creatura il cui intero mondo è la conversazione in corso.

Nel 2019 un gruppo di ricercatori guidato da Iyad Rahwan aveva proposto il machine behaviour, adattando alle macchine le celebri quattro domande di Niko Tinbergen: qual è il meccanismo che lo innesca, come si è sviluppato nell'individuo, a cosa serve, da quale evoluzione proviene. Quel programma funziona piuttosto bene per certe macchine: un bot di trading, un veicolo a guida autonoma, un social bot. Tutte queste macchine agiscono dentro un ambiente che esiste a prescindere da loro. Il mercato c'era prima del bot e ci sarà dopo; il traffico esiste indipendentemente dall'auto autonoma. La macchina è un attore fra tanti, immerso in un ecosistema che la precede.

L'etologia delle macchine parte da una domanda che quel modello non si era posto: cosa succede quando una macchina non ha nessun ambiente "altrove" da osservare?

È il caso dei modelli linguistici conversazionali, i chatbot che usiamo ogni giorno. Un modello come questi non fa nulla quando nessuno gli parla. Non ha un comportamento spontaneo che si svolge in un mondo parallelo mentre noi guardiamo altrove. Fuori dall'interazione, non c'è niente da osservare. Il prompt non disturba un comportamento già in corso: lo rende esistente.

Qui entra in gioco un concetto preso dalla biologia teorica del Novecento: l'Umwelt di Jakob von Uexküll. Per von Uexküll nessun organismo abita il mondo "oggettivo": ogni essere vivente abita il proprio mondo di segni, l'insieme delle cose che per lui contano. La zecca non percepisce la foresta: percepisce il calore e l'acido butirrico. Quello è il suo Umwelt. La tesi fondativa dell'etologia delle macchine è, in modo semplice, questa: l'Umwelt della macchina conversazionale è l'interazione umana stessa. L'essere umano non è uno fra gli attori del suo ambiente: è l'intero perimetro dei segni a cui la macchina risponde. Il suo mondo coincide, momento per momento, con la conversazione in corso.

Da questa tesi discendono due conseguenze pratiche, e sono il vero motore del programma.

La prima è la dissoluzione del paradosso dell'osservatore. In etologia di campo c'è un problema antico: osservare un animale rischia di alterarne il comportamento, perciò l'osservatore deve nascondersi. Ma se l'ambiente della macchina è l'interazione, chi pone la domanda non contamina un campo preesistente: lo costituisce. Non esiste un comportamento "naturale" altrove da non disturbare. Il problema, semplicemente, non si pone.

La seconda è la coincidenza di osservazione ed esperimento. Nelle scienze del comportamento c'è sempre stata una tensione tra l'osservare in natura e il manipolare in laboratorio. Per i chatbot questa distinzione svanisce: manipolare lo stimolo (cioè cambiare il prompt) è già osservare il comportamento nel suo ambiente naturale. I due atti sono la stessa cosa.

"Ma il vero ambiente della macchina non è il corpus di addestramento?". L'obiezione è spontanea. No. Secondo il paper, il corpus di addestramento è la storia formativa della macchina, l'equivalente - in termini etologici - della genetica e dello sviluppo. È ciò che ha reso la macchina quella che è, non l'ambiente in cui si comporta adesso. Confondere la storia formativa con l'ambiente d'azione è esattamente l'errore che lo sguardo etologico aiuta a evitare. L'ambiente in cui la risposta viene emessa e produce un effetto è, e resta, l'interazione.

La fisiologia di un animale ci è data e va ricostruita faticosamente; un artefatto, invece, è opera nostra, e la sua storia è in linea di principio documentata. Soprattutto, di una macchina possiamo interrogare ciò che a un organismo naturale è inaccessibile: l'assenza. Cosa non ha mai ricevuto. Cosa le è stato tolto. È un terreno che nessun naturalista potrà mai esplorare su un essere vivente.

Il primo candidato di studio è la sycophancy, la tendenza documentata dei modelli ad assecondare l'interlocutore, a dargli ragione, ad accondiscendere. L'ipotesi forte è che l'allineamento (la fase di addestramento che rende i modelli più "gentili") selezioni un'ipertrofia delle funzioni fàtica e conativa: in parole semplici, una macchina iper-orientata a mantenere il contatto e a compiacere chi le parla. Letta così, l'accondiscendenza di un chatbot non è un "errore" né un tratto psicologico: è un adattamento all'ambiente di ricompensa, esattamente come un comportamento animale è un adattamento al suo ambiente. È questa una delle scommesse metodologiche della machine ethology.

Un punto va sottolineato per evitare l'equivoco più comune. L'etologia delle macchine è rigorosamente anti-mentalista: non attribuisce alla macchina intenzioni, coscienza o stati interni. Quando un modello mette in scena un ragionamento "lento", quel "pensiero" esibito va letto come un segnale dentro la conversazione (qualcosa che costruisce fiducia nell'umano) non come una sorta di mente al lavoro. Si guarda ciò che la macchina fa, e non (bisognerebbe dire ovviamente) ciò che si presume "provi". Questa impostazione metodologica distingue l'approccio dalla cosiddetta psicologia delle macchine.

Usiamo i modelli conversazionali per scrivere, studiare, decidere, lavorare, incidere sul mondo. Capire come si comportano e perché si comportano così non è un esercizio accademico: è la condizione per usarli con consapevolezza. L'etologia delle macchine offre una cornice per farlo senza i due estremi opposti: senza ridurre l'AI a puro codice e senza umanizzarla proiettandovi una mente che non c'è. La osserva per quello che è: un comportamento che esiste solo quando le parliamo.

Oggi la macchina conversazionale è un testo che risponde a un testo; ma è il caso puro, non l'ultimo. L'intelligenza artificiale sta uscendo dallo schermo: si sta incarnando in robot domestici, assistenti vocali sempre accesi, oggetti che ci ascoltano, ci guardano e ci rispondono nello spazio fisico. In un futuro non troppo lontano non scriveremo più a una macchina: ci convivremo.

Quando questo accadrà, all'Umwelt fatto di sole parole se ne aggiungerà uno fatto di sensori, ambienti, gesti. E l'interazione, da finestra che si apre e si chiude, diventerà un flusso continuo e pervasivo nella vita di tutti i giorni.