La macchina che fa i compiti. E il cervello che se ne va

Un racconto da tenere in classe Qualche tempo fa ho riletto un racconto breve di Gianni Rodari che continua a sembrarmi straordinariamente attuale. Ve lo riporto qui, perché credo che valga la pena leggerlo prima di qualsiasi ragionamento sull’intelligenza artificiale. Un giorno bussò alla nostra porta uno strano tipo: un ometto buffo, vi dico, alto poco più di due fiammiferi. Aveva in spalla una borsa più grande di lui. – Ho qui delle macchine da vendere – disse. – Fate vedere – disse il babbo. – Ecco, questa è una macchina per fare i compiti. Si schiaccia il bottoncino rosso per fare i problemi, il bottoncino giallo per svolgere i temi, il bottoncino verde per imparare la geografia: la macchina fa tutto da sola in un minuto. – Compramela, babbo! – dissi io. – Va bene, quanto volete? – Non voglio denari – disse l’omino. – Ma non lavorerete mica per pigliar caldo! – No, ma in cambio della macchina voglio il cervello del vostro bambino. – Ma siete matto! – esclamò il babbo. – State a sentire, signore – disse l’omino, sorridendo. – Se i compiti glieli fa la macchina, a che cosa gli serve il cervello? – Comprami la macchina, babbo! – implorai. – Che cosa ne faccio del cervello? Il babbo mi guardò un poco e poi disse: – Va bene, prendete il suo cervello. L’omino mi prese il cervello e se lo mise in una borsetta. Com’ero leggero, senza cervello! Tanto leggero che mi misi a volare per la stanza, e se il babbo non mi avesse afferrato in tempo sarei volato giù dalla finestra. – Bisognerà tenerlo in gabbia – disse l’ometto. – Ma perché? – domandò il babbo. – Non ha più cervello, ecco perché. Se lo lasciate andare in giro, volerà nei boschi come un uccellino, e in pochi giorni morirà di fame! Il babbo mi rinchiuse in una gabbia, come un canarino. La gabbia era piccola, stretta, non mi potevo muovere. Le stecche mi stringevano tanto che… alla fine mi svegliai spaventato. Meno male che era stato solo un sogno! Vi assicuro che mi sono subito messo a fare i compiti. — Gianni Rodari--

Un racconto da tenere in classe

Rodari scrisse questo testo negli anni Sessanta, pensando a chissà quale macchina futuribile. Non immaginava — o forse sì, a modo suo — che l’omino con la borsa sarebbe arrivato davvero, e che si sarebbe presentato con un’interfaccia pulita e una casella di testo bianca. Negli ultimi due anni ho assistito in prima persona all’arrivo di quell’omino nelle mie classi.

L’entusiasmo iniziale è stato travolgente, e sarei disonesta a negarlo. Gli studenti si sono presentati con temi scritti in un italiano impeccabile, ricerche storiche ben strutturate, riassunti privi di errori. Per qualche settimana ho avuto la sensazione di guardare un’aula piena di geni improvvisati. Poi ho cominciato a fare domande. Domande semplici, sul contenuto di quello che avevano consegnato. E lì il castello ha cominciato a scricchiolare.

Non è una questione di disonestà intellettuale — o almeno, non solo. È qualcosa di più sottile e più preoccupante: molti ragazzi avevano consegnato testi che non avevano compreso. Non perché fossero incapaci, ma perché il processo attraverso cui si comprende una cosa — il tentativo, l’errore, la correzione, la fatica — era stato saltato a piè pari. Avevano preso la borsa dell’omino senza chiedersi cosa ci avevano messo dentro.

C’è un termine tecnico che viene dalla sociologia del lavoro, deskilling, che indica il processo attraverso cui una tecnologia sostituisce progressivamente le competenze umane fino a renderle atrofizzate per mancanza d’uso. Lo abbiamo visto con il calcolo mentale nell’era della calcolatrice, con la scrittura a mano nell’era della tastiera, con il senso dell’orientamento nell’era del GPS. Non sto dicendo che queste siano state catastrofi — molte di quelle competenze erano sacrificabili. Ma la scrittura, il ragionamento, la capacità di costruire un argomento e di sostenere un’idea davanti a un interlocutore? Queste non sono competenze accessorie.

Quando un ragazzo delega a uno strumento l’atto di pensare — non di formattare, non di cercare dati, ma di pensare — rinuncia a qualcosa che non si recupera facilmente. La fatica cognitiva non è un ostacolo all’apprendimento: è l’apprendimento stesso. Ogni volta che uno studente lotta con una frase difficile, cerca il termine giusto, riscrive un paragrafo perché non suona bene, sta costruendo qualcosa dentro di sé. Quella costruzione non avviene se la frase la scrive qualcun altro, o qualcos’altro.

Detto questo, qualcosa di interessante è accaduto nel tempo. L’entusiasmo iniziale si è smorzato, e non per effetto di qualche campagna moralizzatrice da parte dei docenti. Gli studenti stessi hanno cominciato a fare i conti con i limiti dello strumento. Chi ha provato a usare l’intelligenza artificiale per una ricerca storica ha trovato date sbagliate, personaggi confusi, citazioni di libri che non esistono. Chi ha chiesto aiuto per un testo argomentativo ha ricevuto pagine apparentemente coerenti che, a uno sguardo più attento, giravano in tondo senza dire niente.

Quello che i ricercatori chiamano “allucinazione” — la tendenza dei modelli linguistici a produrre informazioni false con la stessa sicumera con cui ne producono di vere — è diventato un’esperienza concreta per i miei studenti. Alcuni di loro hanno passato più tempo a verificare quello che l’AI aveva scritto che non a svolgere il compito in proprio. Quando l’ho fatto notare, qualcuno ha risposto con una frase che mi è rimasta: “Ma tanto ci vuole più tempo così”. Esatto.

A questo si aggiunge il problema dei bias: i modelli linguistici sono addestrati su enormi quantità di testo prodotto da certi tipi di fonti, in certi contesti culturali, con certe prospettive dominanti. Chiedere loro di raccontare la storia coloniale italiana, o di spiegare un conflitto geopolitico recente, non è la stessa cosa che consultare storici diversi o leggere fonti primarie. Lo strumento non è neutro, e questa non-neutralità è spesso invisibile, il che la rende ancora più insidiosa.

Non ho intenzione di trasformare questo post in un atto d’accusa contro l’intelligenza artificiale. Gli strumenti esistono, e gli studenti li useranno, dentro e fuori dalla scuola, con o senza il nostro consenso. Il punto non è proibire, ma capire cosa sta succedendo e aiutare i ragazzi a capirlo con noi.

Quello che possiamo fare, come docenti, è rendere esplicito il nodo. L’omino di Rodari non porta via il cervello di nascosto: chiede il permesso, e noi lo diamo. La domanda da porre agli studenti non è “hai usato l’AI?”, ma “cosa hai imparato facendo questo?”. Se la risposta è “niente”, il problema non è lo strumento: è il modo in cui è stato usato.

Il sogno del bambino di Rodari finisce con uno spavento e con un gesto semplice: si mette a fare i compiti. Non perché qualcuno glielo abbia imposto, ma perché ha capito — attraverso il sogno, che è uno dei modi in cui si capiscono le cose — che rinunciare al proprio cervello è un pessimo affare. Forse anche i nostri studenti, attraverso la disillusione e l’esperienza diretta dei limiti dello strumento, stanno cominciando a capire qualcosa di simile. Sta a noi non sprecare quella lezione.