Nano-lezione · richiede in genere 2–3 minuti

L'IA propone, tu decidi

Il pericolo non è che l'IA sbagli. È che nessuno fa in tempo a controllare.

Quando la bozza diventa la decisione

Comincia in modo sensato: l'IA scrive una bozza, tu la leggi, la correggi. Ma quando le bozze continuano a essere abbastanza buone, si smette di leggere. Si chiama cecità da automazione, ed è il vero rischio — non che la macchina sbagli, ma che nessuno controlli più. Non vale solo per il testo: se segui sempre i suggerimenti del sistema — un percorso, una lista di prelievo, un dosaggio — senza fermarti quando qualcosa sembra sbagliato, sei nella stessa situazione.

Tieni a mente tre cose

Una bozza è una bozza. La tua firma è la tua, anche quando il testo viene da un'altra parte.
Leggi come se l'avesse scritto un collega. Inoltreresti la bozza di un collega senza leggerla?
Dì di no quando non è possibile verificare. Se ti chiedono di approvare cento proposte all'ora, non puoi approvarne nessuna come si deve. È un'informazione di cui il tuo responsabile ha bisogno.

In particolare quando si tratta di persone

Se si deve decidere qualcosa su una persona — un'assunzione, un reclamo, una prestazione — la decisione non deve mai spettare alla macchina da sola. Deve intervenire una persona che possa davvero cambiare il risultato, non limitarsi a premere «approva».

Ricorda

L'IA può preparare. È l'essere umano a decidere.

Cosa dice la ricerca

Negli ospedali sono stati studiati i sistemi che suggeriscono al medico o all'infermiere cosa fare. Quando il sistema proponeva qualcosa di sbagliato, il rischio di una decisione errata aumentava del 26% — persone esperte cambiavano la propria risposta corretta in quella sbagliata, perché lo schermo diceva altro. Non è stupidità. È ciò che succede quando qualcosa ha avuto ragione molte volte di fila.

Goddard et al., JAMIA 2012 (revisione sistematica).

Domanda 1 di 3

Hai approvato 40 bozze IA di fila, ed erano tutte buone. Qual è il rischio maggiore adesso?

Che tu smetta di leggerle come si deve Che lo strumento peggiori col tempo Che tu diventi troppo lento

Domanda 2 di 3

Quando «una persona ci dà un'occhiata» non è un vero controllo?

Quando la persona impiega meno di cinque minuti Quando la persona non è un responsabile Quando la persona non può davvero cambiare il risultato

Domanda 3 di 3

Ti chiedono di approvare più pratiche di quante tu riesca a leggere. Qual è la cosa giusta da fare?

Dire al tuo responsabile che quella quantità non può essere approvata responsabilmente Fare un controllo a campione ogni dieci e approvare il resto Approvarle in fretta — è il tuo compito, dopotutto

Ottimo lavoro!

Hai completato uno dei corsi base — quelli che tutti ricevono gratuitamente.

Con un login gratuito:

I tuoi punti, i tuoi progressi e il tuo attestato vengono salvati.
Ricevi corsi personalizzati in base al tuo ruolo, non solo i corsi base.
Ti inviamo la formazione esattamente quando ti serve — ad esempio come follow-up a un test di phishing.

Crea un login gratuito → ← Vedi gli altri corsi