Nano-lição · demora normalmente 2–3 minutos

A IA sugere, decide o utilizador

O perigo não é a IA errar. É ninguém chegar a verificar.

Quando o rascunho se torna a decisão

Começa de forma sensata: a IA faz um rascunho, o utilizador lê-o, corrige. Mas quando os rascunhos continuam a ser suficientemente bons, deixa-se de ler. A isto chama-se cegueira de automação e é esse o verdadeiro risco — não que a máquina falhe, mas que já ninguém verifique. Isto não se aplica apenas a texto: se segue sempre a sugestão do sistema — uma rota, uma lista de recolha, uma dosagem — sem estranhar quando algo parece errado, está no mesmo ponto.

Retenha três coisas

Um rascunho é um rascunho. A sua assinatura é sua, mesmo quando o texto veio de outro lugar.
Leia como se um colega o tivesse escrito. Encaminharia o rascunho de um colega sem o ler?
Diga que não quando não é possível verificar. Se lhe pedem para aprovar cem sugestões por hora, não consegue aprovar nenhuma delas devidamente. É uma informação de que a sua chefia precisa.

Sobretudo quando se trata de pessoas

Se algo tem de ser decidido sobre uma pessoa — uma contratação, uma reclamação, uma prestação — a decisão nunca pode ficar apenas com a máquina. Tem de intervir uma pessoa que possa realmente alterar o resultado, e não apenas carregar em aprovar.

Para reter

A IA pode preparar. A pessoa decide.

Diz a investigação

Nos hospitais, estudaram-se os sistemas que sugerem ao médico ou ao enfermeiro o que deve ser feito. Quando o sistema sugeria algo errado, o risco de uma decisão errada aumentava em 26 % — profissionais experientes alteravam a sua própria resposta correta para a errada, porque o ecrã dizia outra coisa. Não é estupidez. É o que acontece quando algo teve razão muitas vezes seguidas.

Goddard et al., JAMIA 2012 (revisão sistemática).

Pergunta 1 de 3

Aprovou 40 rascunhos de IA seguidos e estavam todos bons. Qual é o maior risco agora?

Que a ferramenta piore com o tempo Que deixe de os ler devidamente Que fique demasiado lento

Pergunta 2 de 3

Quando é que «uma pessoa está a analisá-lo» não é uma verdadeira supervisão?

Quando a pessoa não é chefia Quando a pessoa não pode realmente alterar o resultado Quando a pessoa demora menos de cinco minutos

Pergunta 3 de 3

Pedem-lhe para aprovar mais casos do que consegue ler. Qual é a atitude correta?

Dizer à sua chefia que essa quantidade não pode ser aprovada de forma responsável Verificar por amostragem um em cada dez e aprovar os restantes Aprová-los rapidamente — é para isso que está lá

Muito bem!

Já fez um dos cursos base — esses que estão disponíveis gratuitamente para todos.

Com um login gratuito:

Os seus pontos, o seu progresso e o seu certificado ficam guardados.
Recebe cursos adaptados à sua função — não apenas os cursos base.
Enviamos a formação precisamente quando precisa dela — por exemplo, como seguimento a um teste de phishing.

Criar login gratuito → ← Ver os outros cursos