O problema não é quando a IA erra. É quando ninguém percebe.
FS-0024 — Série Artigos Técnicos
Uma resposta muito bem escrita. Um cálculo com resultado preciso. Uma planilha que fecha. Um código que executa. Uma análise que parece absolutamente coerente.
Tudo certo?
Talvez.
E esse “talvez” está se tornando uma das competências profissionais mais importantes na utilização da inteligência artificial.
A IA pode produzir resultados extraordinários. Eu mesmo a utilizo e seria incoerente negar o ganho de produtividade, capacidade de análise e velocidade que ela proporciona.
Mas existe uma diferença enorme entre obter uma resposta e ter conhecimento suficiente para avaliar essa resposta.
É aí que mora o problema.
Não quando a IA erra. Mas quando ninguém percebe que ela errou.
A IA funciona. E isso torna a discussão mais importante, não menos
Seria fácil construir este texto a partir dos erros da inteligência artificial. Só que isso produziria uma conclusão pobre.
A tecnologia funciona — e, em muitas tarefas, funciona muito bem.
Um estudo com 758 consultores, posteriormente publicado na Organization Science, encontrou ganhos relevantes quando profissionais utilizaram IA generativa em tarefas situadas dentro da capacidade da tecnologia: mais tarefas concluídas, maior velocidade e melhor qualidade dos resultados.
Ótimo!
Mas o mesmo estudo encontrou algo muito mais interessante. Em uma tarefa deliberadamente posicionada fora daquela fronteira de capacidade, os profissionais que utilizaram IA tiveram menor probabilidade de chegar à solução correta.
E estamos falando de profissionais qualificados.
Os pesquisadores chamaram esse fenômeno de “fronteira tecnológica irregular” (jagged technological frontier): a IA pode ser extraordinariamente competente em determinada atividade e falhar em outra que, para o usuário, parece bastante semelhante.
E qual o problema?
Essa fronteira não vem desenhada na tela.
A ferramenta não necessariamente interrompe a resposta para dizer: “daqui para frente, talvez seja melhor você não confiar tanto em mim”.
Ela responde.
E cabe a alguém avaliar.
Produzir ficou mais fácil. Avaliar continua exigindo conhecimento
Talvez justamente por utilizar IA com tanta frequência eu tenha aprendido a não confundir velocidade com certeza.
Quando trabalho em uma área que conheço, consigo perceber uma premissa estranha, um cálculo que não fecha, uma interpretação normativa duvidosa ou uma conclusão que merece ser confrontada.
Algumas vezes a resposta está errada.
Outras vezes, quem está errado sou eu.
E isso também importa.
Conferir não significa partir do princípio de que a máquina está errada. Significa reconhecer que nem ela, nem eu, sabemos tudo.
Então verificamos.
Buscamos a fonte. Refazemos o cálculo. Consultamos a norma. Testamos a hipótese. Comparamos documentos. Quando necessário, procuramos alguém que conheça melhor aquele assunto.
Isso não diminui a inteligência artificial. É justamente o que permite utilizá-la de maneira profissional.
Porque existe uma dificuldade adicional: o erro nem sempre vem com cara de erro.
Ele pode chegar bem escrito, organizado em tópicos, acompanhado de argumentos aparentemente coerentes e apresentado com uma segurança impressionante.
Para quem domina o assunto, alguma coisa pode soar estranha.
Para quem não domina…
pode soar como conhecimento.
Executar uma tarefa não é a mesma coisa que dominar a tarefa
A inteligência artificial está democratizando capacidades que antes exigiam muito mais tempo, treinamento ou apoio especializado.
Isso é extraordinário, ou será que não?
Uma pessoa pode estruturar uma planilha, explorar dados, produzir uma primeira versão de código, compreender melhor um documento complexo, organizar uma pesquisa ou desenvolver uma apresentação com uma capacidade que, poucos anos atrás, exigiria muito mais esforço.
Não é possível e não há sentido em negar esse avanço.
Mas existe uma enorme diferença entre conseguir executar uma tarefa e possuir competência para avaliar o resultado.
Uma planilha pode fechar. Um código pode executar. Um contrato pode parecer impecável. Um cálculo pode chegar a um número. Uma análise pode ser extremamente convincente.
E ainda assim estar errada.
Por isso que ali em cima plantei uma dúvida sobre a democratização da IA ser algo extraordinário. O nível de validação não deveria ser igual para todas as situações.
Usar IA para melhorar o texto de um convite é uma coisa.
Utilizá-la para interpretar uma cláusula contratual, orientar uma decisão financeira, produzir código colocado em produção, dimensionar uma solução de engenharia ou fundamentar uma decisão empresarial é outra.
Quanto maior a consequência e o impacto do erro, maior precisa ser a capacidade de validação.
Pensamento crítico não pode virar etapa opcional
Outro estudo, apresentado por pesquisadores da Microsoft Research e da Carnegie Mellon University, analisou 319 profissionais e 936 exemplos reais de uso de IA generativa no trabalho.
Os resultados merecem atenção: maior confiança na IA apareceu associada a menor exercício declarado de pensamento crítico, enquanto maior confiança do profissional em sua própria capacidade para executar a tarefa apareceu associada a maior pensamento crítico.
O estudo também sugere uma mudança interessante no trabalho cognitivo.
Parte do esforço deixa de estar apenas em produzir e passa para verificar informações, integrar respostas e supervisionar o resultado.
Talvez esteja aí uma das mudanças profissionais mais importantes trazidas pela IA.
O profissional não deixa necessariamente de pensar porque uma ferramenta passou a executar parte do trabalho.
Mas o lugar onde ele precisa pensar pode mudar.
Agora multiplique isso por 10, 50 ou 500 pessoas
Até aqui estamos falando do indivíduo.
Agora pense na empresa.
Quem está utilizando inteligência artificial?
Para fazer o quê?
Quais ferramentas estão sendo utilizadas?
Que informações estão sendo fornecidas?
Há dados pessoais? Informações estratégicas? Contratos? Documentos de clientes? Código-fonte? Informações comerciais?
Quem confere as respostas?
Existe diferença entre uma atividade de baixo risco e outra capaz de gerar impacto jurídico, financeiro, operacional ou reputacional?
E, talvez a pergunta mais importante:
quem responde pelo resultado?
É nesse ponto que a discussão deixa de ser apenas produtividade e passa a envolver governança.
Não estou defendendo que toda empresa precise criar uma burocracia gigantesca antes de alguém escrever um prompt.
Calma lá!
Mas também parece pouco razoável imaginar que uma tecnologia capaz de participar de análises, decisões, documentos, códigos e processos empresariais possa ser adotada sem qualquer definição sobre responsabilidade, segurança, privacidade, confidencialidade, ferramentas autorizadas, capacitação e supervisão humana.
A pergunta já não é apenas:
“Nossa empresa usa IA?”
Talvez essa pergunta esteja atrasada.
Uma pergunta melhor seria:
“Nós sabemos como ela está sendo usada?”
Conhecimento continua importando — talvez de uma maneira diferente
Durante algum tempo, parte da conversa sobre inteligência artificial foi conduzida como se existissem apenas duas possibilidades: ou a IA substituiria o especialista, ou o especialista provaria que a IA não consegue fazer seu trabalho.
A realidade parece muito mais interessante.
A IA pode permitir que pessoas executem atividades que antes estavam fora de seu alcance. Pode reduzir barreiras de entrada. Pode aumentar produtividade. Pode ampliar a capacidade de profissionais experientes. Pode ajudar alguém a aprender.
Mas nada disso transforma automaticamente uma resposta em verdade.
E também não transforma automaticamente quem recebeu a resposta em especialista.
Por isso, conhecer profundamente a própria área continua sendo valioso. Não porque o profissional precise competir com a máquina para descobrir quem sabe mais coisas, mas porque precisa possuir repertório para formular problemas, contextualizar respostas, reconhecer inconsistências e assumir responsabilidade pelas decisões.
E quando não souber?
Precisa saber que não sabe.
Essa talvez seja uma das competências mais subestimadas de qualquer profissional — com ou sem IA.
Afinal, quem é responsável?
Talvez aprender a trabalhar com inteligência artificial não seja aprender a perguntar tudo para ela.
É aprender o que perguntar, o que conferir, onde verificar, quando contestar e, principalmente, reconhecer quando não sabemos o suficiente para decidir sozinhos.
A IA pode ampliar enormemente aquilo que conseguimos fazer.
Pode pesquisar, estruturar, comparar, resumir, calcular, programar, sugerir, simular e encontrar relações em uma velocidade impressionante.
Use!
Mas existe uma coisa que não deveríamos terceirizar:
a responsabilidade pelo que fazemos com aquilo que ela nos entrega.
Porque o problema não é quando a IA erra.
É quando ninguém percebe.
Referências
- Dell’Acqua, F. et al. Navigating the Jagged Technological Frontier: Field Experimental Evidence of the Effects of AI on Knowledge Worker Productivity and Quality. Organization Science. https://doi.org/10.1287/orsc.2025.21838
- Microsoft Research / Carnegie Mellon University. The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers. https://www.microsoft.com/en-us/research/publication/the-impact-of-generative-ai-on-critical-thinking-self-reported-reductions-in-cognitive-effort-and-confidence-effects-from-a-survey-of-knowledge-workers/
- OECD. Materiais sobre AI literacy, supervisão humana e adoção confiável de IA. https://www.oecd.org/
