Meredith Whittaker, presidente do Signal, contesta as previsões de que a inteligência artificial esteja próxima de escapar ao controle humano e provocar um cenário apocalíptico. Para ela, essas hipóteses não se apoiam em evidências científicas sólidas. O perigo mais concreto está no uso descuidado de sistemas que produzem respostas convincentes, mas podem errar, inventar dados e influenciar decisões reais.
A diferença importa porque muda a prioridade do debate. Um modelo não precisa ser consciente ou superinteligente para causar dano. Basta que uma organização trate sua saída como verdade, sem verificar fontes, limites e contexto. Quanto mais importante a decisão — em saúde, finanças, segurança ou política pública — maior o efeito de uma informação incorreta apresentada com aparência de certeza.
Whittaker cita o caso de um chatbot usado para análise de inteligência que teria inventado uma história sobre um navio chinês transportando material nuclear. O relato foi recebido com seriedade suficiente para provocar preparativos de resposta. O episódio resume o problema que ela quer destacar: sistemas podem fabricar uma narrativa detalhada e, ainda assim, não ter base factual.
Esse tipo de falha é conhecido como alucinação. Ele não desaparece só porque o modelo fica maior ou produz texto mais fluente. A resposta responsável exige revisão humana, registros de origem, testes independentes e limites claros para situações em que uma ferramenta não deve agir sozinha. A tecnologia pode ajudar a organizar grandes volumes de informação, mas não substitui a obrigação de confirmar o que será usado.
A posição de Whittaker também acompanha a defesa de privacidade feita pelo Signal. A plataforma aposta em criptografia de ponta a ponta e procura reduzir a coleta de dados. Para sistemas de IA, essa preocupação ganha outra camada: informações usadas em treinamento, consultas e agentes podem revelar hábitos, relações e documentos. Uma ferramenta útil não precisa receber acesso irrestrito para cumprir sua função.
O debate sobre riscos futuros continua legítimo, mas previsões extremas podem desviar atenção de decisões que já estão sendo tomadas. Empresas escolhem onde implantar modelos, governos definem regras e usuários entregam dados sem sempre compreender o caminho dessas informações. Segurança, para Whittaker, começa por essas escolhas imediatas, mensuráveis e passíveis de correção.
A conclusão é menos cinematográfica, mas mais exigente. Não há razão para esperar uma máquina autônoma dominar o mundo antes de estabelecer padrões de auditoria e responsabilidade. O dano pode nascer de um relatório falso aceito sem checagem, de uma recomendação automatizada opaca ou de uma base de dados exposta. Tratar a IA como ferramenta falível permite aproveitar seus benefícios sem transformar sua linguagem persuasiva em autoridade.