Pesquisador deixa empresa de IA com medo de que a tecnologia saia do controle: o que isso significa para o futuro dos nossos filhos?

Reading Time: 6 minutes

A saída pública de um pesquisador da Anthropic reacendeu o debate sobre os limites da inteligência artificial. Entenda o que é fato, o que é alerta de especialistas e o que ainda é especulação, e o que essa discussão tem a ver com a formação das crianças de hoje.

Na noite de terça-feira, 8 de setembro, um jovem pesquisador de 27 anos publicou uma sequência de mensagens em uma rede social e, em poucas horas, colocou em xeque uma das empresas mais respeitadas do setor de inteligência artificial. Jacob Coxon havia acabado de pedir demissão da Anthropic, criadora do Claude, depois de três anos trabalhando com pré-treinamento de modelos de IA tanto ali quanto na OpenAI. A publicação ultrapassou 90 milhões de visualizações em menos de 24 horas. O motivo do barulho todo cabe em uma frase do próprio Coxon: as empresas estão avançando rumo a sistemas capazes de se aperfeiçoar sozinhos e, segundo ele, apostando com a vida de todo mundo nessa corrida.

Para quem acompanha o noticiário de tecnologia com um filho por perto, a pergunta que fica é direta. Isso é alarmismo de rede social ou existe algo real por trás? E, se existe, o que muda na educação das crianças que estão crescendo justamente na era dessas ferramentas?

O que aconteceu, na prática

Coxon anunciou a saída em um tópico no X, dizendo que passou os últimos três anos em pesquisa de pré-treinamento nas duas empresas e que nenhuma delas está agindo com responsabilidade. Segundo ele, tanto Anthropic quanto OpenAI correm para desenvolver superinteligência capaz de se autoaperfeiçoar, um patamar que, para boa parte dos especialistas do setor, marcaria o momento em que humanos deixariam de ter controle direto sobre esses sistemas.

Antes de tornar pública a decisão, Coxon já havia deixado um recado semelhante para os colegas em uma mensagem interna no Slack da empresa, alertando sobre o risco de extinção humana caso não houvesse mais cautela e cooperação entre os laboratórios de IA. Em entrevista ao Wall Street Journal, ele foi mais específico sobre o prazo que considera crítico: segundo ele, é possível que, até o fim de 2027, os cenários mais agressivos já estejam fora de controle, e que dentro dos laboratórios de ponta os próprios pesquisadores usem termos como “crunchtime” e “endgame” para descrever esse momento.

Ele não estava sozinho

O que transformou a saída de Coxon em algo maior do que uma demissão isolada foi a reação de dentro da própria Anthropic. Evan Hubinger, líder de ciência de alinhamento da empresa, respondeu publicamente concordando com boa parte do que Coxon disse, e foi além: declarou considerar superior a 10% a probabilidade de a inteligência artificial levar à extinção da humanidade na próxima década. Samuel Marks, outro pesquisador da companhia, também se manifestou em apoio ao colega que saía.

Vale registrar que esse tipo de saída não é inédito. Em fevereiro deste ano, Mrinank Sharma, que liderava a equipe de proteção da Anthropic, já havia deixado a empresa com um alerta parecido, dizendo que “o mundo está em perigo”. A CNN chegou a observar que declarações desse tipo se tornaram recorrentes entre profissionais de IA nos últimos anos, o que não as torna menos sérias, mas ajuda a entender que fazem parte de uma tensão antiga do setor, e não de um episódio isolado e repentino.

O que é fato, o que é alerta e o que é especulação

Separar essas três camadas é essencial para entender a notícia sem exagero.

É fato que Jacob Coxon trabalhou em pré-treinamento na OpenAI e na Anthropic, que pediu demissão em 8 de setembro e que fez as declarações citadas, tanto publicamente quanto internamente. Também é fato que Evan Hubinger e Samuel Marks se manifestaram apoiando o colega, e que a Anthropic confirmou a saída sem contestar o teor das preocupações levantadas.

É alerta de especialistas a afirmação de que sistemas capazes de autoaperfeiçoamento representam risco existencial. Trata-se da avaliação de pessoas com acesso direto ao desenvolvimento desses modelos, o que dá peso à fala, mas continua sendo uma opinião, não uma medição objetiva de um evento que ainda não ocorreu.

É especulação o prazo. A estimativa de que os cenários mais graves poderiam se concretizar até o fim de 2027, ou a chance de mais de 10% de extinção humana em dez anos calculada por Hubinger, são projeções pessoais sobre um fenômeno sem precedente histórico. Não existe uma superinteligência autoaperfeiçoável de forma aberta e sem controle humano em operação hoje, e os próprios pesquisadores reconhecem que não têm um plano definido para lidar com o problema caso ele surja.

Como a Anthropic e outras vozes reagiram

Procurada pelo jornal britânico The Guardian, a Anthropic não contestou as preocupações de Coxon. Em nota, a empresa afirmou que sempre foi transparente quanto ao fato de que a IA trará benefícios enormes e riscos sem precedentes, e disse continuar construindo modelos com algumas das salvaguardas mais fortes do setor, citando também seu trabalho em interpretabilidade mecanicista, área que busca entender o funcionamento interno dos modelos.

Nem todos concordam, porém, que o risco principal seja esse cenário de longo prazo. O cientista da computação Gary Marcus, crítico frequente do setor, argumenta que as ameaças mais urgentes já estão em curso e são mais concretas: patógenos desenvolvidos com apoio de IA, desinformação que agrava conflitos reais e ataques a infraestruturas críticas. Dame Wendy Hall, que assessora a ONU sobre inteligência artificial, disse à BBC ter ficado surpresa com as declarações de Coxon e Hubinger, mas ponderou que parte do episódio também pode envolver estratégia de comunicação, já que Anthropic e OpenAI se aproximam de movimentos importantes no mercado, incluindo uma eventual abertura de capital da Anthropic avaliada perto de 2 trilhões de dólares. O episódio também repercutiu no Congresso americano, com parlamentares de partidos diferentes cobrando avanços em regulação da IA.

Podemos, de fato, ser exterminados?

A resposta honesta é que ninguém sabe, e é exatamente por isso que o debate segue aceso. O que existe hoje são formas limitadas e supervisionadas de autoaperfeiçoamento, já em uso por empresas como a própria Anthropic. O Claude, segundo dados divulgados pela empresa, já escreve mais de 80% do código integrado à sua base, e a OpenAI declarou publicamente que versões preliminares do GPT-5.3-Codex ajudaram a depurar o próprio treinamento. Um levantamento acadêmico recente, que analisou 1.250 artigos publicados entre 2024 e 2026, chama esse fenômeno de “autorrefinamento limitado”, já convergente e mensurável, e o separa claramente de um segundo patamar, o “autoaperfeiçoamento recursivo aberto”, que continua restrito por barreiras de verificação e de capacidade computacional em todas as medições feitas até agora.

É justamente essa segunda linha, um sistema que se aperfeiçoa de forma contínua e sem controle humano, que Coxon e Hubinger dizem temer que seja cruzada. O gargalo que ainda separa um cenário do outro, segundo pesquisadores da própria área, está na definição de quais problemas de pesquisa perseguir, uma decisão estratégica que os sistemas atuais ainda não assumem sozinhos. Tratar a extinção humana como fato consumado seria tão impreciso quanto ignorar que a fronteira entre automação assistida e autonomia plena está mais próxima do que estava há poucos anos, e que pesquisadores dentro das próprias empresas líderes do setor estão, em público, admitindo medo do que ajudaram a construir.

O que isso tem a ver com a infância dos nossos filhos

Aqui está o ponto que interessa a quem educa uma criança hoje, independentemente de acreditar ou não nos cenários mais extremos. Os dados do Cetic mostram que 59% das crianças e adolescentes brasileiros já usam inteligência artificial generativa no dia a dia, muitas vezes sem qualquer mediação de adultos. Isso já muda a forma como uma nova geração aprende, resolve problemas e busca respostas, com ou sem superinteligência no horizonte.

Especialistas em educação vêm insistindo em um ponto que conversa diretamente com esse debate: o risco mais imediato para uma criança não é uma IA que sai do controle da humanidade, mas uma criança que perde a própria capacidade de pensar sem depender da máquina. O educador Tiago Belotte, do Grupo Salta Educação, resume o dilema afirmando que a IA usada como atalho passivo atrofia atenção, autonomia e pensamento crítico, enquanto usada de forma mediada se transforma em uma parceira de raciocínio. Ele também aponta que a desigualdade mais silenciosa da nova era não está no acesso à tecnologia, mas na distância entre quem usa a IA de forma crítica e quem apenas consome respostas prontas.

Isso desloca a pergunta que os pais deveriam fazer. Menos “meu filho vai crescer em um mundo dominado por máquinas” e mais “meu filho está aprendendo a questionar o que a máquina responde”. Formular boas perguntas, verificar informações em fontes confiáveis, identificar erros e vieses e entender que a decisão final continua sendo humana são habilidades que já fazem parte de propostas orientadoras do MEC e dialogam com a BNCC de Computação. Para crianças com altas habilidades, que costumam se interessar cedo e intensamente por tecnologia, esse acompanhamento tem um peso ainda maior, porque a curiosidade natural pode se transformar tanto em uma ferramenta poderosa de aprendizado quanto em uma fonte de ansiedade diante de notícias como essa.

O que fica desse episódio

A saída de Jacob Coxon não prova que a inteligência artificial vai acabar com a humanidade, e também não permite descartar a preocupação como exagero. O que ela expõe, com uma clareza incomum, é que dentro das próprias empresas que lideram essa tecnologia existe divergência real sobre o quanto ela é segura e sobre o ritmo com que está sendo desenvolvida. Para os pais, a pergunta prática deixa de ser sobre controlar o futuro da tecnologia, algo fora do alcance de qualquer família, e passa a ser sobre preparar as crianças de hoje para lidar com um mundo em que ferramentas cada vez mais capazes vão exigir, delas, cada vez mais capacidade de pensar por conta própria.

Fontes utilizadas: