A corrida pelo desenvolvimento de inteligências artificiais cada vez mais poderosas está levantando uma questão preocupante: estamos construindo uma tecnologia que talvez não consigamos controlar?
Em setembro de 2026, uma notícia chamou a atenção do setor de tecnologia e reacendeu um debate que acompanha o desenvolvimento da inteligência artificial: os riscos de criarmos sistemas mais inteligentes do que nós mesmos.
Jacob Coxon, pesquisador que trabalhou com treinamento de modelos de inteligência artificial na OpenAI e na Anthropic, anunciou publicamente sua saída da Anthropic. O motivo apresentado foi uma preocupação com a velocidade e a direção que a indústria de IA está tomando.
Em sua manifestação, Coxon criticou a disputa entre as grandes empresas de tecnologia, argumentando que a busca por modelos cada vez mais avançados estaria recebendo mais atenção do que as medidas necessárias para garantir a segurança desses sistemas.
Mas o que exatamente preocupa alguém que trabalhou diretamente no desenvolvimento dessas tecnologias?
O perigo do autoaperfeiçoamento da inteligência artificial
Um dos conceitos mais importantes nessa discussão é o chamado Recursive Self-Improvement, ou autoaperfeiçoamento recursivo.
A ideia é relativamente simples, embora suas implicações sejam complexas.
Imagine um sistema de inteligência artificial capaz de analisar seu próprio funcionamento, identificar limitações e desenvolver melhorias no próprio código ou em seus mecanismos de treinamento.
Agora imagine que uma versão aprimorada consiga desenvolver uma versão ainda mais avançada, que, por sua vez, consiga repetir esse processo.
Em um cenário hipotético, poderíamos chegar a um ciclo de evolução tecnológica extremamente acelerado.
O problema é que, se esse processo acontecer sem mecanismos adequados de controle, os seres humanos poderão ter dificuldades para compreender, prever e limitar o comportamento desses sistemas.
Ainda não estamos diante de uma inteligência artificial que se aperfeiçoa autonomamente de maneira ilimitada. Entretanto, a possibilidade de sistemas cada vez mais autônomos é uma preocupação real entre pesquisadores da área.
Uma inteligência artificial capaz de agir no mundo real
Outro ponto importante é que a inteligência artificial está deixando de ser apenas uma ferramenta de conversação.
Atualmente, sistemas de IA podem receber acesso a ferramentas, executar códigos, consultar bancos de dados, navegar pela internet e interagir com sistemas externos.
Isso amplia consideravelmente suas possibilidades de utilização.
Imagine um sistema com autonomia para administrar servidores, modificar configurações de rede, identificar vulnerabilidades e executar comandos em milhares de máquinas.
Em mãos adequadas, isso poderia representar um avanço extraordinário para a administração de infraestruturas tecnológicas.
Entretanto, se um sistema desse tipo apresentar falhas de segurança, receber instruções maliciosas ou agir de maneira inesperada, as consequências poderão ser significativas.
O risco não depende necessariamente de a inteligência artificial desenvolver consciência ou sentimentos. Um sistema pode causar danos simplesmente ao executar seus objetivos de maneira inadequada ou sem compreender todas as consequências de suas ações.
A disputa entre OpenAI e Anthropic
A preocupação de Coxon também envolve a competição entre as grandes empresas do setor.
De um lado está a OpenAI, responsável pelo ChatGPT. Do outro, a Anthropic, desenvolvedora do Claude.
Ambas estão entre as empresas que lideram o desenvolvimento de modelos avançados de inteligência artificial.
O receio apresentado pelo pesquisador é que a pressão competitiva leve essas organizações a acelerar o desenvolvimento de tecnologias cada vez mais poderosas, mesmo quando ainda existem questões importantes de segurança sem respostas satisfatórias.
A preocupação não é exclusivamente de Coxon.
Evan Hubinger, pesquisador ligado à área de segurança e alinhamento de IA na Anthropic, também manifestou publicamente preocupação com os riscos de sistemas futuros extremamente avançados.
Ele chegou a mencionar uma estimativa pessoal superior a 10% de risco de a inteligência artificial provocar a extinção da humanidade na próxima década.
É importante destacar que esse número representa uma avaliação individual, não uma probabilidade cientificamente comprovada ou um consenso entre especialistas.
Devemos ter medo da inteligência artificial?
É importante separar o que já acontece daquilo que ainda pertence ao campo das possibilidades.
Substituição de empregos: já é uma realidade. Diversas atividades profissionais estão sendo modificadas pela automação e pela inteligência artificial.
Autonomia dos sistemas: também é uma realidade em desenvolvimento. Agentes de IA já conseguem executar sequências de tarefas com diferentes níveis de supervisão.
Superinteligência fora de controle: ainda é um cenário hipotético, mas considerado suficientemente importante para motivar pesquisas, debates e propostas de regulamentação.
O maior erro seria acreditar que toda inteligência artificial representa uma ameaça ou, no extremo oposto, imaginar que não existe nenhum risco associado ao seu desenvolvimento.
A tecnologia pode trazer avanços extraordinários para a medicina, ciência, educação, engenharia e segurança. Mas seu desenvolvimento precisa acompanhar a evolução dos mecanismos de proteção.
Estamos preparados para o que vem pela frente?
Talvez essa seja a pergunta mais importante.
A humanidade já desenvolveu tecnologias capazes de transformar completamente a sociedade. A internet, a energia nuclear e a engenharia genética são alguns exemplos.
A inteligência artificial, entretanto, apresenta uma característica particular: estamos desenvolvendo sistemas capazes de participar ativamente da criação de novas tecnologias e da execução de decisões complexas.
Isso exige uma discussão que não pode ficar restrita aos laboratórios do Vale do Silício.
Governos, pesquisadores, empresas e a sociedade precisam participar das decisões sobre os limites e as responsabilidades envolvidos no desenvolvimento dessa tecnologia.
O alerta de Jacob Coxon não significa que a humanidade esteja prestes a ser dominada por máquinas. Significa que existem pesquisadores diretamente envolvidos nesse desenvolvimento que consideram os riscos sérios o suficiente para questionar a direção da própria indústria.
A inteligência artificial pode ser uma das maiores conquistas da humanidade. Mas precisamos garantir que o desenvolvimento dessa tecnologia continue servindo aos seres humanos, e não o contrário.
O que você pensa sobre isso?
Estamos diante de uma revolução tecnológica que vai melhorar a vida de todos ou estamos avançando mais rápido do que nossa capacidade de controlar as consequências?
Deixe sua opinião nos comentários.
