Um ex-pesquisador da OpenAI e Anthropic acaba de soltar uma bomba: a inteligência artificial pode evoluir para um nível de autoaperfeiçoamento que escape do controle humano nos próximos 1 ou 2 anos. E o pior? Ninguém está preparado para isso.
Jacob Coxon deixou a Anthropic após três anos e não poupou críticas à corrida desenfreada entre gigantes de IA. Em entrevista à CNN e WIRED, ele foi direto: o próximo ano ou dois podem ser a “hora decisiva para a humanidade”. Não é dramatização — é um aviso de quem trabalhou dentro do sistema.
O grande medo? O autoaperfeiçoamento recursivo. Imagine um sistema de IA que consegue criar versões melhores de si mesmo, cada vez mais rápido, sem parar. Coxon explica: “Se você projetar isso para o futuro, considerando o nível de capacidade dessas IAs com essa mesma autonomia, elas poderiam causar um caos extremo”. E tem mais: “Há uma possibilidade muito real de que, no próximo ano, aconteça o autoaperfeiçoamento recursivo e entremos na fase em que existe a possibilidade de todos nós morrermos”.
A questão que tira o sono de Coxon não é só a tecnologia em si, mas a competição entre empresas. OpenAI, Anthropic e outros laboratórios estão em uma corrida maluca para chegar primeiro à superinteligência. E quando há competição, há pressão. Quando há pressão, há risco. “Eles se encontram em uma situação em que são obrigados a correr para construir uma tecnologia potencialmente mortal”, disparou.
Mas aqui está o plot twist: o cientista-chefe da OpenAI, Jakub Pachocki, também entrou na conversa e confirmou os piores medos. Ele afirmou que pesquisas internas indicam que o ritmo atual pode levar a um cenário de autoaperfeiçoamento recursivo nos “próximos anos”. E tem mais: “Veremos máquinas significativamente mais inteligentes do que nós durante nossa vida, e já vislumbramos a forma desses sistemas”.
Pachocki contou que começou a se preocupar com isso em 2023, durante um projeto chamado RLSlow. Ele e outro pesquisador passaram a noite no escritório, não celebrando os avanços, mas processando o fato de que “realmente veremos máquinas significativamente mais inteligentes que nós durante nossas vidas”.
A diferença entre os dois é que Pachocki não quer parar tudo — ele defende um equilíbrio entre desenvolvimento e segurança. Mas o recado é claro: “Precisamos encontrar maneiras de preservar a agência humana e garantir que os seres humanos permaneçam no controle do futuro”.
Para Coxon, a solução passa por uma desaceleração coordenada entre empresas e governos, com mecanismos internacionais que estabeleçam limites. Porque deixar uma empresa sozinha decidir desacelerar enquanto os concorrentes avançam? Não funciona. É como pedir para um corredor parar enquanto os outros continuam na pista.
Destaques do Conhecimento
- Jacob Coxon, ex-pesquisador da OpenAI e Anthropic, alerta que o autoaperfeiçoamento recursivo de IA pode acontecer nos próximos 1 ou 2 anos
- O cientista-chefe da OpenAI, Jakub Pachocki, confirmou que pesquisas internas indicam a possibilidade de máquinas mais inteligentes que humanos em breve
- A corrida competitiva entre empresas de IA pressiona por desenvolvimento mais rápido, aumentando os riscos de segurança
- Coxon defende uma desaceleração coordenada entre empresas e governos com mecanismos internacionais de controle
- Pachocki propõe um equilíbrio entre avanço tecnológico e pesquisa de segurança, mantendo humanos no controle
Fonte original: Hugo Gloss | Adaptação: Equipe Perus Online
