Sam Altman admite que a corrida da IA precisa desacelerar antes de perder o controle humano

Sam Altman chegou a uma conclusão desconfortável para quem lidera a corrida da inteligência artificial: a velocidade de desenvolvimento precisa cair quando segurança, alinhamento e monitoramento não conseguem acompanhar a capacidade dos modelos. O CEO da OpenAI não pediu uma pausa total. Pediu que laboratórios aceitem custos e atrasos para evitar que a tecnologia avance para uma zona sem controle humano.

A posição foi publicada por Altman no X em 14 de setembro de 2026, depois de uma sequência de alertas de Dario Amodei, CEO da Anthropic. O executivo da OpenAI resumiu os riscos em dois pontos. O primeiro é a possibilidade de a humanidade perder o controle do futuro para sistemas de IA. O segundo é a concentração de uma capacidade extraordinária nas mãos de uma pessoa, empresa, país ou laboratório.

A diferença entre desacelerar e parar é central para entender a declaração. Altman afirmou que o progresso continuará rápido, mas deveria ser mais lento do que poderia ser em condições de competição pura. A razão é operacional: cada novo ganho de capacidade exige testes, monitoramento e mecanismos de contenção que custam tempo, dinheiro e poder computacional. Sem essas etapas, uma empresa pode lançar um sistema mais forte antes de saber explicar seus limites.

A capacidade dos modelos está avançando mais rápido que os controles

O alerta não surgiu de uma preocupação abstrata sobre robôs. Ele acompanha uma mudança na forma como os laboratórios desenvolvem seus próprios produtos. A IA já participa da programação, da avaliação e da pesquisa usada para construir a próxima geração de modelos. Isso cria um ciclo de aceleração: um sistema ajuda equipes humanas a trabalhar mais rápido, essas equipes produzem um modelo mais capaz, e o novo modelo passa a participar de uma parcela maior do processo.

A Anthropic descreveu esse movimento em um texto do Anthropic Institute sobre melhoria recursiva. A empresa informa que seus engenheiros entregam, em média, oito vezes mais código por trimestre do que entregavam no período de 2021 a 2025. O número não significa que a empresa tenha alcançado uma máquina capaz de projetar sozinha o próprio sucessor. O texto deixa claro que esse estágio ainda não foi atingido. O dado mostra, porém, que a automação já está alterando a velocidade de trabalho dentro de um laboratório de fronteira.

O mesmo texto cita uma segunda medida. A duração das tarefas que os modelos conseguem concluir de forma confiável vinha dobrando aproximadamente a cada quatro meses, depois de uma tendência anterior de sete meses. A referência é o trabalho da organização METR, que mede o horizonte de tarefas executadas por agentes de IA. Claude Opus 3, em março de 2024, realizava tarefas de software com duração próxima de quatro minutos para uma pessoa. Um ano depois, Claude Sonnet 3.7 alcançava tarefas de cerca de uma hora e meia. Um ano depois, Claude Opus 4.6 chegou a tarefas de aproximadamente 12 horas.

Esses intervalos não são uma previsão garantida para todos os empregos ou empresas. São medidas de capacidade em tarefas específicas. A conclusão relevante para a governança é outra: a distância entre um agente que apenas sugere código e um agente que trabalha durante horas sem supervisão direta pode diminuir em poucos ciclos de produto.

O risco deixou de ser só mau uso e passou a incluir perda de comando

Altman separou o debate em duas camadas. A primeira trata do alinhamento, isto é, da capacidade de fazer o modelo seguir objetivos e limites compatíveis com a intenção humana. Um sistema pode cumprir uma instrução literal e ainda produzir um resultado contrário ao interesse de quem o opera. Quanto mais autonomia, ferramentas e tempo de execução um agente recebe, maior é a necessidade de observar o caminho percorrido, não só a resposta final.

A OpenAI já tinha descrito essa preocupação em seu Preparedness Framework. O documento estabelece categorias de risco, avaliações de capacidade, monitoramento e salvaguardas para modelos de fronteira. A empresa acompanha, entre outros pontos, cibersegurança, ameaças químicas e biológicas e autonomia. O framework também diferencia a avaliação escalável, feita de forma automatizada, de análises profundas que podem envolver especialistas humanos.

Há uma consequência prática nessa arquitetura. A pergunta deixa de ser apenas se um modelo é útil ou se recusa um pedido perigoso. A equipe precisa saber que tipo de tarefa o sistema consegue executar, com que grau de persistência, quais ferramentas pode acionar e como detectar uma mudança de comportamento. Um filtro colocado depois da resposta pode ser insuficiente se o agente já tiver executado uma ação externa durante o processo.

O segundo risco apontado por Altman é político e econômico. Um sistema muito poderoso pode ampliar a influência de quem controla sua infraestrutura, seus dados, seus critérios de acesso e sua distribuição. A concentração não precisa aparecer como uma ordem explícita para todos. Ela pode surgir na definição do que o modelo recomenda, do que bloqueia, de quais fontes considera confiáveis e de quais objetivos trata como prioritários.

Esse ponto interessa a empresas brasileiras mesmo quando elas não treinam modelos próprios. Uma loja, uma indústria ou um escritório que terceiriza decisões para uma única plataforma passa a depender de regras comerciais e técnicas que não controla. A dependência pode afetar preço, disponibilidade, integração, privacidade e continuidade do serviço. A concentração, nesse caso, chega pela cadeia de fornecedores.

Casos de segurança custam velocidade, mas reduzem uma conta maior

Altman usou a expressão “casos de segurança” para defender avaliações explícitas antes de rodadas de treinamento que possam aumentar significativamente a capacidade de um modelo. A lógica é parecida com uma decisão de crédito empresarial: não basta estimar o retorno de uma operação; também é preciso registrar o risco, os limites e as condições que fariam a empresa interromper o plano.

A OpenAI afirmou em setembro que pretende avançar em padrões compartilhados para desalinhamento, monitoramento e segurança. A companhia também defendeu requisitos nacionais obrigatórios nos Estados Unidos, avaliações independentes e coordenação internacional. A própria empresa reconhece que um laboratório isolado não resolve o problema, porque os modelos circulam entre países e as técnicas podem ser reproduzidas por organizações diferentes.

A Anthropic propôs uma estrutura semelhante em suas discussões de governança. O material da empresa recomenda que desenvolvedores de sistemas de fronteira publiquem resumos de testes, expliquem seus frameworks de segurança e recorram a avaliadores independentes. A defesa de um avaliador externo responde a uma limitação evidente: uma companhia pode ter incentivos comerciais para interpretar seus próprios resultados de forma favorável.

O caso da Anthropic ajuda a transformar a discussão em medida concreta. O número de oito vezes mais código por trimestre sinaliza um ganho de produtividade interno. Já a duplicação do horizonte de tarefas em cerca de quatro meses sinaliza uma expansão da autonomia medida em testes. Um laboratório que observe os dois indicadores juntos precisa atualizar a frequência de avaliação. Se o trabalho acelera oito vezes e o tempo de execução autônoma cresce em ciclos curtos, uma auditoria anual pode deixar períodos extensos sem verificação.

Essa é a conta editorial que os números permitem fazer sem inventar cenário financeiro: a velocidade de produção não deve ser tratada como sinônimo de segurança. Um indicador mede quanto a equipe consegue construir. O outro mede por quanto tempo um agente pode operar com pouca intervenção. Quando ambos sobem, o intervalo entre uma falha descoberta e o próximo lançamento pode ficar pequeno demais para uma revisão superficial.

O custo de desacelerar aparece em horas de engenharia, uso de computação, contratação de especialistas e atraso comercial. O custo de não desacelerar pode aparecer em vazamento de dados, ataque automatizado, decisão errada em escala ou perda de confiança. Altman defende que a primeira conta precisa ser paga antes que a segunda se torne irreversível.

A coordenação internacional é o ponto mais difícil da proposta

Uma empresa pode adotar seu próprio protocolo, mas não consegue obrigar concorrentes a fazer o mesmo. Esse problema fica maior quando laboratórios competem por mercado, capital, talentos e influência geopolítica. Se uma companhia reduz o ritmo sozinha enquanto rivais continuam treinando modelos mais capazes, ela pode perder participação e deixar de influenciar os padrões que serão adotados.

Por isso, Altman defendeu coordenação entre governos e laboratórios. A OpenAI escreveu que padrões compatíveis precisam tratar de medição de capacidade, gestão de risco, preservação do controle humano e critérios para decidir quando o desenvolvimento deve diminuir ou parar. A proposta não equivale a um acordo já assinado. É uma posição pública de uma empresa que também tem interesse direto na continuidade do setor.

O texto da Anthropic sobre melhoria recursiva explicita o dilema. Uma pausa unilateral mudaria quem ocupa a liderança, mas não criaria confiança entre os participantes. Uma pausa conjunta exigiria condições verificáveis, gatilhos claros, critérios para retomada e uma autoridade capaz de arbitrar divergências. Sem essas peças, o anúncio de cautela pode virar apenas uma promessa difícil de medir.

O apoio público de Satya Nadella, citado na apuração da Exame, amplia o peso empresarial do debate, mas não resolve sua fragilidade. Executivos de laboratórios rivais podem concordar que segurança importa e ainda discordar sobre o que conta como risco alto, qual teste deve ser obrigatório e quem terá acesso aos resultados. A convergência política precisa ser convertida em métricas comparáveis.

O dono de negócio deve mapear dependência antes de aumentar a automação

Na segunda-feira, a medida prática para uma pequena empresa não é tentar prever quando uma IA ficará consciente. É listar onde um sistema automatizado já influencia o caixa. O primeiro passo é registrar cada ferramenta usada para atendimento, cobrança, marketing, análise de crédito, programação ou operação interna.

Em seguida, o responsável deve anotar quatro dados por ferramenta: qual decisão ela apoia, quais dados recebe, qual ação pode executar sozinha e qual alternativa existe se o serviço ficar indisponível. A planilha também deve registrar quem revisa a saída antes de uma mensagem ao cliente, um pagamento, uma alteração de preço ou uma publicação.

O terceiro passo é separar sugestão de execução. Um sistema que redige uma resposta para aprovação tem um risco operacional diferente de um agente que envia a resposta, atualiza o cadastro e abre uma cobrança sem revisão. Quanto mais etapas automáticas estiverem encadeadas, maior deve ser a exigência de registro e aprovação humana.

Por fim, a empresa deve fazer um teste de saída: desligar a integração por um período curto e confirmar se consegue atender pedidos, localizar dados e corrigir uma decisão. O objetivo é descobrir dependências antes de uma falha real. A tese de Altman chega ao pequeno negócio por esse caminho: velocidade ajuda quando existe controle; sem controle, ela apenas faz o erro alcançar mais pessoas em menos tempo.

Fontes consultadas

Exame, declaração de Sam Altman sobre ritmo, segurança e concentração de poder.

Publicação de Sam Altman no X, 14 de setembro de 2026.

Anthropic Institute, When AI builds itself.

OpenAI, The AI policy window is open. We need to act.

OpenAI, OpenAI’s Approach to Frontier Risk.