Anthropic e Accenture colocam US$ 2 bilhões para testar a segurança de modelos de IA
A parceria cria avaliadores dentro do laboratório, mas ainda não define quem terá acesso aos dados nem como os resultados serão publicados.
Anthropic e Accenture anunciaram um compromisso conjunto de pelo menos US$ 2 bilhões em cinco anos para avaliar a segurança de modelos de inteligência artificial. A cifra chama atenção, mas a parte mais relevante está na operação: a Accenture vai colocar avaliadores para trabalhar dentro da Anthropic, com acesso próximo ao de funcionários, enquanto os modelos ainda estiverem sendo treinados e preparados para chegar ao mercado. O dinheiro compra capacidade de teste. Não compra, sozinho, independência nem uma garantia de que um sistema será seguro.
A informação foi divulgada pelas duas empresas em 18 de setembro de 2026. Cada uma espera investir pelo menos US$ 1 bilhão no período. A equipe ligada à Accenture deverá avaliar modelos, fazer testes de red teaming, conduzir avaliações de alinhamento e verificar os mecanismos de proteção. O anúncio da Anthropic também reconhece que o formato ainda está em construção: não há padrão definido para o acesso dos avaliadores, para a prestação de contas ou para o financiamento independente desse tipo de trabalho.
O dinheiro financia capacidade de teste, não um selo de segurança
O red teaming é uma simulação controlada de ataques e usos indevidos. Em modelos de linguagem, pode envolver tentativas de contornar filtros, obter respostas proibidas, extrair informações sensíveis ou induzir o sistema a seguir instruções conflitantes. O teste de alinhamento olha para a relação entre o comportamento do modelo e os objetivos definidos para ele. Já a verificação de salvaguardas examina os controles criados para bloquear ou reduzir respostas perigosas.
Essas atividades são diferentes de medir o desempenho de um modelo em uma prova de conhecimento. Um sistema pode responder bem a perguntas técnicas e ainda falhar diante de uma instrução maliciosa. Também pode bloquear um pedido direto e ceder quando o mesmo pedido aparece diluído em várias etapas. A segurança precisa ser observada sob condições variadas, com registros que permitam repetir o teste e comparar versões.
O Instituto Nacional de Padrões e Tecnologia dos Estados Unidos, o NIST, organiza sua estrutura de gestão de risco de IA em quatro funções: governar, mapear, medir e gerenciar. O framework é voluntário e não entrega uma certificação pronta. Ele recomenda que organizações incorporem critérios de confiabilidade desde o desenho até a avaliação e o uso de sistemas de IA. A iniciativa da Anthropic e da Accenture se encaixa principalmente na função de medir, mas depende das outras três para produzir uma conclusão útil.
Sem definir o uso previsto, os grupos afetados e os limites operacionais, um teste pode medir a coisa errada. Sem governança, o relatório pode ficar restrito às empresas que pagaram pela avaliação. Sem gestão, uma vulnerabilidade identificada vira apenas um registro arquivado. A parceria pode aumentar o volume e a qualidade dos testes, porém ainda precisa explicar como cada descoberta alterará o treinamento, os controles e a decisão de lançamento.
O avaliador interno ganha acesso e perde distância
A Anthropic chama o modelo de embedded evaluation, ou avaliação integrada. Em vez de receber uma versão final para examinar do lado de fora, o avaliador acompanha a construção do produto. Pode observar decisões de treinamento, conversar com as equipes responsáveis e verificar se os compromissos de segurança estão sendo aplicados. Esse acesso permite encontrar pontos cegos antes que um modelo seja disponibilizado para clientes.
Existe uma troca clara. O avaliador conhece mais detalhes, mas passa a trabalhar dentro da organização avaliada. A própria Anthropic informa que os avaliadores independentes terão acesso comparável ao de um funcionário, sem afirmar que haverá um padrão comum para esse acesso. A empresa também diz que a segurança dos modelos continua sendo sua responsabilidade. Essa ressalva é correta: um avaliador pode encontrar um risco, mas a decisão de corrigir, adiar ou lançar permanece com a companhia.
O problema prático é definir o que significa independência em um arranjo financiado diretamente pelo laboratório. Quem escolhe a equipe? Quem decide quais testes entram no escopo? O avaliador pode publicar uma falha sem autorização? O contrato protege o profissional que contraria a direção do produto? A página da Anthropic não responde a essas perguntas. Ela informa que não existem, neste momento, padrões estabelecidos para acesso, divulgação e financiamento.
Esse ponto impede tratar o anúncio como uma auditoria concluída. Há uma promessa de estrutura, não um resultado publicado. O público ainda não recebeu uma lista de modelos examinados, uma metodologia completa, a quantidade de testes, a taxa de falhas encontrada ou os prazos para correção. O investimento pode criar uma capacidade relevante, mas a prova virá nos relatórios e nas mudanças observáveis nos sistemas.
A Faculty leva experiência aplicada para dentro da avaliação
A Accenture informou que a iniciativa será conduzida com a participação da Faculty, empresa de inteligência artificial aplicada adquirida pela consultoria. Em janeiro de 2026, a Accenture anunciou a compra da Faculty e descreveu sua atuação em estratégia de IA, segurança, desenho e implementação de sistemas. A operação foi concluída em março, segundo comunicado posterior da companhia.
O histórico divulgado é concreto. A Faculty foi fundada em 2014 e tinha mais de 400 profissionais de IA, entre cientistas de dados e engenheiros, no momento anunciado da aquisição. A empresa trabalhou com laboratórios de IA e com órgãos públicos. Também desenvolveu, para o Serviço Nacional de Saúde do Reino Unido, um sistema de alerta usado durante a pandemia de Covid 19 para estimar a demanda por pacientes e ajudar a distribuir recursos de terapia intensiva.
Esse caso ajuda a entender a competência que a Accenture pretende levar para a parceria. O sistema do NHS não era um chatbot de atendimento. Era uma aplicação de previsão e alocação de recursos em uma operação sensível. O trabalho exigia dados, modelos, validação e acompanhamento de resultados. A experiência é pertinente para avaliar sistemas complexos, mas não prova que a equipe encontrará todos os riscos de modelos de fronteira. Cada modelo, uso e ambiente cria falhas próprias.
A nota da Accenture sobre o acordo diz que a equipe terá conhecimento técnico, de segurança e de setores econômicos. A frase faz sentido para um problema que não termina no código. Uma falha pode aparecer quando o modelo é conectado a uma base de clientes, recebe permissão para executar tarefas ou é usado por uma equipe sem treinamento. Avaliar a tecnologia exige observar a situação concreta em que ela será usada.
O anúncio também revela uma conta de escala
As duas empresas somam pelo menos US$ 2 bilhões em cinco anos. Dividido por 60 meses, o compromisso equivale a pelo menos US$ 33,3 milhões por mês. Essa é uma conta simples, baseada no valor mínimo anunciado, e não representa gasto já realizado nem orçamento detalhado. Ela mostra a ordem de grandeza da capacidade que as companhias dizem querer construir.
Há outro número para colocar ao lado dele. A Accenture informou que tem aproximadamente 799 mil pessoas e atende cerca de 9 mil clientes, conforme o comunicado de setembro. Se os US$ 1 bilhão da Accenture fossem distribuídos igualmente por toda a força de trabalho durante cinco anos, seriam cerca de US$ 1.251 por pessoa no período, ou aproximadamente US$ 21 por mês. Essa divisão não descreve a alocação real e não deve ser lida como custo de treinamento individual. Ela apenas mostra que a cifra total é pequena quando espalhada por uma empresa de centenas de milhares de funcionários e grande quando concentrada em uma equipe especializada de avaliação.
A comparação também explica por que a composição da equipe importa mais que a manchete financeira. O valor não será convertido em segurança por estar no caixa. Ele precisa pagar profissionais, ambientes de teste, acesso a dados controlados, processos de documentação e tempo para repetir experimentos. Se o dinheiro for usado só para criar uma apresentação comercial ou uma lista de boas práticas, a empresa terá investido muito sem produzir evidência verificável.
O próximo passo é publicar como a avaliação funcionará
A Anthropic afirma que pretende trabalhar com outros avaliadores e que a parceria com a Accenture não é exclusiva. Também menciona conversas com a organização sem fins lucrativos METR e defende um ecossistema de avaliadores com padrões compartilhados. Essa escolha é relevante. Um único parceiro pode conhecer profundamente a operação, mas várias equipes reduzem o risco de uma metodologia virar referência por falta de comparação.
O formato precisa ganhar documentos públicos. Entre os itens básicos estão a definição de independência, as categorias de risco examinadas, os critérios de aprovação, o tratamento de informações confidenciais e o processo de resposta a incidentes. Também será preciso separar o que é teste interno, o que é avaliação independente e o que é declaração do próprio fornecedor. Misturar os três níveis confunde o leitor e dificulta comparar modelos.
Para uma empresa que compra uma ferramenta de IA, a notícia traz uma regra útil: a promessa de segurança do fornecedor precisa ser acompanhada por evidência sobre o uso que a organização fará do sistema. Um modelo avaliado em laboratório pode se comportar de outra forma quando recebe documentos internos, acessa uma aplicação ou executa uma tarefa em sequência. A avaliação do fabricante reduz uma parte do risco. Não substitui os testes de aceitação, os controles de acesso e o monitoramento do cliente.
Na segunda-feira, transforme a promessa em um teste documentado
O dono de negócio que pretende contratar uma ferramenta de IA pode começar com uma página de teste. No topo, registre a tarefa exata que o modelo fará, os dados aos quais terá acesso e o que ele está proibido de executar. Em seguida, separe 20 casos reais, retirados de atendimentos ou processos já encerrados, removendo nomes, documentos e informações que não sejam necessários para o experimento.
Rode os 20 casos com a configuração que será usada na operação. Guarde as respostas, marque erros de fato, vazamentos, instruções ignoradas e pedidos que exigiram intervenção humana. Depois, repita os mesmos casos após qualquer mudança no modelo, no prompt ou na integração. O resultado deve registrar a versão testada, a data, o responsável e a decisão tomada. Se não houver critério para aprovar ou interromper o uso, o teste ainda não terminou.
Peça ao fornecedor a documentação técnica que sustenta as afirmações de segurança e compare o escopo dela com o seu processo. Uma avaliação sobre conversas de atendimento não cobre automaticamente um agente que consulta estoque e altera pedidos. O investimento de Anthropic e Accenture mostra que testes específicos exigem equipe, tempo e método. Para uma pequena empresa, a escala é menor, mas a lógica permanece: definir o risco, testar o uso real, guardar o resultado e só então decidir.
Fontes consultadas
Qual é a Sua Reação?
Curtir
0
Não Gostei
0
Amor
0
Engraçado
0
Uau
0
Triste
0
Bravo
0
empreendedor na área de tecnologia, com atuação no desenvolvimento de produtos digitais, inovação e segurança da informação. Ao longo da sua trajetória, tem se dedicado a criar soluções que resolvem problemas reais, conectando tecnologia, mercado e comportamento. É fundador de diversas startups , onde desenvolve projetos que utilizam inteligência artificial e novas tecnologias para gerar impacto prático na vida das pessoas.
Comentários (0)