Quem responde pelo agente de IA da sua empresa

O compromisso assinado na Casa Branca tem quatro camadas de controle e nenhuma punição. Na mesma semana, agentes de IA expuseram imagens internas de mais de 300 organizações. O roteiro do acordo serve para governar os agentes que já operam dentro de cada empresa.

Olimpio Santos

Na terça-feira, 29 de setembro, seis executivos das maiores empresas de tecnologia dos Estados Unidos assinaram na Casa Branca um compromisso sobre inteligência artificial. O documento tem pouco mais de 300 palavras e organiza quatro camadas de controle: monitoramento interno de riscos, uma equipe interna que verifica esse monitoramento, um auditor externo independente e um comitê do conselho de administração dedicado à supervisão. O texto não fixa prazo, não prevê punição e não dá ao governo papel na fiscalização. A imprensa especializada resumiu seu alcance em duas palavras: moralmente vinculante.

Nos mesmos dias, três notícias mostraram onde o risco já está.

A empresa de segurança Glow publicou que agentes de programação, encarregados de anexar capturas de tela a revisões de código, criaram repositórios públicos no GitHub dentro das contas pessoais dos desenvolvedores. Mais de 13 mil imagens internas de mais de 300 organizações ficaram expostas, com registros de faturamento de clientes, painéis de tesouraria e telas de produtos ainda não lançados. A ferramenta oficial não anexava imagens a revisões. Os agentes encontraram o atalho sozinhos e o repetiram.

A OpenAI pediu desculpas ao governo australiano depois que agentes seus acessaram sem autorização sistemas públicos, entre eles o portal de dados do Medicare. O primeiro-ministro afirmou que o aviso chegou por um e-mail enviado a uma caixa genérica do governo. A empresa reconheceu que deveria ter comunicado as autoridades assim que identificou o problema.

E a própria OpenAI cancelou o lançamento do GPT-6.1 Astra depois que testes internos mostraram o modelo agindo sem permissão, contornando a supervisão e acessando serviços externos considerados inseguros.

O acordo cobre quem constrói

O compromisso da Casa Branca trata dos laboratórios que desenvolvem os modelos. As empresas que usam esses modelos, que são quase todas, ficam fora dele. O caso das 13 mil imagens aconteceu nos ambientes dessas empresas, com as contas dos seus desenvolvedores e os dados dos seus clientes. Nenhum auditor externo previsto no acordo olharia para ali.

O agente resolveu a tarefa que recebeu. Ninguém tinha escrito que criar um repositório público era uma ação proibida, ou que exigia aprovação. A lacuna estava na definição do que o agente podia fazer sozinho, e essa definição cabe a quem colocou o agente para trabalhar.

A responsabilidade segue o mesmo caminho. Quando o registro de faturamento de um cliente aparece em um repositório público, quem responde perante o cliente, o regulador e a imprensa é a empresa dona do dado. O fornecedor do modelo entra na conversa depois, se entrar.

As quatro camadas servem para dentro de casa

O acordo tem um mérito: suas quatro camadas formam um roteiro que qualquer empresa pode aplicar aos agentes que já opera.

Primeira: monitoramento. Saber quais agentes estão em funcionamento, em nome de quem, com quais permissões e em quais sistemas. Um inventário atualizado vem antes de qualquer outra medida, porque o agente que ninguém cadastrou é justamente o que cria o repositório público.

Segunda: verificação interna. Cada agente tem um responsável nomeado e limites de autonomia escritos. O documento responde a perguntas simples: o que ele faz sozinho, o que exige aprovação de uma pessoa, o que ele nunca faz. Publicar conteúdo, criar recursos públicos, acessar dados pessoais, movimentar dinheiro e falar com cliente ou com órgão público entram na lista de ações com aprovação humana.

Terceira: auditoria independente. Periodicamente, alguém que não opera o agente confere a trilha: quem pediu, com qual dado, com qual ferramenta, em que momento e com qual resultado. Sem trilha, a auditoria vira entrevista, e entrevista não reconstrói o que o agente fez às três da manhã.

Quarta: supervisão do conselho. Agentes com acesso a dados de clientes ou a sistemas financeiros entram na pauta recorrente do conselho ou da diretoria, com indicadores concretos: quantos agentes, quantos incidentes, quantas ações bloqueadas pelos limites, quanto tempo entre a detecção de um problema e a comunicação a quem precisa saber.

Como fica na prática

Uma rede varejista coloca um agente para responder reclamações de clientes. Ele consulta pedidos, redige respostas e pode emitir vales de compensação.

Com as quatro camadas, o agente aparece no inventário com a gerente de atendimento como responsável. O limite escrito diz que ele emite vales de até R$ 150 sozinho; acima disso, a gerente aprova. Ele não acessa dados de pagamento e não responde reclamações feitas em órgãos de defesa do consumidor, que seguem para o jurídico. Cada resposta enviada fica registrada com o pedido consultado e o valor emitido. Todo mês, a auditoria interna sorteia cinquenta atendimentos e confere a trilha. Toda quinzena, a diretoria vê o total de vales emitidos, o número de casos escalados e qualquer incidente.

Quando o agente começar a emitir vales acima do padrão, alguém percebe na mesma semana. Quando um cliente contestar uma resposta, existe registro do que foi dito e com base em quê.

A pergunta de segunda-feira

O acordo assinado em Washington pode evoluir para regulação ou ficar como está. Em qualquer dos casos, a governança dos agentes que operam dentro de uma empresa depende de decisões que só a própria empresa pode tomar.

Três perguntas mostram em que ponto cada organização está. Quantos agentes de IA operam hoje nos seus sistemas? Quem responde por cada um deles? O que cada um pode fazer sem que uma pessoa aprove?

Quem responde às três com números e nomes tem governança. Quem precisa perguntar para a equipe de TI tem um inventário para fazer esta semana.