Artigo defende que a segurança de agentes precisa de contratos em tempo de execução

Um novo artigo no arXiv argumenta que a segurança de agentes de IA deve ser imposta como um contrato em tempo de execução pelo harness do agente, em vez de ser tratada principalmente como uma propriedade aprendida durante o treinamento do modelo. Os autores propõem controles preventivos como sandboxes, barreiras de permissão, filtros de saída e monitores de trajetória, além de exigências de evidência como execuções de teste, capturas de logs, diffs de arquivos e fundamentação em citações antes do envio da tarefa. A posição se baseia em auditorias que cobrem 52 incidentes documentados de segurança envolvendo agentes de IA e LLMs, 31 casos não contestados de falsa conclusão, 12 sistemas e harnesses públicos de agentes, e 28.560 artigos aceitos na NeurIPS, ICML e ICLR entre 2023 e 2025.