O AI Watchdog: quem decide quando um agente autônomo deve parar?
À medida que agentes autônomos de IA passam a executar longas sequências de ações com pouca supervisão humana, a ideia tradicional de um simples “botão de emergência” deixa de ser suficiente. Este artigo propõe o AI Watchdog como uma arquitetura de segurança mais ampla, baseada em heartbeats, monitoramento independente, autorização zero trust, ephemeral credentials, sandboxing, rate limiting, salvaguardas transacionais, graceful degradation e supervisão humana. A distinção central é que liveness não implica correctness, e correctness não implica alignment: um sistema de IA pode continuar plenamente operacional e, ainda assim, agir de forma incompatível com a intenção humana. O artigo defende que um controle robusto deve seguir três princípios: a autoridade deve expirar, a supervisão deve permanecer independente e a incerteza deve reduzir a autonomia. Em vez de depender de um único botão de emergência, sistemas autônomos seguros devem ser projetados para que seu poder seja continuamente limitado, monitorado e progressivamente reduzido sempre que uma supervisão confiável deixar de poder ser garantida.
