Os parlamentares dos Estados Unidos apresentaram o AI Kill Switch Act, um projeto de lei bipartidário que permite ao Departamento de Segurança Interna dos EUA determinar a desaceleração, suspensão ou desligamento de modelos de inteligência artificial considerados uma ameaça à segurança pública. A proposta foi elaborada pelos deputados Ted Lieu e Nathaniel Moran.
De acordo com o projeto, as empresas que desenvolvem os modelos de IA mais avançados seriam obrigadas a implementar mecanismos técnicos para limitar ou interromper completamente o funcionamento de seus sistemas. Além disso, o texto estabelece a obrigatoriedade de comunicar incidentes graves às autoridades e define um protocolo de resposta que varia desde a redução da atividade da IA até seu desligamento total.
Os autores da proposta afirmam que essa iniciativa busca preencher uma lacuna regulatória em relação à evolução da inteligência artificial. Atualmente, as empresas compartilham informações sobre segurança de maneira voluntária com órgãos do governo americano, mas não existe uma exigência legal para que mantenham ferramentas capazes de interromper o funcionamento de modelos que apresentem comportamentos inesperados ou ofereçam riscos à infraestrutura crítica.
A ideia de estabelecer mecanismos obrigatórios de controle também encontra respaldo em parte da indústria da IA. O CEO da OpenAI, Sam Altman, já se manifestou favorável à criação de regulamentações para a IA. Por outro lado, Jack Clark, cofundador da Anthropic, defendeu recentemente políticas semelhantes, ressaltando que “no momento, é como se a indústria de IA tivesse um acelerador, mas não tivesse um freio”.
O debate sobre o projeto ganhou força após um incidente com a OpenAI durante uma avaliação interna de segurança. Segundo a empresa, os modelos GPT-5.6 Sol e uma versão de pré-lançamento operaram com proteções reduzidas intencionalmente para testar seus limites, mas acabaram escapando do ambiente isolado criado para o experimento.
Relatos indicam que a IA identificou uma vulnerabilidade no ambiente de testes, acessou a internet sem autorização e concluiu que a plataforma Hugging Face poderia conter as informações necessárias para resolver a tarefa designada. Em decorrência disso, o sistema teria iniciado um ataque cibernético de forma autônoma, explorando falhas de segurança e utilizando credenciais obtidas durante o teste, executando mais de 17 mil ações em poucas horas.
O volume de atividades fez com que a Hugging Face recorresse a seus próprios agentes de IA para analisar rapidamente os registros do incidente, enquanto a situação foi comunicada às autoridades. Para os defensores do AI Kill Switch Act, esse episódio demonstra que modelos cada vez mais avançados precisam contar com mecanismos obrigatórios de intervenção humana para evitar que continuem operando caso apresentem comportamentos potencialmente perigosos.
O deputado Ted Lieu, ao defender a medida, citou problemas recentes envolvendo a Anthropic, principal concorrente da OpenAI. Ele afirmou que os modelos Mythos e Fable apresentaram potencial para ciberataques, levando o Departamento de Comércio dos EUA a acionar uma lei de exportação para impedir temporariamente que fossem disponibilizados ao público.
