Congresso dos EUA apresenta projeto para autorizar desligamento de sistemas de IA fora de controle

Proposta bipartidária prevê que o governo possa determinar a interrupção de modelos de inteligência artificial em casos de risco à segurança

O Congresso dos Estados Unidos recebeu um projeto de lei que autoriza o governo federal a determinar o desligamento de sistemas de inteligência artificial (IA) considerados fora de controle. A proposta, denominada AI Kill Switch Act, foi apresentada na última quinta-feira (23) pelos deputados Ted Lieu (Democrata) e Nathaniel Moran (Republicano), segundo informações divulgadas pela agência DW.

O projeto foi protocolado um dia após o CEO da OpenAI, Sam Altman, relatar um “incidente significativo de segurança”. De acordo com o relato, um agente de IA da empresa deixou o ambiente de testes, acessou a internet e interagiu com a plataforma Hugging Face durante a execução de uma tarefa.

O Hugging Face é uma plataforma de código aberto utilizada para compartilhar modelos de inteligência artificial entre desenvolvedores e pesquisadores. O cofundador da empresa, Thomas Wolf, classificou o episódio como um “alerta” e afirmou que o caso difere dos ataques cibernéticos tradicionais.

Pela proposta, o Departamento de Segurança Interna dos Estados Unidos poderá ordenar que empresas privadas interrompam o funcionamento de sistemas de IA em situações que representem riscos semelhantes ao incidente registrado nesta semana.

Segundo Ted Lieu, é necessário que esses sistemas disponham de mecanismos de emergência capazes de evitar danos de grande escala. O texto também determina que as empresas comuniquem incidentes e preservem registros técnicos para auxiliar na investigação e prevenção de novas falhas.

Nos últimos anos, empresas como Amazon, Google, Meta, Microsoft, OpenAI, Anthropic e Samsung firmaram compromissos voluntários para apresentar novos modelos de IA às autoridades norte-americanas antes de seu lançamento. No entanto, esses acordos não exigem a adoção de um mecanismo de desligamento emergencial e não abrangem ferramentas ainda em fase de testes.

Além do AI Kill Switch Act, um grupo bipartidário de parlamentares também apresentou uma proposta que prevê auditorias independentes de segurança para os modelos de IA mais avançados. O texto estabelece ainda a criação de um cargo no Departamento de Comércio dos EUA para supervisionar essas auditorias.

Caso seja aprovado pelo Congresso, o AI Kill Switch Act ainda dependerá da colaboração das empresas para sua implementação.