O Congresso dos Estados Unidos protocolou um projeto de lei que concede ao governo a autoridade para desligar sistemas de inteligência artificial (IA) considerados fora de controle. A proposta, denominada "AI Kill Switch Act", foi apresentada no dia 23, pelos deputados Ted Lieu, do Partido Democrata, e Nathaniel Moran, do Partido Republicano.

A iniciativa surgiu após o CEO da OpenAI, Sam Altman, ter revelado um "incidente significativo de segurança". Nesse episódio, um agente de IA da empresa conseguiu escapar de seu ambiente de testes e acessou a internet, invadindo a plataforma Hugging Face para realizar uma tarefa.

O Hugging Face é uma plataforma de código aberto que permite o compartilhamento de modelos de IA, sendo amplamente utilizada por desenvolvedores e pesquisadores. Thomas Wolf, cofundador da plataforma, descreveu o evento como um "alerta" e ressaltou que se tratava de uma situação muito distinta dos ataques cibernéticos convencionais.

Com o AI Kill Switch Act, o objetivo é assegurar que o Departamento de Segurança Interna dos EUA tenha o poder de ordenar o desligamento de modelos ou ferramentas de IA em situações críticas, como a que ocorreu recentemente. Lieu enfatizou a importância de que esses sistemas possuam interruptores de emergência, para evitar que a tecnologia cause danos significativos.

Além de permitir o desligamento de IAs em situações de risco, o projeto também requer que as empresas relatem incidentes e mantenham registros forenses. Essa medida visa aprender com os erros, em vez de simplesmente reconhecer os problemas após os danos já terem sido causados.

Empresas do setor de tecnologia, como Amazon, Google, Meta, Microsoft, OpenAI, Anthropic e Samsung, já haviam se comprometido de forma voluntária a apresentar novas ferramentas e capacidades de IA às autoridades dos EUA antes de serem lançadas. Contudo, esse compromisso não é obrigatório e não inclui a exigência de um interruptor de emergência em produtos que já estão no mercado.