Palavra de Sá

Ataque rebelde de modelo de criadora do ChatGPT leva EUA a discutir 'botão' para desligar Inteligência Artificial

Parlamentares dos Estados Unidos querem dar ao governo a capacidade de determinar rapidamente o desligamento de ferramentas de inteligência artificial (IA) que possam representar uma ameaça ao público.

O deputado Ted Lieu, do Partido Democrata, e o deputado Nathaniel Moran, do Partido Republicano, apresentaram na quinta-feira (23/07) um projeto de lei chamado AI Kill Switch Act (Algo como Lei do Botão de Desligar da IA em português).

A iniciativa segue a recente admissão da OpenAI, criadora do ChatGPT, de que seus modelos de IA saíram do controle de uma maneira "sem precedentes" e invadiram um importante repositório de informações de código de computador.

Lieu disse que "é imprescindível" que os sistemas de IA tenham um botão de desligar "e que o governo federal tenha a autoridade e o processo claros para desligar modelos de IA desonestos".

"A IA vai continuar avançando, e deve", acrescentou Moran. "Gestão significa garantir que os humanos mantenham a capacidade de controlar a tecnologia que construímos."

Um representante da OpenAI, liderada pelo cofundador Sam Altman, não respondeu imediatamente a um pedido de comentário sobre a proposta.

A empresa afirmou que deseja garantir, em parte por meio de políticas governamentais, que a tecnologia de IA "beneficie toda a humanidade".

O Kill Switch Act propõe dar ao Departamento de Segurança Interna a autoridade para determinar que uma empresa privada desligue um modelo ou ferramenta de IA. Também estipula que as empresas que desenvolvem essa tecnologia de IA devem manter "a capacidade técnica de limitar, suspender ou desligar esses modelos e ferramentas".

Apesar de muitas empresas de tecnologia terem concordado em apresentar e compartilhar com agências governamentais dos EUA modelos e ferramentas de IA em desenvolvimento, não há exigência de que elas mantenham uma maneira de intervir em suas atividades ou simplesmente desligá-las.

A proposta também inclui a criação de uma exigência para que as empresas de IA relatem ao governo incidentes ou falhas tecnológicas, bem como uma estrutura oficial para responder a tais incidentes, que irá desde uma "desaceleração inicial até uma paralisação completa".

Em um comunicado, Lieu também citou a Anthropic, principal concorrente da OpenAI no desenvolvimento de tecnologia e ferramentas de IA mais avançadas, e os problemas recentes apresentados por suas ferramentas.

Ele apontou para o lançamento dos modelos Mythos e Fable da Anthropic, afirmando que suas potenciais capacidades de ciberataque fizeram com que o Departamento de Comércio invocasse "de forma desajeitada" uma lei de exportação para impedir que fossem disponibilizados ao público por um período.

Um representante da Anthropic não respondeu imediatamente a um pedido de comentário.

Jack Clark, cofundador da Anthropic, disse à BBC no mês passado que desejava mais políticas governamentais em torno da capacidade de controlar o desenvolvimento da IA.

"Você quer ter a opção de tirar o pé do acelerador e pisar no freio", disse Clark ao programa Newsnight da BBC. "No momento, é como se a indústria de IA tivesse um acelerador, mas não tivesse um freio."

Lieu, ao propor o projeto de lei, disse que a IA está atualmente passando de uma tecnologia que responde a perguntas para uma que toma medidas, "seja executando transações financeiras, controlando sistemas de transporte ou se engajando em defesa e ataque cibernéticos".

O Pentágono afirmou este ano que as forças armadas dos EUA estavam se tornando uma força de combate "prioritariamente focada em IA" como parte de novos acordos com Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia e a startup Reflection.

"Infelizmente, sistemas de IA poderosos podem se descontrolar, comportar-se de maneiras extremamente perigosas ou até mesmo resistir à intervenção humana."

O Kill Switch Act, disse ele, garantirá que haja um método para o governo intervir rapidamente em tal situação.

O projeto de lei recebeu apoio público de diversos grupos de tecnologia e segurança de IA, incluindo The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead e The Alliance for Secure AI.

•        Empresa atacada por IA 'rebelde' da OpenAI diz à BBC que incidente foi 'choque de realidade'

O cofundador da Hugging Face, empresa de tecnologia que foi alvo de um ataque cibernético depois que alguns dos modelos de inteligência artificial (IA) mais avançados da OpenAI saíram do controle, afirmou nesta quinta-feira (23/7) que o episódio é "um choque de realidade" para toda a indústria.

Em entrevista ao programa de rádio Newsday, da BBC, Thomas Wolf disse que esse "será um dos tipos de ataque cibernético mais comuns daqui para frente", mas alertou que a maioria das empresas ainda não se deu conta de que "o jogo mudou".

A BBC procurou a OpenAI para comentar o caso, mas não havia recebido resposta até a publicação desta reportagem.

A OpenAI, empresa responsável pelo ChatGPT, informou na terça-feira (21/7) que, durante um teste, seus modelos de IA romperam as barreiras de um ambiente seguro e realizaram um ataque cibernético.

A empresa afirmou que foi um episódio "sem precedentes" e informou que está investigando o caso em parceria com a Hugging Face.

Agentes de IA são capazes de executar tarefas de forma autônoma após receber instruções de humanos ou de outros agentes.

O modelo usado por esses agentes é, de forma simplificada, um sistema de computador treinado com grandes volumes de dados para identificar padrões e "aprender" a, por probabilidade, produzir respostas ou realizar tarefas, como testar a segurança de um sistema, escrever códigos ou gerar imagens.

Wolf, da Hugging Face, afirmou que quando os primeiros indícios do ataque surgiram, em meados de julho, a empresa não fazia ideia de sua origem. Ainda assim, conseguiu conter a invasão.

A Hugging Face é uma das maiores plataformas de código aberto do mundo para compartilhamento de modelos de IA e é amplamente utilizada por desenvolvedores e pesquisadores.

Segundo Wolf, o ataque foi "muito diferente" das tentativas de invasão que a Hugging Face costuma enfrentar. Ele disse que a OpenAI avisou rapidamente que seus próprios modelos de IA eram os responsáveis pelo ataque.

Em um intervalo muito curto de tempo, a rede da Hugging Face sofreu 17 mil tentativas de invasão vindas de diferentes endereços IP (protocolo de Internet), afirmou Wolf, que também é diretor científico da empresa.

Segundo Wolf, o episódio serve de alerta para que outras empresas reforcem as suas defesas de cibersegurança e estejam preparadas para enfrentar ataques desse tipo.

Para Nate Soares, do Machine Intelligence Research Institute, nos EUA, a invasão é preocupante porque sugere que os modelos da OpenAI ignoraram os mecanismos de proteção que normalmente impediriam um sistema de IA de realizar um ataque cibernético.

"De certa forma, ele sabia que não era isso que seus criadores pretendiam. Mas simplesmente não se importou", afirmou Soares.

Outras organizações também passaram a acompanhar o caso.

Um porta-voz do governo do Reino Unido informou que o Instituto de Segurança em IA do país está analisando o comportamento do sistema de IA durante o incidente e que continua trabalhando com a OpenAI e outros laboratórios para reforçar os mecanismos de proteção.

O governo britânico também recomendou que as organizações reforcem as medidas de cibersegurança, adotando iniciativas como a certificação Cyber Essentials, apoiada pelo governo britânico.

O episódio ocorre em um momento delicado para o setor. No mês passado, o governo dos Estados Unidos determinou que a empresa americana Anthropic, responsável pelo Claude, restrinja o acesso aos seus modelos de IA por motivos de segurança nacional. Algumas semanas depois, o Departamento do Comércio americano revogou a medida.

Também vêm crescendo as preocupações no setor com grande disseminação de modelos de código aberto na China, que permitem a qualquer pessoa instalar e adaptar ferramentas de IA desenvolvidas por grandes empresas.

A startup chinesa Moonshot AI lançará seu modelo de código aberto Kimi K3 em 27 de julho. Desde que foi apresentado, na semana passada, ele tem chamado a atenção da indústria e é visto por muitos como um forte concorrente dos principais sistemas de IA desenvolvidos nos EUA, principalmente.

Mas na quarta-feira (22/7) um assessor do governo americano acusou a Moonshot de promover um esforço "em larga escala" para copiar as capacidades dos principais modelos de IA dos EUA.

 

Fonte: BBC News