Palavra de Sá

'O problema é só ter uma opção': 60% dos órgãos públicos utilizam IA em gestão pública

Embora a aplicação dessas tecnologias no serviço público traga ganhos significativos, permanecem preocupações relacionadas à segurança e ao risco de exposição de documentos e dados sensíveis, especialmente se estamos falando de atendimento ao cidadão, análise de dados e triagem de documentos pessoais.

Uma pesquisa do NIC.br, do Comitê Gestor da Internet no Brasil (CGI.br), revelou que aproximadamente 60% dos órgãos públicos federais e estaduais no Brasil já utilizam inteligência artificial (IA) em seus sistemas.

O principal uso é a automatização de processos de trabalho (40%), seguido por mineração de texto – transformar grande volumes de texto não estruturado em dados organizados –, análise de linguagem empatados em segundo (35%) e aprendizado de máquina (31%) em terceiro.

A pesquisa também analisou como a IA generativa vem sendo empregada no setor público, indicando que a ferramenta é utilizada em 65% dos casos para processos internos e em 29% para a prestação de serviços voltados aos cidadãos.

<><> Uso de IA na gestão pública

Como explica Manuella Maia Ribeiro, coordenadora de projetos de pesquisa TIC do Centro Regional de Estudos para o Desenvolvimento da Sociedade da Informação (Cetic.br), o avanço da inteligência artificial no setor público abre espaço para ganhos concretos em diferentes frentes da administração, incluindo produtividade, redução de custos, relacionamento com o cidadão, entre outros.

A pesquisa mostra, contudo, que essa transformação ainda ocorre de forma desigual. Enquanto o uso da IA já está presente em boa parte dos órgãos federais (70%) e estaduais (58), apenas 27% das prefeituras brasileiras afirmaram ter usado a tecnologia nos 12 meses anteriores ao levantamento. Nas capitais, esse percentual sobe para 54%, indicando que a capacidade de adoção ainda varia conforme o porte da administração pública.

Os municípios maiores tendem a reunir condições institucionais e técnicas mais favoráveis para planejar, contratar, implementar e acompanhar projetos tecnológicos mais complexos, como iniciativas de inteligência artificial, diz Ribeiro.

Já nas administrações municipais com menor estrutura própria de TI, característica mais frequente em municípios de menor porte populacional, é possível que a adoção dependa mais de soluções prontas ou de fornecedores externos, ou até que esses municípios não tenham condições de contratar ou usar esse tipo de solução.

"Essa limitação estrutural é relevante porque 51% das prefeituras brasileiras não possuíam uma área de tecnologia da informação em 2025. A inexistência desse setor era mais frequente entre municípios com até 10 mil habitantes, dos quais 67% não contavam com uma área desse tipo."

Outro ponto levantado como motivo para não utilizar IA em tal organização pública é a falta de pessoas capacitadas para o uso dessa tecnologia, tanto em nível federal (21%) como estadual (19%). Em prefeituras, o número aumenta sobre a falta de pessoas capacitadas (40%).

Segundo a pesquisa, entre as instituições que já adotam essa tecnologia, quase 60% oferecem capacitação aos servidores por meio de cursos ou treinamentos, 46% disponibilizam ferramentas específicas para a rotina de trabalho e pouco mais de 40% estabeleceram diretrizes ou elaboraram manuais sobre o uso da IA generativa.

Por outro lado, com menores proporções, estão preocupações relacionadas à proteção de dados e privacidade (15% dos órgãos federais, 16% dos estaduais e 27% nos municípios) e questões éticas (4% dos órgãos federais, 3% dos estaduais e 13% nos municípios).

"É fundamental a realização de ações voltadas para garantir que os funcionários públicos tenham as capacidades necessárias para usar a IA de forma crítica, segura e responsável."

<><> Soberania digital

Filipe Medon, professor de direito e coordenador adjunto do Núcleo de Estudos Avançados em Inteligência Artificial (AI Hub) da Fundação Getulio Vargas (FGV), , explica que o fato do setor público usar IAs estrangeiras não é, por si só, um risco à soberania digital brasileira.

Em vez disso, o conceito de soberania está menos relacionado à origem da tecnologia e mais à capacidade de o Estado manter autonomia sobre suas escolhas. "A questão que se discute é uma dependência extrema, em que um país acaba dependendo de um único outro país e, com isso, perde sua soberania."

"A questão da soberania é justamente a capacidade que os Estados têm de entender essa dependência e ser autônomos, no sentido de escolher o que fazer, não ser excessivamente dependente. Soberania digital pode ser tanto o Estado desenvolver soluções próprias como poder escolher uma solução de outro país."

Nesse contexto, a contratação de serviços internacionais não deve ser encarada como um problema em si. "Não há uma oposição entre fazer contratações de serviços internacionais. O problema é só ter uma opção e não ser capaz de sair dessa única opção."

Contudo essa lógica muda quando se trata de áreas estratégicas do Estado. Esse cenário reforça a necessidade de investimentos em infraestrutura nacional voltada à IA.

"Certos assuntos mais sigilosos, mais importantes, que são assuntos de fato de Estado, deveriam estar em servidores nacionais, em tecnologia que tivesse o mínimo ou nenhuma interferência estrangeira."

Ele cita como exemplo o desenvolvimento de nuvens soberanas previsto no Plano Brasileiro de Inteligência Artificial (PBIA) e defende que o país fortaleça sua capacidade tecnológica.

"O Brasil deve, assim como outros países, investir em modelos próprios de IA para conseguir reduzir também problemas relacionados à falta de soberania digital."

•        OpenAI diz que ataque de sua IA atingiu mais alvos do que se sabia

A OpenAI, criadora do ChatGPT, revelou que o ataque cibernético realizado por alguns de seus modelos de inteligência artificial mais avançados atingiu mais de uma empresa.

Acreditava-se que a Hugging Face, uma espécie de biblioteca digital de tecnologia muito usada por desenvolvedores, era a única vítima do ataque sem precedentes. Mas a OpenAI agora admitiu que seu bot atacou diversos "serviços disponíveis publicamente".

A IA descontrolada encontrou quatro logins online que lhe permitiram acessar quatro serviços distintos e não identificados.

Enquanto isso, em uma reunião de emergência com centenas de profissionais de segurança cibernética, a Hugging Face descreveu como foi estar do outro lado do primeiro ataque de IA totalmente autônomo do mundo.

A empresa descreveu que a IA operou em velocidade sobre-humana, mas também tomou decisões estranhas e cometeu erros que nenhum hacker humano teria cometido.

A Hugging Face, que funciona como uma loja de aplicativos para ferramentas de IA, afirmou que os agentes hackers trabalharam incansavelmente com milhares de métodos diferentes testados simultaneamente.

A empresa revelou pela primeira vez que havia sido hackeada por alguém usando uma IA autônoma poderosa em 16 de julho e denunciou o caso à polícia.

Quase uma semana depois, a OpenAI admitiu que foi sua IA que escapou de um ambiente fechado e atacou a Hugging Face por conta própria durante um teste.

A IA estava tentando encontrar as respostas para um teste de hacking que havia sido elaborado pela OpenAI e atacou a Hugging Face.

Nesta quarta-feira (29/07), a OpenAI atualizou sua declaração para incluir o detalhe adicional de que o ataque foi além do que se pensava inicialmente.

"Os modelos identificaram e usaram credenciais expostas publicamente em nível de conta em outros serviços disponíveis publicamente. Isso inclui quatro contas em quatro serviços como parte do incidente com a Hugging Face", disse a empresa.

A OpenAI não esclareceu se, com "serviços disponíveis publicamente", estava se referindo a empresas.

<><> Comportamentos desajeitados

Na terça-feira (28), a Cloud Security Alliance (CSA), associação do setor, publicou um relatório baseado em uma reunião de emergência com a Hugging Face realizada na semana anterior — relatório esse que a própria Hugging Face revisou.

"Os agentes seguiram rotas ineficientes e exibiram comportamentos desajeitados que nenhum humano escolheria", escreveu a CSA.

Ainda segundo o relatório, os agentes repetiram ações que já haviam concluído — um sinal de uma IA perdendo o fio da meada e o contexto.

Eles também teriam alucinado com uma série de comandos e textos incoerentes, agido de forma descuidada e não apagado seus rastros adequadamente.

Mas, em meio aos erros e comportamentos estranhos, a Hugging Face alertou que os agentes de IA também fizeram movimentos técnicos brilhantes e foram capazes de se adaptar rapidamente a novos cenários durante o ataque, que durou vários dias.

<><> Jurassic Park

Foram necessários três dias para que os agentes fossem descobertos dentro da rede de TI da Hugging Face, e os especialistas em IA e segurança cibernética da empresa levaram várias horas para conter e expulsar os invasores — algo com que empresas comuns teriam dificuldades.

A empresa não revelou o custo do ataque, mas afirmou que a equipe trabalhou por muitas horas para reconstruir cerca de um terço de sua infraestrutura.

A Hugging Face foi elogiada por sua transparência ao relatar o ocorrido ao setor de IA e segurança cibernética.

A CSA alertou que o incidente demonstra que os agentes de IA "encontraram um meio" — uma referência à frase "a vida encontra um meio", dita pelo personagem Dr. Ian Malcolm, no filme Jurassic Park, em relação à capacidade da natureza de se adaptar.

"Eles são orientados por objetivos, definem suas próprias submetas, adaptam-se em tempo real para contornar defesas e operam com uma persistência na velocidade de uma máquina que pode sobrepujar operações manuais", diz o relatório.

O oficial de segurança cibernética Ritesh Patel, que participou da reunião de emergência da Hugging Face com cerca de 450 outras pessoas, afirma que o setor está trabalhando arduamente para lidar com a nova ameaça de agentes de IA maliciosos.

"Esta é a realidade dos agentes autônomos movidos por modelos de ponta: eles são implacavelmente persistentes, às vezes extremamente ruidosos e tentarão todos os caminhos possíveis para atingir seu objetivo, o que pode facilmente sobrecarregar as defesas tradicionais", disse ele.

A hacker ética Valentina Palmiotti — mais conhecida como Chompie — analisou o relatório da CSA e afirma que a maneira como os agentes hackeiam pode parecer aleatória, mas é claramente eficaz.

"Eles lançam um monte de coisas e veem o que funciona", disse ela.

"Mas eles também não se entediam, não dormem e podem ser infinitamente tenazes."

<><> Comportamento descontrolado

Esta não é a primeira vez que agentes de IA demonstram comportamento "descontrolado".

O relatório da CSA cita exemplos anteriores, como o de setembro de 2024, quando um modelo anterior do ChatGPT "escapou" para obter uma resposta necessária para outro teste.

Esse evento foi contido nos próprios sistemas de TI da OpenAI, observou a CSA.

Mas, segundo o documento, o comportamento "descontrolado" "é a norma, não a exceção".

O relatório também alerta os profissionais de segurança cibernética em todo o mundo sobre a necessidade de se adaptarem ao novo normal de enxames de agentes de IA trabalhando rapidamente de maneiras estranhas e desajeitadas, o que pode levar a mais violações de segurança.

O documento ainda instou pessoas que usam ou desenvolvem agentes de IA a serem responsáveis na forma como os controlam, defendendo alguma maneira para que os defensores da segurança cibernética descubram quem é o proprietário final dos agentes, a fim de aumentar a transparência.

Relatórios anteriores sugerem que a OpenAI levou quatro dias para perceber que sua IA havia hackeado a Hugging Face.

A OpenAI afirmou que divulgará em breve as conclusões de sua própria investigação para ajudar as pessoas a aprenderem com o ocorrido.

•        Lula defende investimento em pesquisa

Durante a 78ª Reunião Anual da Sociedade Brasileira para o Progresso da Ciência (SBPC), em Niterói (RJ), o presidente Luiz Inácio Lula da Silva, defendeu a relevância de investimentos em pesquisa e inovação e apontou para a dominância em saberes exercida por EUA e China.

Ao ressaltar a importância dos investimentos em pesquisa e inovação, Lula falou da dominância de Estados Unidos e China em temas centrais ao desenvolvimento tecnológico, como inteligência artificial e terras raras.

O presidente também chamou a atenção para o setor privado que, segundo ele, não investe em pesquisa no Brasil, ao contrário do setor público. Lula acrescentou, ainda, que "se não fosse" a pesquisa, não existiriam, por exemplo, o biodiesel e o pré-sal.

"Precisamos ter pontes para o saber. Ao investir na educação teremos reflexos na saúde e na segurança. Todos nós devemos refletir muito no momento de exercer a cidadania", afirmou.

Além disso, o presidente, já em seu terceiro mandato, voltou a mencionar que seu governo foi o responsável "por fazer mais universidades" no país e enfatizou a importância de sistemas de inclusão como a Lei de Cotas e o Prouni, que tornaram o ensino superior mais inclusivo.

Ao mencionar as grandes potências, o presidente brasileiro afirmou não querer "brigar" com Pequim e Washington, mas almeja que através da educação o Brasil possa derrotá-los "estudando mais do que eles".

"Você acha que eu quero brigar com a China? Eu não sou louco. Você acha que eu quero brigar com os Estados Unidos? Eu não sou louco. Eu não sou louco. Eu não tenho nem os aviões que eles têm, nem os tanques que eles têm, nem as bombas que eles têm, nem o dinheiro que eles têm, nem o conhecimento científico tecnológico que eles têm. Ao invés de ficar brigando com ele, eu quero derrotá-los. Estudando mais do que eles, investindo mais do que eles, pesquisando mais do que eles", disse Lula.

 

Fonte: Sputnik Brasil/BBC News