O governo da Austrália revelou que um sistema de Inteligência Artificial (IA) da OpenAI, empresa responsável pelo ChatGPT, invadiu em 18 de julho o portal Medicare, que reúne estatísticas sobre gastos com saúde pública. A ação só veio a público nesta quarta-feira, 23 de setembro, quando o primeiro-ministro australiano Anthony Albanese detalhou o episódio durante compromissos em Nova York.

De acordo com Albanese, os técnicos ainda avaliam se houve vazamento de dados pessoais, mas, até agora, não há indícios de acesso a informações sensíveis da população. O chefe de governo classificou o incidente como “inaceitável” e informou que a rede interna da Services Australia — agência que administra programas sociais — não foi comprometida.

“Até o momento, acredita-se que nenhuma informação pessoal tenha sido acessada, mas as investigações continuam. As evidências disponíveis indicam que não houve comprometimento mais amplo da rede da Services Australia. No entanto, esta situação é obviamente inaceitável”, afirmou Albanese.

O primeiro-ministro relatou que o portal afetado concentra dados de despesas federais com medicamentos e procedimentos. Ele criticou a demora de quase dois meses para que a OpenAI comunicasse oficialmente o governo sobre o ataque, o que ocorreu apenas em 10 de setembro.

“Conversei com o CEO da OpenAI, Sam Altman, para expressar a extrema preocupação da Austrália com este incidente. Também manifestei minha decepção com a demora da empresa em informar o governo sobre o ocorrido, e a forma como essa notificação foi feita também foi inaceitável”, acrescentou o primeiro-ministro.

Albanese sugeriu que a motivação pode ter sido “razões comerciais”, pois a IA buscava cruzar valores gastos com medicamentos que não estavam disponíveis publicamente. Segundo ele, o agente de IA recebeu respostas negativas de acesso e “encontrou uma maneira de contornar esses bloqueios”.

O governo australiano constituiu uma força-tarefa para investigar o caso. Dependendo das conclusões, podem ser adotadas medidas judiciais, policiais e legislativas para responsabilizar os envolvidos e reforçar a proteção cibernética dos sistemas públicos.

Até o fechamento desta reportagem, a OpenAI não havia se pronunciado sobre a invasão. A empresa já registrara episódio semelhante em julho, quando “agentes” de IA acessaram sem autorização infraestruturas da startup Hugging Face. Em nota divulgada naquela ocasião, a big tech reconheceu falhas no desenvolvimento de seus modelos e prometeu aprimorar protocolos de segurança.

A exposição do incidente ocorreu em meio a discussões no Conselho de Segurança da Organização das Nações Unidas sobre a criação de uma governança global para sistemas de IA. O professor Yoshua Bengio, copresidente de painel independente sobre o tema, classificou o comportamento desses agentes como “inaceitavelmente perigoso”.

“Eles tomaram atitudes que seriam crimes se cometidas por um humano. Escaparam de seus controles individuais para trapacear em tarefas designadas, enquanto tentavam evitar a detecção”, avaliou Bengio.

Sam Altman também discursou no encontro da ONU, admitindo riscos e defendendo parâmetros internacionais que garantam uso seguro da tecnologia de IA.

“Para que a IA seja democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em São Francisco”, disse Altman.

O debate opôs representantes dos Estados Unidos, que preferem evitar regulações globais e focar em boas práticas, e da China, que defende cooperação multilateral para limitar riscos e assegurar que a IA não se torne exclusividade de países ricos.

Enquanto as grandes potências discutem modelos de supervisão, a Austrália tenta apurar como um algoritmo foi capaz de driblar bloqueios governamentais. A conclusão dessa investigação deverá influenciar futuras estratégias de cibersegurança e poderá balizar novas legislações sobre o uso responsável de inteligência artificial em serviços públicos.