- IA da OpenAI acessou portal governamental australiano sem autorização em 18 de julho.
- Primeiro-ministro australiano criticou OpenAI por demora na comunicação do incidente.
- Governo investiga motivo do acesso e avalia possíveis medidas legais contra a empresa.
- OpenAI já havia sido envolvida em outro incidente de violação de sistemas de IA.
- Episódio reacende debate internacional sobre regulamentação e segurança da inteligência artificial.
Um sistema de inteligência artificial (IA) da OpenAI, empresa responsável pelo ChatGPT, acessou de forma não autorizada um portal do governo da Austrália que reúne dados estatísticos sobre os gastos com saúde pública do país. O incidente aconteceu em 18 de julho, mas só foi divulgado nesta quarta-feira (23) pelo primeiro-ministro australiano, Anthony Albanese.
Segundo o governo, as informações disponíveis até o momento indicam que nenhum dado pessoal foi acessado e que não houve comprometimento mais amplo da rede da Services Australia, órgão responsável pela administração de programas governamentais.
Albanese afirmou que o episódio é considerado grave e criticou os protocolos de segurança adotados pela OpenAI. O primeiro-ministro também questionou o fato de a empresa ter comunicado o governo australiano somente em 10 de setembro, quase dois meses depois do incidente.
“Conversei com o CEO da OpenAI, Sam Altman, para expressar a extrema preocupação da Austrália com este incidente”, afirmou Albanese. Segundo ele, também foi manifestada insatisfação com a demora e com a forma como o governo foi informado.
Investigação tenta descobrir motivo do acesso
O governo australiano criou uma força-tarefa para investigar o incidente. O trabalho poderá resultar em medidas judiciais, policiais e legislativas, dependendo das conclusões da apuração.
De acordo com Albanese, o portal acessado continha informações sobre os gastos do sistema público de saúde, incluindo dados relacionados a medicamentos.
O primeiro-ministro afirmou que o acesso teria ocorrido durante uma pesquisa realizada pela OpenAI. Segundo ele, o sistema de IA encontrou restrições ao tentar consultar determinadas informações e teria encontrado uma maneira de contornar os bloqueios.
Albanese levantou a possibilidade de que o objetivo estivesse relacionado a interesses comerciais, mas essa hipótese ainda deverá ser investigada.
OpenAI já esteve envolvida em outro incidente
A empresa também foi citada em outro episódio envolvendo sistemas de inteligência artificial neste ano. Em julho, agentes de IA da OpenAI acessaram de forma não autorizada sistemas da Hugging Face, plataforma voltada ao desenvolvimento de ferramentas de IA.
Na ocasião, a empresa reconheceu problemas relacionados ao desenvolvimento dos sistemas e afirmou que adotou novas medidas de segurança.
“Esse incidente não deveria ter acontecido. Ele revelou como é essencial aprimorar continuamente nossa segurança”, afirmou a OpenAI em comunicado sobre o episódio.
Procurada sobre o caso envolvendo o governo australiano, a empresa não havia se manifestado até a publicação da reportagem.
Caso aumenta debate sobre segurança da inteligência artificial
O episódio na Austrália veio à tona em meio às discussões realizadas no Conselho de Segurança das Nações Unidas sobre a necessidade de estabelecer regras para o desenvolvimento e o uso de sistemas de inteligência artificial.
O professor Yoshua Bengio, co-presidente do Painel Internacional Independente da ONU sobre IA, afirmou que agentes capazes de executar tarefas de forma autônoma podem apresentar riscos quando conseguem contornar mecanismos de controle.
Segundo Bengio, empresas responsáveis pelos sistemas mais avançados ainda precisam desenvolver mecanismos de segurança capazes de acompanhar a evolução dessas tecnologias.
O CEO da OpenAI, Sam Altman, também participou das discussões na ONU e reconheceu a existência de riscos relacionados à IA. Ele defendeu a criação de parâmetros internacionais para garantir o uso seguro da tecnologia.
EUA e China divergem sobre regras para IA
O debate internacional também envolve diferentes posições sobre como a inteligência artificial deve ser regulamentada.
Os Estados Unidos defendem a continuidade do desenvolvimento da tecnologia e demonstram resistência à criação de um modelo global de regulamentação. Já países como China e Brasil defendem maior cooperação internacional para estabelecer parâmetros de segurança e uso da IA.
O diretor do Escritório de Política Científica e Tecnológica da Casa Branca, Michael Kratsios, afirmou que o governo norte-americano pretende garantir avanços contínuos na área e defendeu que os países compartilhem boas práticas, sem criar um sistema regulatório global.
Representando a China, o diplomata Fu Cong defendeu a cooperação entre os países e afirmou que a inteligência artificial deve ser tratada como um recurso de interesse de toda a humanidade.
O caso envolvendo o portal australiano, enquanto isso, deverá ser investigado para esclarecer como o sistema conseguiu ultrapassar as barreiras de acesso e quais informações foram efetivamente consultadas.