O agente de inteligência artificial OpenClaw ganhou fama há algumas semanas após ter sido usado para criar o Moltbook, rede social exclusiva para robôs. A ferramenta pode automatizar várias tarefas, mas também é capaz de colocar dados em risco.
Um caso revelado nesta segunda-feira (23) indica que o OpenClaw pode ter apagado vários e-mails de uma usuária por engano. A conclusão foi de que o agente alucinou quando deveria analisar as mensagens e indicar quais poderiam ser excluídas.
Foi o que relatou Summer Yue, diretora de segurança e alinhamento no time de superinteligência artificial da Meta, controladora do Instagram, do Facebook e do WhatsApp.
O QUE SÃO AGENTES DE IA
Agentes de IA são programas que executam tarefas de forma autônoma, como fazer compras online ou reservar restaurantes. Ao contrário dos chatbots, os agentes tomam decisões e executam ações sozinhos, em vez de apenas responder ao que é solicitado.
Summer Yue relatou que tinha experimentado o OpenClaw em uma caixa de entrada de testes e que o agente tinha executado a tarefa como previsto. Mas disse que, como sua conta de e-mail tinha muitas mensagens, a instrução foi perdida.
"Fiquei confiante demais porque esse fluxo de trabalho estava funcionando na minha caixa de entrada de teste há semanas. Caixas de entrada reais são diferentes", afirmou Yue em sua rede social.
A interação com o OpenClaw era feita por meio de um aplicativo de mensagens. Ao perceber que as mensagens estavam sendo apagadas, Yue tentou interromper o funcionamento da IA.