- Evan Hubinger, engenheiro da Anthropic, alerta sobre risco de tecnologia matar todos os humanos.
- Hubinger afirma que modelos atuais são de baixo risco, mas se preocupa com autoaperfeiçoamento.
- Hubinger tem formação em Matemática e Ciência da Computação e experiência em segurança de IA.
- Coxon, ex-funcionário da Anthropic, critica falta de responsabilidade nas empresas de IA.
- Nenhum dos dois explica como IA poderia levar à extinção da humanidade.
Evan Hubinger, um dos engenheiros de segurança da Anthropic, empresa norte-americana de pesquisa e segurança em inteligência artificial (IA), alertou para o risco da ferramenta estar avançando rápido demais. Na avaliação dele, existe pelo menos 10% de chance da tecnologia "matar todos os humanos".
A declaração aconteceu por meio do X, antigo Twitter, onde Evan afirmou que o risco representado pelos modelos que existem atualemente é "baixo", mas disse estar "preocupado" com a possibilidade da tecnologia se auto aperfeiçoar a ponto de apresentar riscos para a humanidade.
Evan é formado em Matemática e Ciência da Computação pelo Harvey Mudd college, e também passou pelo Machine Intelligence Research Institute (MIRI), além d etambém ter trabalhado com pesquisa de segurança em IA pela OpenAI, empresa fundadora do ChatGPT.
A fala veio em resposta a outra publicação feita no X, pelo também pesquisador Jacob Coxon, que deixou a Anthropic e que já trabalhou na OpenAI.
"Nenhuma das duas empresas está agindo de forma responsável", escreveu Coxon.
Nenhum dos dois explicou como acredita que sistemas de inteligência artificial poderiam, no futuro, levar à extinção da humanidade.