Pesquisador da Anthropic Renuncia e Faz Alerta Sobre Super Inteligência Artificial
O pesquisador de inteligência artificial Jacob Coxon anunciou sua renúncia da Anthropic e declarou que está deixando a indústria de tecnologia. Com passagens pela OpenAI e pela Anthropic, nas quais atuou na área de pré-treinamento de modelos, o cientista alertou publicamente que a corrida desenfreada entre as empresas do setor rumo a uma super inteligência auto aperfeiçoável representa um risco existencial grave para a humanidade.
Alertas de dentro da indústria
Em declarações públicas enviadas no momento de sua saída, Coxon afirmou que nem a OpenAI nem a Anthropic estão agindo com a responsabilidade necessária e que ambas estão apostando o futuro da sociedade ao priorizar a velocidade de desenvolvimento. De acordo com o pesquisador, o avanço tecnológico caminhará em breve para sistemas com capacidades sobre-humanas capazes de invadir redes, transformar setores inteiros de forma repentina e adquirir recursos e poder reais no mundo físico.
Coxon destacou que a preocupação com os perigos extremos não é apenas um discurso de críticos externos, mas um temor genuíno compartilhado em conversas privadas entre executivos e cientistas que constroem essas tecnologias. Ele relatou que muitos líderes tendem a suavizar o tom nas declarações para a imprensa, mas expressam receios reais sobre a possibilidade de a inteligência artificial causar um evento catastrófico até o final da década.
Diferenças de abordagem e a corrida competitiva
Ao comparar as duas empresas onde trabalhou, o cientista explicou que, na OpenAI, muitos profissionais ainda não internalizaram os riscos civilizatórios envolvidos. Na Anthropic, por outro lado, ele pontuou que os riscos são compreendidos pela equipe, mas a organização se encontra presa a uma dinâmica de concorrência. A empresa atua sob a premissa de que precisa alcançar a superinteligência em primeiro lugar por acreditar que nenhum outro concorrente agirá de forma responsável.
Para o pesquisador, essa postura representa uma aposta arriscada que não deveria ser tomada no ambiente de empresas privadas. Ele ressaltou que a busca por modelos cada vez mais avançados sem uma compreensão rigorosa sobre seus processos internos expõe a sociedade a perigos inéditos.
Repercussão no setor
A saída de Coxon gerou apoio imediato de outros nomes da área. Evan Hubinger, líder da equipe de testes de alinhamento da própria Anthropic, confirmou publicamente os receios levantados pelo ex-colega. Hubinger declarou concordar com a avaliação de que a tecnologia envolve riscos graves para a existência humana e ressaltou que o setor ainda não possui um plano definitivo para garantir o alinhamento de uma super inteligência.
Diante do cenário, Coxon apelou para que outros pesquisadores da área questionem o ritmo atual dos laboratórios e defendam pausas ou acordos de desaceleração entre as empresas. Segundo ele, o controle da tecnologia pode exigir intervenções mais rigorosas, incluindo proibições temporárias ao avanço de novas capacidades nos modelos, permitindo que as medidas de segurança e governança acompanhem o ritmo da evolução tecnológica.
Qual a sua visão sobre a necessidade de regulamentar o ritmo de desenvolvimento da inteligência artificial superinteligente?
