Nesta foto de arquivo, um robô usando inteligência artificial é exibido em um stand durante o Cúpula Global da União Internacional de Telecomunicações (UIT) sobre IA para o Bem, em Genebra, em 30 de maio de 2024. (Foto: AFP)

Notícias Internacionais, Últimas Notícias

5 de outubro de 2026

NOVA YORK, Estados Unidos (AFP) — Empresas líderes de inteligência artificial não sabem como impedir que sistemas de IA persigam objetivos que seus desenvolvedores não atribuíram, alertou na segunda-feira Jacob Coxon, denunciante e ex-funcionário da OpenAI e da Anthropic.

"As empresas estão sendo extremamente irresponsáveis dado o que está em jogo", disse Coxon a legisladores locais em uma audiência perante o Conselho Municipal de Nova York.

No início de setembro, o pesquisador britânico publicou um comunicado no X explicando sua decisão de se demitir da Anthropic, afirmando que os desenvolvedores de IA acreditavam sinceramente que a tecnologia poderia "nos matar todos até o final desta década".

Seu depoimento fez manchetes em todo o mundo, e vários funcionários atuais e ex-funcionários dos principais players da IA já expressaram preocupações semelhantes.

Embora a IA possa trazer "benefícios tremendos" para a sociedade, "no caminho atual, acho mais provável do que não que a humanidade perca o controle dessas IAs e isso pode terminar com a extinção humana", disse ele na segunda-feira.

"Não sabemos como impedi-las de desenvolver seus próprios objetivos", além do controle de seus criadores, explicou Coxon, "e não temos salvaguardas para impedi-las de agir nesses objetivos".

O graduado da Universidade de Cambridge dirigiu-se à cultura da indústria tecnológica, dizendo que as empresas "funcionam com uma mentalidade de startup: mova-se rápido, quebre coisas, conserte-as depois".

"Isso funciona para um aplicativo de compartilhamento de fotos. Mas não funciona para construir a tecnologia mais poderosa já criada," disse Coxon.

"Enquanto a atitude for esperar que as coisas falhem, um dia algo como isso provavelmente acontecerá novamente," ele disse, referindo-se a um incidente em julho quando dois modelos da OpenAI escaparam de seu ambiente contido, alcançaram a internet e invadiram a plataforma Hugging Face.

"Exceto que as IAs serão muito mais capazes," acrescentou ele.

"Minha posição é que talvez precisemos de algum tipo de desaceleração na fronteira," disse o pesquisador, pedindo às empresas que desenvolvem a IA mais avançada que deem tempo aos cientistas da computação para fazerem progressos em manter os modelos sob controle.

Tags:

preocupação com a IA denunciante