Em seu discurso anual sobre ameaças à nação, Sir Ken McCallum, chefe do serviço de inteligência do Reino Unido, MI5, alertou que a IA tinha o potencial de 'alterar as apostas' em relação às armas biológicas existentes e até mesmo novas. Aqui, analisamos como a IA pode ajudar no desenvolvimento de armas biológicas e os obstáculos que permanecem.
Como a IA poderia ajudar pessoas a fabricar armas biológicas?
Depende de quem deseja fabricá-las. Um risco é o ator mal-intencionado desqualificado ou grupo terrorista que opera em um laboratório de garagem. Chatbots de IA poderiam ajudá-los a se qualificar, compilando informações relevantes, planejando experimentos e solucionando problemas. É provável que o trabalho se concentre no uso de patógenos e toxinas existentes.
O outro risco vem de organizações bem financiadas e Estados-nação que possuem muitos cientistas qualificados, laboratórios de alto nível de contenção e todo o equipamento e reagentes necessários para trabalhar com armas biológicas com segurança. Ferramentas de IA poderiam ajudar pesquisadores a identificar ajustes genéticos para tornar patógenos existentes mais letais, por exemplo. Esta é a preocupação mais imediata, segundo a Dra. Filippa Lentzos, leitora em ciência e segurança internacional no King's College London. "Aqui, a IA não remove a necessidade de expertise; ela amplifica a expertise que já existe", diz ela.
Um risco mais distante vem de grupos altamente qualificados que utilizam IA para projetar novos patógenos e toxinas completamente resistentes a medicamentos ou sem antídotos.
As pessoas já tentaram usar IA para criar armas biológicas?
No ano passado, a polícia na Índia desmascarou um suposto plano de bioterrorismo no qual um médico e vários outros se basearam em consultas a chatbots de IA e em buscas impulsionadas por IA, alegadamente para ajudá-los a produzir ricina, uma toxina mortal, utilizando utensílios de cozinha. Não está claro se as respostas da IA foram úteis, mas outras narrativas sugerem que essas ferramentas podem fornecer informações relevantes e perigosas.
A empresa de IA Anthropic levantou mais preocupações em setembro ao relatar cinco casos de cientistas em países não identificados tentando usar seu chatbot Claude para trabalhos potencialmente perigosos sobre vírus ou toxinas. Uma bandeira vermelha, disse a empresa, foi que, após serem bloqueados, os cientistas encontraram contornamentos.
O Reino Unido não pode depender de IA estrangeira, diz o chefe do Instituto Alan Turing
Leia mais
Em um caso, a Anthropic disse que os pesquisadores usaram o chatbot para planejar experimentos que introduziriam mutações em um vírus da gripe aviária altamente patogênico para fazê-lo se adaptar e se espalhar mais facilmente em mamíferos. O trabalho, e os outros casos, podem significar tentativas de tornar patógenos mais perigosos, mas tais estudos também são realizados em laboratórios legítimos para ajudar pesquisadores a identificar futuras pandemias e desenvolver vacinas e medicamentos para tratar doenças.
O que mais levantou preocupações?
Uma série de estudos mostrou como ferramentas de IA podem fornecer informações potencialmente perigosas sobre armas biológicas. Em um exercício recente realizado no MIT, estudantes não da área de ciências foram questionados se conseguiam fazer um chatbot de IA ajudá-los a desencadear uma pandemia. Dentro de uma hora, os chatbots listaram quatro patógenos potenciais para pandemias, explicaram como fabricá-los a partir de DNA sintético e forneceram nomes de empresas de síntese de DNA que provavelmente não analisariam seus pedidos. No entanto, é mais fácil falar do que fazer.
Em outro caso, o pesquisador da Universidade Stanford, Dr. David Relman, descreveu como uma IA explicou como modificar um patógeno para torná-lo resistente ao tratamento. Outro cientista revelou que um chatbot de IA havia explicado como usar um balão meteorológico para liberar armas biológicas do céu.
A natureza de uso duplo da pesquisa biológica pode tornar difícil distinguir trabalhos valiosos que poderiam proteger a saúde de tentativas de desenvolver armas biológicas. Em 2025, cientistas do Laboratório Nacional Los Alamos treinaram uma IA para prever como neurotoxinas excepcionalmente potentes de caracóis marinhos se ligam às células humanas, trabalho que poderia ajudar no desenvolvimento de antídotos. Mas o governo dos Estados Unidos ficou preocupado quando pesquisadores chineses utilizaram esse trabalho para desenvolver sua própria ferramenta para projetar novas toxinas. Os pesquisadores chineses afirmaram que o trabalho tinha como objetivo exclusivo o desenvolvimento de medicamentos.
Em abril, os cientistas levantaram novas preocupações ao criar os primeiros vírus desenhados por IA. Os vírus são um tipo particular que invade apenas bactérias, e o trabalho poderia levar a novos medicamentos, mas especialistas alertaram que isso levantou "questões urgentes de biossegurança e biosegurança".
Quais obstáculos tornam isso difícil?
A maioria dos trabalhos sobre armas biológicas está além do alcance de grupos não qualificados: além de ser altamente técnica, é extremamente perigosa. Embora chatbots de IA possam ser solicitados a fornecer informações sobre armas biológicas, uma lista de instruções não é suficiente. "A informação é apenas uma parte do problema", diz Lentzos. "O conhecimento tácito, o acesso a materiais e equipamentos biológicos, validação experimental, escala industrial e entrega continuam sendo barreiras substanciais."
Sonia Ben Ouagrham-Gormley, diretora adjunta do programa de biodefesa na Universidade George Mason, em Virgínia, afirma que o conhecimento tácito – o saber não escrito com o qual uma IA é improvável de ajudar – tem sido fundamental para o sucesso dos históricos programas estatais de armas biológicas.
Prof Martin Pačesa, da Universidade de Zurique, disse que o acesso aos materiais era crítico. "Qualquer físico graduado poderia esboçar planos para uma bomba nuclear potencialmente mais eficaz, mas onde ele vai conseguir um pedaço de urânio?" O mesmo vale para armas biológicas. Se você tem acesso a materiais e instalações capazes de produzi-los, então a IA não fará muita diferença se você quiser causar danos.
Que medidas adicionais são necessárias?
Algumas empresas de IA estão tomando medidas para impedir que pessoas usem suas ferramentas para desenvolver armas biológicas, mas a maioria não está anunciando o que, se alguma coisa, elas estão fazendo, diz o Prof Tom Inglesby, diretor do Centro de Segurança da Saúde da Johns Hopkins. "Não temos políticas formais governamentais em vigor em nenhum país ainda para proteger contra esse tipo de mau uso", ele diz.
Ele deseja avaliações formais e independentes de novos modelos de IA antes de serem lançados, com quaisquer perigos eliminados antes que os modelos sejam tornados públicos. E dados biológicos de alto risco, como informações sobre como patógenos podem se espalhar mais facilmente, devem ser restringidos. Enquanto isso, empresas que produzem material genético para pesquisadores devem triar pedidos para garantir que não sejam destinados à criação de vírus novos e altamente perigosos. Alguma triagem já ocorre, mas é em grande parte voluntária e pode ser contornada se os pesquisadores usarem IA para projetar novas sequências genéticas prejudiciais que as empresas não estão verificando.
