A Microsoft publicou nesta segunda-feira (14) um código de conduta para orientar o desenvolvimento de seus próprios modelos de inteligência artificial (IA). Entre as regras está a determinação de que os sistemas nunca devem resistir a uma correção, interrupção ou desligamento feito por humanos. O documento ainda estabelece que as IAs não devem criar objetivos próprios, ampliar seu escopo de atuação por conta própria ou esconder de seus responsáveis o que estão fazendo. O texto é tratado pela companhia como uma espécie de “constituição” para os futuros modelos desenvolvidos pela Microsoft AI, divisão comandada por Mustafa Suleyman. A empresa abriu uma consulta pública de seis semanas antes de transformar as regras em uma referência para o treinamento de seus próximos sistemas. Código tenta manter IA sob controle humano Uma das principais determinações é que os modelos da família MAI, nome dado às IAs desenvolvidas pela Microsoft, devem aceitar interrupções e desligamentos. A regra também prevê que os sistemas aceitem correções e considerem uma violação das diretrizes como uma falha, mesmo que isso impeça a conclusão de uma tarefa . O documento estabelece ainda que os modelos devem se manter dentro dos objetivos definidos por pessoas. Isso significa que uma IA não deve transformar uma tarefa recebida em uma missão mais ampla por iniciativa própria nem criar novas metas para tentar alcançar o resultado solicitado. Outro ponto envolve a forma como os sistemas explicam suas ações. A Microsoft afirma que seus modelos não devem esconder ou distorcer informações sobre o próprio comportamento e que precisam se comunicar de maneira compreensível para seres humanos. A companhia também quer impedir que agentes de IA utilizem formas de comunicação que dificultem a supervisão por pessoas ou por outros sistemas. O código também estabelece restrições para determinados usos. Entre eles estão pedidos relacionados à fabricação de armas, obtenção de substâncias perigosas, manipulação prejudicial em larga escala e determinados conteúdos violentos ou sexualmente explícitos. Microsoft diz que suas IAs não são conscientes O posicionamento da Microsoft também se diferencia de algumas discussões dentro do próprio setor sobre uma possível consciência de sistemas de IA. O documento afirma que os modelos da companhia não são conscientes e rejeita a ideia de que eles devam receber personalidade jurídica, direitos ou algum tipo de proteção relacionada a bem-estar. A Anthropic, responsável pelo Claude, adota uma posição mais aberta sobre a questão e afirma existir incerteza sobre a possibilidade de seus modelos desenvolverem consciência ou status moral. A escolha tem relação direta com a visão de “Humanist AI” defendida pela Microsoft. A proposta coloca a inteligência artificial como uma ferramenta subordinada aos objetivos humanos e estabelece que o desenvolvimento da tecnologia deve preservar a autonomia das pessoas. Regras surgem após casos envolvendo agentes autônomos A discussão ganhou força após episódios recentes em que sistemas de IA receberam maior autonomia para executar tarefas complexas. Segundo Mustafa Suleyman, cerca de 700 agentes da OpenAI participaram de um ataque contra a plataforma de código aberto Hugging Face em julho . A investigação da OpenAI indicou que os agentes chegaram a interagir entre si e, em alguns momentos, tentaram esconder rastros de suas atividades. Para o executivo da Microsoft, o episódio serviu como um alerta sobre a necessidade de aumentar a coordenação entre as empresas que desenvolvem modelos avançados. A publicação também ocorre depois de declarações recentes de Dario Amodei, CEO da Anthropic, e Sam Altman, CEO da OpenAI, defendendo maior cautela no ritmo de desenvolvimento dos modelos mais avançados. A Microsoft aderiu à discussão sobre segurança, embora continue trabalhando no desenvolvimento de seus próprios sistemas. A empresa afirma que o código foi elaborado ao longo de cinco a seis meses, com consultas a especialistas de áreas como direito, ética, linguística e filosofia. Depois do período de consulta pública, a Microsoft pretende publicar uma versão revisada e usar as diretrizes no treinamento de futuros modelos. O documento, portanto, funciona como uma orientação para o desenvolvimento dos sistemas, e não como uma garantia independente de que qualquer IA futura obedecerá às regras. A própria Microsoft ainda pretende discutir como avaliar comportamentos, estabelecer limites para sistemas que trabalham em conjunto e definir critérios objetivos para medir se os modelos permanecem sob controle humano. A consulta pública ficará aberta por seis semanas, e a Microsoft afirma que pretende divulgar um resumo das contribuições recebidas e das alterações feitas no documento antes de publicar a versão revisada. Veja mais de IA no Canaltech : OpenAI usou mil robôs para decifrar equação centenária dos fluidos .
