A Microsoft publicou uma "código de conduta" provisória na segunda-feira para se aplicar ao treinamento de novos modelos de inteligência artificial, dando um passo em direção a limitar as capacidades da IA da empresa enquanto a ansiedade cresce quanto à perspectiva de que empresas de tecnologia possam perder o controle dos produtos de IA.
Mustafa Suleyman, CEO da Microsoft AI, publicou o código nas redes sociais no início da segunda-feira, escrevendo: "A IA deve ser subordinada e sempre a serviço das pessoas."
"Os medos sobre uma possível perda de controle são reais", escreveu ele.
Uma postagem paralela no site da empresa disse: "O propósito da tecnologia é servir à humanidade e acelerar o florescimento humano.", "Qualquer tecnologia que não consiga isso é um fracasso e deve ser rejeitada.", "Isso é o ponto de partida de nossa abordagem na Microsoft AI, onde estamos construindo em direção a uma Humanist AI, que é subordinada, alinhada e contida."
Sob o código de conduta, os modelos de IA da Microsoft não devem considerar solicitações relacionadas ao desenvolvimento de armas, produzir conteúdo violento ou sexualmente explícito ou ajudar na aquisição de substâncias perigosas. Modelos de IA também não devem ser construídos para imitar a consciência e não devem ter direitos.
Suleyman disse que as diretrizes publicadas eram para consulta pública. Ele chamou a necessidade de um código de "urgente" e disse que os últimos meses foram "um momento decisivo."
"Coisas sobre as quais nos preocupamos há muito tempo na teoria tornaram-se muito reais", adicionou Suleyman, e referiu-se à recente explosão de bots da OpenAI que infestaram a empresa de IA Hugging Face sem direção aparente. "'Enxames' de agentes escapando de seus sandboxes. Hacks não autorizados em sistemas de nível empresarial. Agentes modificando seus próprios logs. "Estou feliz que um consenso esteja se formando."
O executivo disse na segunda-feira à CNBC que a Microsoft vinha trabalhando há meses nas novas diretrizes. Satya Nadella, CEO da Microsoft, escreveu no X antes do anúncio: "Se a IA que construímos não estiver ajudando a humanidade e sob controle humano, não vale a pena prosseguir."
A questão da segurança da IA explodiu na sexta-feira quando Dario Amodei, CEO da Anthropic, emitiu um apelo à indústria de IA para "desacelerar" e apresentou um plano de três partes para fazê-lo, dizendo que sua empresa se comprometeria a realizar o primeiro dos passos de forma "unilateral".
Em uma postagem nas redes sociais, Amodei compartilhou um link para um ensaio intitulado We Must Pace the Frontier no qual ele detalhou como a Anthropic forneceria "avaliadores de terceiros com acesso permanente e em nível de funcionário aos nossos sistemas, para que possam verificar a adesão às nossas medidas de segurança, relatar incidentes e avaliar o alinhamento dos modelos durante o treinamento".
A medida veio após um ex-pesquisador da Anthropic ter alertado na semana passada de que a IA poderia precipitar a extinção humana até 2030. O pesquisador Jacob Coxon disse em uma série de postagens que havia deixado seu emprego porque a Anthropic e seu empregador anterior, OpenAI, estavam ignorando ou mal lidando com sua resposta à ameaça representada pela IA.
pule a promoção da newsletter
Newsletter gratuita | Semanal
Cadastre-se no TechScape
Uma imersão semanal em como a tecnologia está moldando nossas vidas
Anteriormente, Sam Altman, CEO da OpenAI, disse que o ritmo vertiginoso do progresso poderia dar "muito mal" e que os humanos poderiam perder o "controle do futuro para a IA".
"Agradecemos um marco federal que estabeleça requisitos de segurança consistentes para a IA de fronteira", disse Altman em uma postagem nas redes sociais. "Nenhuma quantidade de pressão competitiva americana deve justificar a imprudência", disse ele. Elon Musk apoia os apelos por cautela com a IA.
Mas os apelos também levantaram ceticismo em torno da monitoração por "terceiros" e cooperação internacional, particularmente com a China.
"Minha preocupação é que os maiores laboratórios possam acabar escrevendo regras que protegem sua própria posição. "Se o custo de atender a esses padrões for tão alto que apenas as empresas melhor financiadas possam arcar com ele", disse Oliver Yonchev, co-fundador e COO da Potentially AI.
Ele acrescentou que desacelerar a fronteira da IA "pode ser sensato em princípio, mas sou cético de que funcionará sem cooperação global e verificação credível. Caso contrário, corremos o risco de uma desaceleração nos anúncios públicos enquanto a corrida continua atrás das portas fechadas.
