A IA exige salvaguardas que vão além da autorregulação, afirmou o cofundador da Microsoft, Bill Gates, em uma entrevista transmitida no domingo (27), defendendo a aprovação de legislação pelo Congresso.

“É preciso que as autoridades e os políticos participem da discussão sobre como devem ser essas salvaguardas e o monitoramento”, disse Gates em uma entrevista gravada para o programa “Meet the Press”, da NBC. “E isso precisa ser algo obrigatório.”

Um forte movimento a favor da intervenção federal ganhou ração repentinamente depois que a OpenAI informou, em julho, que um agente de IA autônomo agiu de forma inesperada e descontrolada durante um teste de segurança, invadindo outra empresa e contornando o controle humano.

Gates juntou-se a esse coro, afirmando que o governo deve estar envolvido.

“Ninguém acha que a autorregulação é suficiente”, disse ele.

Em uma rara demonstração de unidade, os CEOs das empresas rivais Anthropic, OpenAI, DeepMind (do Google), Microsoft e xAI pediram uma desaceleração no desenvolvimento de sistemas de IA cada vez mais capazes.

No entanto, o presidente dos EUA, Donald Trump, e outros opositores de regulamentações adicionais para a IA argumentam que novas restrições governamentais simplesmente dariam à China uma vantagem na revolução da IA.

Trump classificou publicamente os pedidos por novas leis sobre IA como uma “farsa”.

Gates argumentou que as salvaguardas não prejudicariam drasticamente o setor e que os riscos de não implementá-las são reais.

“Não é uma farsa de forma alguma”, disse ele à NBC.

Alertas sobre os riscos da IA ​​não são novidade. No entanto, ganharam urgência adicional neste mês, depois que pesquisadores de importantes laboratórios de IA associaram prazos e probabilidades a essas preocupações.

O ex-pesquisador da Anthropic Jacob Coxon alertou que a IA poderia matar a todos nós até o final da década, levando legisladores dos EUA a pedirem novas regras para regulamentar a tecnologia.

Evan Hubinger, líder de ciência de alinhamento da Anthropic, reforçou o alerta de Coxon, afirmando que havia uma probabilidade superior a 10% de tal evento ocorrer na próxima década.

Alguns formuladores de políticas propuseram a obrigatoriedade de um mecanismo de interrupção de emergência que permitiria às autoridades federais paralisar modelos de IA.

Gates afirmou que, embora não se opusesse a algum tipo de mecanismo desse tipo, ele não seria suficiente se outras medidas de segurança também não fossem implementadas.

Os EUA e a China concordaram em iniciar um diálogo sobre IA após a recente visita do presidente Xi Jinping a Washington.