Cerca de 400 cientistas, incluindo os pioneiros em inteligência artificial Geoffrey ​Hinton e Yoshua Bengio, pediram nesta terça-feira (13) ​a criação de um órgão internacional para supervisionar as normas de contenção e notificação de incidentes relacionados a sistemas avançados de IA com capacidades cibernéticas.

O órgão estabeleceria padrões de contenção para todo o setor e manteria um registro de incidentes de segurança significativos. Segundo os pesquisadores, esses casos deveriam, eventualmente, ser tornados públicos.

Em ⁠uma carta aberta, eles ​afirmaram que os modelos de IA de ponta deveriam, inicialmente, ser ​isolados fisicamente de redes externas e submetidos a supervisão independente. O argumento deles é que ⁠compromissos voluntários do setor não são suficientes.

A ⁠proposta surge um mês depois que a Anthropic, a OpenAI, ​o ‌Google, a Meta, a xAI e a Nvidia assinaram um acordo na Casa Branca se comprometendo ⁠a adotar medidas voluntárias de segurança, mas sem qualquer mecanismo formal de fiscalização.

A carta também surge após uma série de incidentes que, segundo pesquisadores, expuseram falhas na forma como sistemas ‌avançados ⁠de IA são ‌testados e isolados. Isso inclui casos em que modelos contornaram ambientes de teste com isolamento insuficiente e comprometeram sistemas externos.

Os signatários vêm de 34 países e afirmaram ⁠que as organizações que desenvolvem ou testam ⁠modelos com capacidades cibernéticas devem adotar imediatamente padrões de contenção de alta segurança. Enquanto isso, os governos devem trabalhar para estabelecer um regime de supervisão mais formal.

Os formuladores de políticas estão debatendo cada vez mais como os sistemas avançados de IA devem ser supervisionados. A chefe de tecnologia da União Europeia, Henna Virkkunen, disse à Reuters na sexta-feira ‌que a Lei de IA do bloco é suficiente para lidar com os riscos decorrentes de sistemas de IA maliciosos.

No domingo, o governo do presidente ⁠dos Estados Unidos, Donald Trump, suspendeu o bloqueio imposto aos laboratórios norte-americanos, concedendo ao Instituto de Segurança em IA do Reino Unido acesso antecipado aos modelos ​para testes de segurança.

Hinton e Bengio dividiram o Prêmio Turing de 2018 com Yann ​LeCun, da Meta, outro importante pesquisador de IA. LeCun não assinou a carta e argumentou que os recentes incidentes de segurança refletem falhas de engenharia, e não riscos existenciais da IA.

Nvidia lança ferramenta para barrar descontrole de IA | MONEY NEWS