O uso de agentes de inteligência artificial para compras online ​pode aumentar o risco de golpes, ​fraudes e violações de privacidade de dados, afirmaram nesta terça-feira (22) bancos como NatWest e Bank of America ao estabelecerem princípios para o desenvolvimento da tecnologia.

Empresas de tecnologia, como OpenAI, Anthropic, Google e Meta estão promovendo cada vez mais os chatbots de IA como ferramentas de compra, vislumbrando um futuro em que os consumidores usem agentes ⁠de IA para selecionarem ​produtos e fazerem compras em seu nome.

Enquanto isso, os varejistas ​correm para influenciar as recomendações dos chatbots.

A varejista britânica John Lewis informou ⁠em setembro que a participação de ⁠buscas criadas por agentes de IA subiram de 0,3% no ​ano ‌anterior para 2,5%, com a tendência se acelerando.

O grupo de bancos, que ⁠também inclui ING, ASB Bank, da Nova Zelândia; Capital One e Commonwealth Bank of Australia, afirmou em um relatório que os clientes estão entusiasmados com o potencial do comércio ‌por ⁠agentes e ansiosos ‌para adotá-lo.

No entanto, eles alertaram que a tecnologia está avançando mais rapidamente do que os padrões de segurança do setor e do consumidor.

“Os consumidores não têm ⁠certeza se a IA agirá em ⁠seu interesse”, afirma o relatório. “Eles temem que os agentes de IA possam comprar o produto errado ‌ou gastar demais, ou, pior ainda, perder seu dinheiro em golpes e fraudes. Não têm certeza se estarão protegidos nem a quem recorrerão caso algo dê errado.”

O relatório destaca riscos, incluindo a possibilidade de agentes de IA ‌solicitarem dados de cartão dos clientes e inseri-los diretamente em sites, ou direcionarem os usuários para formas de pagamento que ofereçam proteções mais fracas.

Os ⁠bancos planejam discutir uma série de propostas com os formuladores de políticas, incluindo a exigência de divulgação quando um agente de IA estiver envolvido em uma ​transação, maior transparência sobre como os agentes de IA tomam decisões e medidas ​de segurança para proteger os dados dos clientes.

Consumidores e comerciantes também devem ter liberdade para escolher quais serviços de comércio eletrônico baseados em IA utilizarão, enquanto os diferentes sistemas devem ser interoperáveis, ‌defende o relatório.