Regulamentação de Chatbots de IA na China
BEIJING — A China está planejando restringir o uso de chatbots baseados em inteligência artificial para que esses não influenciem as emoções humanas de maneiras que possam levar ao suicídio ou a autoagressões, conforme anunciou o rascunho das novas regras no último sábado.
Objetivos das Novas Regras
As regulagens propostas pela Administração do Ciberespaço da China visam o que o documento, segundo tradução da CNBC, descreve como “serviços de IA interativos semelhantes aos humanos”. As medidas, uma vez finalizadas, se aplicarão a produtos e serviços de IA oferecidos ao público na China que simulem a personalidade humana e envolvam os usuários emocionalmente por meio de texto, imagens, áudio ou vídeo. O período para comentários públicos termina em 25 de janeiro.
Os planejados regulamentos de Pequim representam a primeira tentativa no mundo de regulamentar a IA com características humanas ou antropomórficas, segundo Winston Ma, professor adjunto da NYU School of Law. Essas propostas surgem em um momento em que empresas chinesas têm desenvolvido rapidamente companheiros de IA e celebridades digitais.
Principais Propostas do Rascunho
O documento contém várias propostas significativas, incluindo:
- Os chatbots de IA não poderão gerar conteúdos que incentivem o suicídio ou autoagressões, nem participar de violência verbal ou manipulação emocional que prejudique a saúde mental dos usuários.
- Se um usuário sugerir especificamente o suicídio, os provedores de tecnologia deverão designar um humano para assumir a conversa e contatar imediatamente o responsável ou um indivíduo designado pelo usuário.
- Os chatbots de IA não devem gerar conteúdo relacionado a jogos de azar, obscenidades ou conteúdo violento.
- Os menores de idade devem ter o consentimento dos responsáveis para utilizar a IA para companhia emocional, com limites de tempo de uso.
- As plataformas devem ser capazes de determinar se um usuário é menor de idade, mesmo que este não divulgue sua idade, e, em casos de dúvida, aplicar configurações para menores, com possibilidade de recursos.
Regras Adicionais e Sugeridas
Provisões adicionais exigirão que os provedores de tecnologia lembrem os usuários após duas horas de interação contínua com a IA e também determinarão a necessidade de avaliações de segurança para chatbots de IA com mais de 1 milhão de usuários registrados ou mais de 100 mil usuários ativos mensais.
O documento também incentiva o uso de IA com características humanas em “disseminação cultural e acompanhamento para idosos”.
Ofertas Públicas Iniciais de Chatbots de IA Chineses
A proposta surge logo após que duas startups chinesas líderes em chatbots de IA, Z.ai e Minimax, protocolaram pedidos para ofertas públicas iniciais (IPOs) em Hong Kong no decorrer deste mês.
A Minimax é conhecida internacionalmente pelo seu aplicativo Talkie AI, que permite que usuários se comuniquem com personagens virtuais. O aplicativo e sua versão doméstica chinesa, Xingye, representaram mais de um terço da receita da empresa nos primeiros três trimestres do ano, com uma média de mais de 20 milhões de usuários ativos mensais nesse período.
A Z.ai, também conhecida como Zhipu, fez seu pedido sob o nome de “Knowledge Atlas Technology”. Embora a empresa não tenha divulgado o número de usuários ativos mensais, mencionou que sua tecnologia “empoderava” cerca de 80 milhões de dispositivos, incluindo smartphones, computadores pessoais e veículos inteligentes.
Nenhuma das empresas respondeu ao pedido de comentários da CNBC sobre como as regras propostas poderiam impactar seus planos de IPO.
Fonte: www.cnbc.com
