Um fluxo de vídeos com a cantora norte-americana Taylor Swift e Rachel Brosnahan do drama de TV de sucesso Maravilhoda Sra Maisel falando chinês fluentemente, bem como comediantes chineses falando inglês perfeito, se tornaram virais na Internet nos últimos dias. Em vez de serem boas surpresas, esses videoclipes geraram medo e discuss?es sobre a regulamenta??o da tecnologia, já que foram gerados por inteligência artificial (IA).

Nesses vídeos, Taylor “fala” chinês fluentemente com apenas um pequeno sotaque. Além disso, o movimento da boca corresponde às palavras chinesas. Rachel também sobe no palco e pronuncia chinês fluente com facilidade, dizendo: "é por isso que preciso ficar realmente famosa. Se você é famosa, todo mundo te ama".

Guo Degang, um famoso artista chinês de crosstalk, pode ser visto fazendo crosstalk em inglês fluente num vídeo.

Mais tarde foi revelado que todos esses vídeos foram gerados por software de IA. O software é capaz de criar os videoclipes mencionados acima, com o simple envio dos vídeos originais e a sele??o do idioma em que deseja que as pessoas falem, noticiou a mídia chinesa.

Os vídeos geraram discuss?es acaloradas online.

"Aqueles vídeos fizeram meu cabelo ficar em pé. Imagine qu?o facilmente essa tecnologia pode ser usada para destruir a reputa??o de alguém", disse um usuário da plataforma chinesa Sina Weibo, semelhante ao X.

“A tecnologia é verdadeiramente uma faca de dois gumes. As consequências podem ser terríveis se a IA se desenvolver sem regulamenta??o”, observou outro usuário do Sina Weibo.

Usar IA para fazer vídeos como Taylor falando chinês e Degang falando inglês pode violar seus direitos, já que a lei chinesa estipula que trabalhos como crosstalk n?o podem ser usados sem a aprova??o do proprietário dos direitos autorais. Além disso, as imagens das pessoas n?o podem ser usadas a menos que sejam aprovadas pelas próprias pessoas, disse Yue Shenshan, advogado baseado em Beijing.

Na semana passada, as autoridades indonésias reportaram que um suposto vídeo do presidente indonésio, Joko Widodo, fazendo um discurso em chinês, era uma farsa produzida com ferramentas de IA. O clipe acumulou milh?es de visualiza??es. A mídia encontrou o clipe original, que mostra o líder falando em inglês durante uma gala em 2015.

Nos últimos anos, a tecnologia de IA tem sido amplamente aplicada à cria??o secundária de vídeos curtos, como troca de rosto e mudan?a de voz por IA. Nos anos anteriores, os produtores de dramas de TV também usaram essa tecnologia para substituir os rostos dos atores.

Há também casos em que bandidos usaram tecnologia de IA para mudar rostos, enganar crian?as e cometer crimes. Essa tecnologia também tem sido usada para divulgar notícias falsas e espalhar boatos.

O Comitê Técnico Nacional de Normaliza??o da Seguran?a da Informa??o da China elaborou um projeto de requisitos básicos de seguran?a para servi?os geradores de IA e solicitou opini?es públicas em outubro.

Os requisitos descrevem critérios de seguran?a fundamentais para servi?os geradores de IA, abrangendo seguran?a de corpus, seguran?a de modelo, medidas de seguran?a e avalia??es de seguran?a. Estes critérios s?o aplicáveis a fornecedores que oferecem servi?os geradores de IA ao público na China. Os prestadores de servi?os podem realizar avalia??es de seguran?a de forma independente ou contratar terceiros para fazê-lo, de acordo com estes critérios. Os requisitos também podem servir de referência para as autoridades reguladoras relevantes na avalia??o da seguran?a dos servi?os geradores de IA.

No que diz respeito à futura regulamenta??o da IA, Qin An, vice-diretor do Comitê de Especialistas em Contraterrorismo e Governan?a de Seguran?a Cibernética da Sociedade Chinesa de Direito Policial, disse ao Global Times que uma etapa envolve proteger as informa??es dos cidad?os, enquanto outra etapa exige que as plataformas marquem claramente vídeos ou fotos manipulados por IA.

Em geral, a IA ainda está em estágios iniciais de desenvolvimento e os riscos n?o foram totalmente expostos, observou Qin, acrescentando a importancia de ser adotada uma atitude tolerante e cautelosa em termos de desenvolvimento da IA, de modo a n?o sufocar o desenvolvimento inovador desta tecnologia.