Os departamentos de seguran?a pública em várias cidades pediram recentemente que a popula??o permanecesse vigilante após a ocorrência de vários casos de fraude recorrendo a ferramentas de IA terem sido expostos.

Em um caso recentemente revelado pelo departamento de seguran?a pública de Baotou, na regi?o aut?noma da Mongólia Interior, a vítima foi induzida a iniciar uma transferência total de 4,3 milh?es de yuans (US$ 612.000) por meio de uma conta da empresa após ter a realiza??o de um chat de vídeo com alguém com a aparência de uma amizade.

Com a coopera??o do banco, a polícia conseguiu interromper uma transferência de 3,37 milh?es de yuans, mas anunciou que ainda está tentando recuperar 931.600 yuans que haviam já sido enviados.

Em 20 de abril, um homem de sobrenome Guo, representante legal de uma empresa de tecnologia em Fuzhou, província de Fujian, recebeu uma videochamada via WeChat de um golpista. Usando ferramentas de IA para assumir a identidade de um amigo de Guo, o golpista pediu-lhe ajuda.

O "amigo" de Guo disse que estava licitando um projeto em outra cidade e queria usar a conta da empresa de Guo para enviar uma oferta de 4,3 milh?es de yuans. Ele prometeu pagar a Guo imediatamente.

O golpista enviou ent?o um número de conta bancária para Guo e depois disso forneceu uma captura de tela do comprovante de transferência bancária para a conta da empresa de Guo.

Guo transferiu ent?o 4,3 milh?es de yuans para a conta fornecida em dois pagamentos separados.

Quando Guo ligou para o seu amigo real para confirmar a conclus?o das transferências, seu amigo negou que tivesse feito uma videochamada ou pedido a transferência de dinheiro.

"Ele conversou comigo por videochamada e confirmei também seu rosto e voz no vídeo. é por isso que baixamos a guarda", acrescentou Guo.

O caso foi alvo de aten??o nas redes sociais e chocou os internautas, que disseram que as pessoas que confiam e n?o têm consciência, como crian?as e idosos, s?o especialmente vulneráveis a esse tipo de golpe. Eles pediram ao governo para fortalecer a gest?o de tecnologias relacionadas.

Em 24 de maio, a Internet Society of China divulgou também uma declara??o sobre o esquema de troca de rostos de IA. Ele disse que, à medida que a tecnologia "deepfake" - que costuma ser usada para imitar as vozes e aparência de outras pessoas em vídeos e grava??es de áudio - se torna mais disponível gratuitamente, os produtos e servi?os relacionados aumentaram gradualmente.

Está se tornando cada vez mais comum que algumas pessoas usem IA para fins criminosos, incluindo fraude e calúnia. As pessoas precisam estar vigilantes e fortalecer sua consciência para evitar que sejam vítimas de golpes, disse o comunicado.

As pessoas devem estar mais conscientes da prote??o de informa??es pessoais e n?o fornecerem imagens de seus rostos, impress?es digitais e outros dados biométricos a estranhos. Eles n?o devem divulgar detalhes de suas carteiras de identidade, cart?es bancários, códigos de verifica??o e outras informa??es semelhantes, afirmou.

Ele lembrou as pessoas para gerenciarem cuidadosamente suas contas nas mídias sociais, especialmente ao fazerem login em dispositivos desconhecidos, por forma a evitar que suas informa??es privadas sejam roubadas.

Nos tempos da IA, textos, vozes, imagens e vídeos provavelmente ser?o profundamente sintetizados. Em casos como o de Guo, é necessário verificar as informa??es por meios adicionais, como ligar para a pessoa envolvida na transferência, em vez de transferir apenas dinheiro diretamente após a comunica??o por texto ou outro meio sem verifica??o, independentemente de quem seja a outra parte, disse.

Em novembro, a Administra??o do Ciberespa?o da China, o Ministério da Indústria e Tecnologia da Informa??o e o Ministério da Seguran?a Pública emitiram em conjunto as disposi??es para a administra??o da síntese aprofundada dos servi?os de informa??o da Internet, tornando claras as restri??es à gera??o, substitui??o e manipula??o de rostos humanos, bem como a síntese e imita??o de vozes humanas.

Algumas plataformas e empresas lan?aram iniciativas para proibir o uso de tecnologia de IA generativa para criar e publicar conteúdo infrator, incluindo, entre outros, direitos de retrato e direitos de propriedade intelectual.

Zhou Linna, professora da Escola de Seguran?a do Ciberespa?o da Universidade de Correios e Telecomunica??es de Beijing, disse que a "troca de face AI" está se tornando uma ferramenta mais comum de fraude online e que pode alimentar desconfian?a e mais medo na sociedade.

“A tecnologia AI é nova e pode ser muito conveniente, mas pode também afetar nossas vidas de maneira negativa”, disse Zhou. "é necessário melhorar e criar leis e regulamentos para usar e governar adequadamente essa tecnologia".