Associações denunciam 'app' que consegue despir pessoas de uma foto através de IA

Duas organizações portuguesas alertaram a Meta, dona do Facebook e do Instagram, para a existência de uma aplicação que consegue, através de Inteligência Artifical, "despir uma pessoa" que esteja numa fotografia.

A denúncia foi feita no domingo pela MiudosSegurosNa.Net e pela Agarrados à Net, mas hoje de manhã a app “continuava ativa” e a ser publicitada nas plataformas da Meta, disse à Lusa Tito de Morais, fundador do projeto MiudosSegurosNa.Net.

 “Até este momento ainda não tivemos qualquer feedback por parte da Meta, achámos que era importante chamar a atenção das pessoas para este tipo de situações, para que possam ser regulamentadas”, acrescentou.

 Tito de Morais lembrou a proposta do Bloco de Esquerda, que foi recentemente aprovada por unanimidade, para criminalizar este tipo de práticas, mas a proposta de alteração do Código Penal ainda não está em vigor.

Usando frases como “Apaga as roupas dela. Carrega uma foto. Apaga as roupas de qualquer pessoa” ou “Vê-me nua gratuitamente. Esta aplicação espantosa pode apagar tudo!”, a publicidade aponta para um ‘site’ onde o utilizador pode descarregar uma foto de uma pessoa vestida, carregar num botão para gerar uma foto igual mas com a pessoa nua.

A imagem gerada por Inteligência Artificial (IA) é apresentada ligeiramente desfocada e para a desfocar ou fazer o seu download, basta o utilizador subscrever o serviço, que pode ser pago de forma mensal, trimestral, anual ou mesmo de forma vitalícia. 

“Numa altura em que se fala em banir as redes sociais a menores de 16 anos era importante que este tipo de situações fosse regulamentada. Não interessa banir as crianças das redes se vai continuar a afetar os adultos. Não podíamos ficar em silêncio ao ver a Meta aprovar publicidade a uma aplicação de ‘nudificação’, incentivando, na prática, os utilizadores a cometer um ato ilícito”, afirmou o fundador do projeto MiudosSegurosNa.Net. 

“Em vez de restringirem as redes sociais a menores de 16 anos ou proibirem a utilização de telemóveis, era bom que os Governos se preocupassem em responsabilizar as plataformas que aprovam publicidade que na prática incentiva a cometer um ilícito que afeta não apenas crianças e jovens, mas também adultos”, acrescentou Cristiane Miranda, cofundadora do projeto Agarrados à Net. 

Tito de Morais lembrou algumas das recomendações que tem vindo a ser sugeridas pelas duas organizações, como obrigar a que as imagens criadas com recurso a IA contenham uma marca de água ou outro sinal que as identificasse como sendo produzidas por IA.

Já no caso de aplicações como a agora denunciada, os dois projetos vão mais longe, sendo da opinião que nem sequer deveriam ser permitidas “e as empresas que as produzem deviam ser fortemente penalizadas”, explicou Tito de Morais.

“De facto, a tecnologia tem imensos benefícios e vantagens, mas nas apps de "nudificação" não encontro nenhum. Deviam ser proibidas”, corroborou Cristiane Miranda. 

Tito de Morais e Cristine Miranda apelam à Meta que remova a publicidade a este tipo de produtos e que tome medidas para evitar situações semelhantes no futuro.