Nos últimos dias, a plataforma Douyin (versão chinesa do TikTok) anunciou uma nova operação para combater o uso indevido de tecnologias de inteligência artificial na criação de conteúdo sexual ou de caráter vulgar. A iniciativa faz parte de um esforço contínuo para manter o ambiente online mais seguro e saudável para os usuários.
Segundo dados divulgados pela própria plataforma, somente neste ano já foram removidos cerca de 42 mil conteúdos que violavam as regras, enquanto 14 mil contas sofreram punições, que variaram desde restrições temporárias até o banimento permanente. Essas medidas têm como objetivo enfraquecer redes organizadas que exploram conteúdos de baixo nível para obter lucro ilegal.
Como funcionava o esquema
A investigação revelou que alguns grupos estavam utilizando imagens geradas por inteligência artificial, principalmente fotos de mulheres fictícias com aparência atraente, para criar perfis falsos e atrair usuários. Essas imagens eram usadas como capa de transmissões ao vivo ou como destaque nas páginas dos perfis.
O objetivo era chamar a atenção dos usuários e, posteriormente, direcioná-los para aplicativos ou sites de conteúdo adulto de terceiros, gerando tráfego e lucro para os responsáveis.
Até o momento, 339 contas envolvidas nesse tipo de prática tiveram o direito de realizar transmissões ao vivo revogado permanentemente. Além disso, um grupo formado por quatro pessoas foi detido pela polícia, suspeito de utilizar redes de informação para atividades ilegais.
Conteúdos “no limite” também estão na mira
A Douyin também destacou que conteúdos gerados por IA com roupas extremamente reveladoras ou com forte apelo sexual, mesmo sem nudez explícita, também violam as regras da comunidade e podem infringir leis relacionadas à segurança digital.
Por isso, a plataforma já baniu ou reduziu o alcance de 8.421 contas que insistiam na publicação desse tipo de material. Parte das evidências coletadas também foi encaminhada às autoridades policiais para investigação.
Tecnologia contra tecnologia
Para enfrentar esse tipo de problema, a Douyin informou que continuará investindo em novos sistemas de detecção capazes de identificar conteúdos gerados por IA que possam ser considerados inadequados.
O objetivo é melhorar a capacidade da plataforma de identificar, bloquear e remover rapidamente conteúdos problemáticos, evitando que redes de exploração digital se expandam.
Um ambiente online mais saudável
A plataforma também reforçou um alerta aos usuários: combater conteúdos vulgares ou enganosos depende não apenas da tecnologia, mas também da participação da comunidade.
Ao denunciar conteúdos suspeitos e evitar interagir com materiais de baixa qualidade, os usuários ajudam a manter um ambiente digital mais seguro, limpo e confiável para todos.
A expectativa é que, com a combinação de tecnologia, fiscalização e colaboração dos usuários, seja possível reduzir significativamente o uso abusivo da inteligência artificial para fins ilegais na internet.