União Europeia vai proibir IAs que criam imagens sexuais falsas

São Paulo - Os Estados-Membros e o Parlamento Europeu chegaram a um acordo provisório para alterar regras da Lei de Inteligência Artificial (AI Act) da União Europeia (UE).

Leia também: Meta processa grupos que usam deepfakes de famosos em anúncios falsos

Embora o texto inclua medidas importantes para simplificar exigências para desenvolvedores, o maior foco e impacto da decisão é a proibição rigorosa de aplicativos de "nudificação" (nudifier apps) e de sistemas de IA que geram material de cunho sexual sem consentimento. 

Tolerância zero

Hoje, a UE é referência no campo de legislação de mecanismos de inteligência artificial. O acordo estabelece a proibição de sistemas de IA que criem material de abuso sexual infantil ou que retratem partes íntimas de uma pessoa identificável, bem como imagens dessa pessoa envolvida em atividades sexuais explícitas sem o seu consentimento.

A medida vem após o lançamento de uma ferramenta na IA do X (antigo Twitter) que permitia que usuários solicitassem a criação de imagens realistas, sem consentimento, de adultos e crianças nus por meio de fotos reais. 

A nova legislação abrange não apenas imagens, mas também conteúdos gerados em formato de vídeo ou áudio. A regulação europeia atuará em três frentes principais para impedir essas práticas:

• Fica proibido colocar no mercado da União Europeia sistemas de IA com o objetivo explícito de criar esse tipo de conteúdo;
• Fica proibido disponibilizar IAs no mercado que não possuam medidas de segurança razoáveis para impedir a geração desses materiais abusivos;
• Fica proibido que implementadores utilizem os sistemas com o propósito de fabricar esse tipo de mídia.

As empresas e desenvolvedores terão até o dia 2 de dezembro de 2026 para ajustar suas tecnologias e alinhá-las a essas novas regras.

O co-relator da comissão de Liberdades Civis, Justiça e Assuntos Internos, Michael McNamara, celebrou a medida enfatizando sua importância para os direitos humanos:

"Junto com as medidas de simplificação, estamos banindo os aplicativos de nudificação, uma parte fundamental do mandato do Parlamento, e, claro, a criação de material de abuso sexual infantil usando sistemas de IA", disse o parlamentar, segundo nota oficial da União Europeia.

Desta forma, temos as ferramentas para agir se os provedores não lidarem com sistemas de IA que comprometem os direitos fundamentais ou a dignidade humana."

No Brasil, a lei que mais se aproxima da proibição que será adotada na UE é a Lei 15.123/2, que determina que o crime de violência psicológica contra a mulher praticado com o uso de inteligência artificial (IA) ou de qualquer outra tecnologia que altere imagem ou voz da vítima terá a pena agravada.

Leia também: Deepfake e biometria fraudada podem causar prejuízo de R$ 4,5 bilhões

Regras de transparência

A decisão faz parte do chamado pacote "digital omnibus", que busca equilibrar a inovação tecnológica com a segurança jurídica e a proteção dos cidadãos.

Para isso, a regra que obriga a inclusão de marcas d'água, que permitem a detecção e o rastreio de qualquer conteúdo gerado por IA, teve sua data de aplicação alterada para 2 de dezembro de 2026, antes prevista para o início de 2027.

Além disso, as rigorosas exigências para as chamadas "IAs de alto risco" (que incluem usos em biometria, educação e policiamento) foram adiadas para garantir que medidas de apoio e padrões necessários estejam devidamente estabelecidos, passando a vigorar apenas a partir de 2 de dezembro de 2027 e agosto de 2028, a depender do uso específico da IA.

Para que se torne lei, este acordo provisório precisará ser adotado formalmente pelas autoridades europeias. A intenção dos co-legisladores é concluir a formalidade antes de 2 de agosto de 2026.