O Comitê Gestor da Internet no Brasil (CGI.br) divulgou uma nota técnica (disponível aqui) com contribuições ao Projeto de Lei nº 2.338/2023, que trata do Marco Regulatório da Inteligência Artificial no país. Entre as sugestões apresentadas está a inclusão explícita da proibição de deepfakes sexuais na lista de usos considerados de risco excessivo.
O documento analisa pontos do projeto em discussão no Congresso e propõe ajustes na redação de alguns dispositivos. Um dos focos está no artigo 13 do texto, que estabelece um conjunto de aplicações de inteligência artificial classificadas como inaceitáveis. Entre elas já está prevista a vedação de sistemas destinados a “possibilitar a produção ou disseminação ou facilitar a criação de material que caracterize ou represente abuso sexual ou exploração sexual de crianças e adolescentes”.
Segundo o CGI.br, no entanto, o projeto não trata de forma direta da produção de conteúdos sintéticos de natureza sexual sem consentimento envolvendo adultos. A nota técnica destaca que mulheres são as principais vítimas desse tipo de prática. De acordo com o estudo Deepfake Abuse: Landscape Analysis, mais de 90% dos alvos de deepfakes sexuais são mulheres.
Diante desse cenário, o comitê sugere ampliar o escopo das aplicações proibidas no projeto de lei. Uma das propostas é incluir um novo item no artigo 13 que vede sistemas de IA utilizados para “possibilitar a produção ou disseminação ou facilitar a criação de material que caracterize ou represente cena de nudez ou conteúdo sexual sem o consentimento expresso das pessoas retratadas”.
“Dessa forma, não somente seriam incluídas no escopo de proteção as mulheres, mas também quaisquer grupos que sejam vitimizados por este tipo de violência sexual online. É importante reforçar que se considera como conteúdo sexual tanto aquele de natureza explícita como aquele implícito, manipulado ou sugestivo”, diz a nota técnica.
Além dessa proposta, o documento também apresenta outras sugestões de alteração no projeto. Entre elas estão a possibilidade de exceções para o uso de identificação biométrica a distância, desde que condicionadas a legislação específica; a proibição do policiamento preditivo baseado em perfis; a classificação de sistemas de pontuação de crédito como aplicações de alto risco; e a retirada de um artigo que, segundo o comitê, poderia limitar a regulamentação de sistemas de IA com potencial impacto sobre a liberdade de expressão.
