A Coalizão Direitos na Rede manifestou preocupação com a intenção do deputado federal Aguinaldo Ribeiro (PP-PB), relator do Projeto de Lei nº 2338/2023, de retirar do texto da proposta a classificação dos sistemas de inteligência artificial de acordo com seus níveis de risco.
Segundo a entidade, a definição expressa de quais tecnologias devem ser consideradas de alto risco ou risco excessivo é um dos elementos centrais do projeto em discussão. Na avaliação da Coalizão, a retirada desse mecanismo reduziria a capacidade da futura legislação de estabelecer salvaguardas para proteger direitos fundamentais e poderia gerar interpretações divergentes sobre a aplicação da norma.
A organização afirma ainda que a possível alteração representa um afastamento das discussões realizadas pela Comissão Temporária Interna sobre Inteligência Artificial no Brasil (CTIA), do Senado Federal, além de ignorar contribuições apresentadas por organizações da sociedade civil ao longo da tramitação da proposta.
Para a Coalizão, reconhecer que determinadas aplicações de IA apresentam riscos superiores a outras é essencial para a construção de um modelo de governança efetivo. A entidade argumenta que a ausência de uma lista de sistemas classificados como de alto risco pode resultar em uma legislação com menor capacidade prática de equilibrar inovação tecnológica e proteção de direitos.
O posicionamento dedica atenção especial às tecnologias de reconhecimento facial. Segundo a organização, trata-se de uma aplicação com potencial impacto sobre direitos fundamentais, proteção de dados pessoais e princípios da administração pública. A Coalizão sustenta que, sem mecanismos adequados de governança, avaliações independentes e controle social, essas ferramentas podem ampliar riscos relacionados à discriminação, vigilância em larga escala e uso inadequado de recursos públicos.
A entidade também afirma que a coleta massiva de dados biométricos necessária para o funcionamento desses sistemas pode gerar preocupações relacionadas à soberania digital e ao controle de informações pessoais dos cidadãos brasileiros.
Diante da ausência de consenso político sobre o banimento dessas tecnologias, a Coalizão defende que, no mínimo, elas sejam enquadradas na categoria de sistemas de IA de alto risco, ficando sujeitas a obrigações específicas de transparência, supervisão e mitigação de impactos.
Como referência internacional, a organização cita o AI Act, que estabelece requisitos diferenciados para aplicações consideradas de alto risco. Entre os exemplos mencionados estão sistemas de identificação biométrica, gestão de infraestrutura crítica, acesso à educação, recrutamento e seleção profissional, monitoramento de trabalhadores, concessão de crédito, avaliação de dados de saúde, distribuição de benefícios sociais, controle migratório, segurança pública, atividades judiciais e processos eleitorais.
Segundo a Coalizão, a manutenção de um rol de riscos na legislação é fundamental para orientar a atuação das futuras instâncias responsáveis pela governança da inteligência artificial no país, além de oferecer maior segurança jurídica e alinhamento com padrões regulatórios internacionais.
A entidade também contesta o argumento de que a classificação de riscos poderia limitar a inovação tecnológica. De acordo com a manifestação, a lista prevista no projeto possui caráter exemplificativo e permitiria a inclusão de novos sistemas por meio dos mecanismos de governança estabelecidos na própria legislação.
