A retirada da classificação de risco do Marco Legal da Inteligência Artificial é um retrocesso, um erro grave e uma ameaça ao uso da tecnologia no Brasil. A posição é defendida pela Coalizão Direitos na Rede por meio de manifesto encaminhado à imprensa. A entidade manifesta extrema preocupação com a declaração do Deputado Federal Aguinaldo Ribeiro (PP-PB), relator do Projeto de Lei nº 2338/2023, de que pretende retirar do texto final a classificação dos sistemas de Inteligência Artificial (IA) de acordo com o nível de risco das ferramentas.
Segundo a Coalizão, o rol de riscos a direitos é exatamente o que sustenta o atual texto do PL como um marco regulatório centrado na experiência humana e em uma concepção de IA responsável, com potencial verdadeiramente protetivo a direitos na era digital. “Sem a indicação expressa de quais tecnologias e usos devem ser previamente enquadrados como alto risco ou risco excessivo, a lei perderá força normativa, abrindo margem para interpretações divergentes e transferindo para disputas futuras o que deveria ser definido desde o marco legal”, pontua o documento.
Essa possível alteração, divulgada sem diálogo e unilateralmente, representa um retrocesso significativo no texto e desconsidera todo o esforço da Comissão Temporária Interna do Senado Federal sobre Inteligência Artificial no Brasil (CTIA) e da sociedade civil organizada no debate e na produção de mecanismos de controle democrático para o uso de tecnologias no país, reforça a Coalizão Direitos da Rede. “É preciso afirmar que há tecnologias com risco maior que outras, e, para isso, é preciso listá-las. O que o relator propõe agora, depois de quase três anos de tramitação deste projeto de lei, resultará em uma legislação formal, mas sem aplicabilidade prática que equilibre a inovação tecnológica com a defesa de direitos fundamentais”.
A entidade sustenta que o tema é especialmente sensível no que se refere ao uso de reconhecimento facial. Trata-se de uma tecnologia de alto impacto, que afeta diretamente princípios da administração pública (legalidade, publicidade, eficiência), a proteção de dados pessoais (Lei nº 13.709/2018 – Lei Geral de Proteção de Dados – LGPD) e direitos fundamentais como privacidade, igualdade e liberdade de reunião. Sem governança adequada, salvaguardas robustas, avaliações independentes e amplo controle social, o reconhecimento facial produz discriminação, vigilância massiva e gastos públicos ineficientes. “A coleta massiva de dados biométricos da população em tempo real, necessária ao uso dessa tecnologia, também abre espaço para ingerência privada e estrangeira sobre os dados pessoais de cidadãos brasileiros e sobre infraestruturas críticas, comprometendo nossa soberania e fragilizando nossa democracia”, adverte no documento.
Dada a rigidez das autoridades públicas e dos legisladores brasileiros em considerar o banimento expresso dessas tecnologias, medida que seria justificada por seu caráter de sistema de IA de risco excessivo a direitos fundamentais, o mínimo necessário para a garantia dos direitos da população brasileira é assegurar que elas estejam sujeitas aos critérios de governança de sistemas de IA de alto risco. O estabelecimento de um rol de riscos na legislação é a peça fundamental para delimitar um modelo de governança e de obrigações específicas no processo de desenvolvimento e implementação de tecnologias de IA cuja utilização resulte em decisões ou práticas que tragam riscos a direitos fundamentais da população brasileira.
O AI Act, marco legal que regula sistemas de IA na União Européia, determina as seguintes tecnologias como integrantes do rol de sistemas de alto risco: coleta biométrica massiva, tanto para identificação quanto classificação de pessoas; controle e gestão de infraestrutura crítica; acesso à educação e treinamento vocacional; recrutamento ou seleção para vagas de emprego; monitoramento e/ou decisão automatizada no contexto de relações de trabalho; classificação de indivíduos por score de crédito; classificação de risco quanto a informações pessoais de saúde; de alocação de benefícios em programas sociais; de controle de fronteiras, migração e asilo; aplicações para fins segurança pública, atividades judiciais e eleições, entre outras.
A nota oficial da Coalização Direitos na Rede termina lembrando que “retirar o rol de riscos da Regulação de IA é não ter um horizonte para as instâncias governamentais atuarem em relação aos sistemas, reduzindo a segurança jurídica, gerando potenciais prejuízos nas relações internacionais brasileiras com outros mercados por falta de padrões mais definidos. Não somente, o argumento que o rol congela o processo de inovação é falacioso, em vista que o mesmo é exemplificativo, podemos novos sistemas serem classificados a partir do trabalho do sistema de governança”.
