Por uma legislação de IA centrada em direitos
Preocupado com o texto preliminar substitutivo do PL 2338/2023, apresentado pelo Senador Eduardo Gomes (PL-TO), o Grupo de Trabalho de Inteligência Artificial (GT IA) da Coalizão Direitos na Rede (CDR) lançou nota pública na qual aponta vários problemas no documento.
Criado em 2016 e reunindo mais de 50 organizações civis, o CDR destaca que o texto preliminar substitutivo (TPS) apresenta mudanças substanciais com relação ao texto originalmente apresentado pela Comissão de Juristas do Senado Federal (CTIA), que se tornou o PL 2338/2023, apresentado pelo Senador Rodrigo Pacheco.
Diz a nota: “Na realidade, o que o novo texto faz é desidratar boa parte dos dispositivos que originalmente garantiriam esses direitos, além de incluir disposições que permitem a utilização de tecnologias notória e internacionalmente conhecidas por representarem riscos inaceitáveis de violação aos direitos humanos. Nesse sentido, entendemos que o TPS apresenta retrocessos muito significativos para a proteção dos direitos dos cidadãos brasileiros.”
Na nota, o GT IA faz sugestões:
Do processo legislativo
“As discussões sobre a regulação da tecnologia devem se dar através de um debate amplo, participativo e multissetorial. Tal requisito é fundamental para que tenhamos legislações minimamente adequadas e conforme as boas práticas legislativas nacionais e internacionais. Atropelar a discussão é perigoso para a sociedade como um todo.
Pela complexidade do tema, a regulação brasileira sobre Inteligência Artificial, uma tecnologia de impactos sociais e econômicos tão complexos, deve contar com o devido e amplo debate público em sua construção, tendo por foco a defesa de direitos e a mitigação de riscos. Logo, o primeiro pedido desta Coalizão é a da urgente publicação das contribuições públicas ao TPS recebidas pela CTIA”.
Do texto preliminar substitutivo (TPS)
“Feita a primeira solicitação para aprimoramento da transparência sobre os trabalhos da CTIA, indicamos, abaixo, os principais pontos de preocupação da sociedade civil em relação ao TPS:
1. “Da categorização de riscos”: em comparação à redação anterior, a nova redação das regras definindo sistemas de risco alto ou excessivo não apenas é confusa como representa expressiva redução de seu escopo original.
Além de reduzir o rol dos sistemas considerados de “alto risco”, permite o uso de sistemas de armas autônomas (SAA) e tecnologias de reconhecimento facial por parte da segurança pública. Isso vai na contramão da lógica seguida pelo texto, de categorização desses usos como de risco excessivo e, portanto, proibidos.
2. SAA (Sistemas de Armas Autônomas): Outro ponto de crítica está na regulamentação proposta dos SAA que permite certos contextos de uso. Além de ser um tópico de grande controvérsia jurídica no cenário internacional, tal disposição se opõe às normativas internacionais de Direito Internacional Humanitário e de Direito Internacional de Direitos Humanos sobre o tema e no posicionamento pacifista que rege as relações internacionais do Brasil.
3. Sistemas de identificação biométrica: de forma similar à permissibilidade de uso de SAA, o TSP também apresenta claro retrocesso quanto ao regime dado ao uso de sistemas de identificação biométrica à distância, em tempo real e em espaços acessíveis ao público. É sabido que tais sistemas reforçam e potencializam discriminações estruturais baseadas em raça, gênero e território, o que é confirmado pelos muitos casos de erros/falsos positivos em rostos negros, em especial mulheres negras, levando a constrangimentos e violação de direitos.
Por isso, é urgente o banimento desses sistemas no Brasil.
4. Proteção ao trabalho e aos trabalhadores: apesar do TPS trazer artigo específico sobre o tema, ainda deixa de mencionar expressamente uma atenção aos efeitos negativos advindos da plataformização e precarização do trabalho por meio do uso de inteligência artificial, focando mais em “riscos de deslocamento de emprego e oportunidades de carreira relacionadas à IA”.
5. Sistema Nacional de Regulação da Inteligência Artificial (SIA): Nele não há inclusão das entidades de proteção do interesse público, como organizações da sociedade civil, comunidade técnico-científica ou mesmo o Sistema Nacional de Defesa do Consumidor (SNDC). O multissetorialismo proposto é falho e capenga no desenho do sistema, não representa um sistema com participação pública significativa e precisa ser corrigido.
Assim, é fundamental que ocorra a restituição de garantias previstas na redação original do PL 2338 no tocante à proteção e preconização dos direitos fundamentais dos cidadãos e os sistemas de Alto Risco, SAA e Reconhecimento Facial, tal como defendido pela campanha Tire Meu Rosto da Sua Mira.
Por fim, a construção de tal regulação deve levar em conta processos históricos, que colocaram o Brasil na vanguarda da governança participativa de tecnologias, como o ocorrido no MCI e na LGPD, quando houve maior transparência sobre o processo legislativo, inclusive com a ativa participação da sociedade civil, que hoje pede não só pela sua maior inclusão, mas também das vozes usualmente excluídas desse processo, como quilombolas e povos originários.
É possível garantir o desenvolvimento tecnológico no campo da inteligência artificial (IA) e, ao mesmo tempo, impedir abusos e proteger direitos. Não podemos repercutir a falácia de que regulação impede inovação. Pelo contrário: é por meio deste debate regulatório que a sociedade brasileira tem a oportunidade de caminhar, de forma pioneira, no sentido de um avanço tecnológico ético, sustentável, que respeite suas particularidades históricas e culturais e não acentue desigualdades estruturais.
Em suma, a retomada e aprimoramento do texto do PL 2338/23 se mostra imperiosa, com o abandono, por completo, de normativas desnecessárias e permissivas em temas sensíveis aos direitos humanos”.
Leia na íntegra o documento em https://direitosnarede.org.br/2024/05/18/por-uma-legislacao-de-ia-centrada-em-direitos-comentarios-ao-texto-preliminar-substitutivo-do-2338-2023-apresentado-pelo-senador-eduardo-gomes/
Instituto Telecom, Terça-feira, 28 de maio de 2024
Artigos relacionados
Tags
Compartilhe
