Descubra como está a regulação da inteligência artificial

E saiba como você pode ajudar?

É urgente uma regulação eficiente para a inteligência artificial.

A União Europeia acaba de aprovar, de forma unanime por seus estados-membros, a IA ACT, primeira norma internacional sobre Inteligência Artificial – IA do mundo.

O texto final já foi divulgado e será objeto de votação pelo Parlamento Europeu. Diversos aspectos importantes e relevantes discussões já estão consolidadas no processo legislativo ocorrido até o momento, bem como valiosas lições já podem ser observadas.

Alguns pontos interessantes que podemos destacar até o momento:  

1. a) Governança da IA: i) importância da atuação das autoridades nacionais, e ii) instituição de Gabinete da IA da Comissão Europeia para supervisionar, estabelecer padrões, e exigir cumprimento das normas.
2. b) Regras de transparência aderentes aos níveis de risco: i) IA de riscos baixos, transparência simplificada; ii) IA de riscos altos, transparência ampla e com critérios mais rigorosos; 
3. c) Regras específicas para modelos de IA: i) regras especiais para modelos genéricos de inteligência artificial; ii) regime diferenciado para modelos de inteligência artificial de alto impacto (aqueles que são treinados com grande volume de dados, performance, complexidade acima da média e com potenciais riscos sistêmicos na cadeia de valor);
4. d) Exclusão do IA ACT para: i) sistemas de inteligência artificial com fins militares e de segurança e defesa das nações, ii) pesquisa e inovação para fins não profissionais; 
5. e) Proteção aos usuários: i) em caso de IA que atue em direitos fundamentais, necessidade de avaliar impacto e redobrar transparência quando se tratar de alto riscos; ii) estabelecimento de criação de base de dados para registro de entidades públicas que utilizem sistema de IA de alto risco;
6. f) Exceções normativas: i) autoridades poderiam utilizar a IA no cumprimento de leis, como por exemplo, para salvaguarda e preservação dos direitos fundamentais, para atendimento de situação emergencial, entre outras.
7. g) Reconhecimento de riscos inaceitáveis aos direitos individuais e democráticos em IA: i) que utilize sistema de categorização biométrica e se valha de dados pessoais sensíveis; ii) que promova extração não diferenciada de dados faciais da internet ou de circuito interno de TV para criação de banco de dados de reconhecimento facial; iii)  que se valha de reconhecimento de emoções em local de trabalho ou em locais de ensino; iv) que manipule o comportamento humano para influenciar o seu livre arbítrio; v) que explore grupos vulneráveis devido a condições de saúde, idade, deficiência, situação social ou econômica.

Entendemos que algumas questões relacionadas a avaliações de impacto algorítmico e definição de diretrizes ainda demandarão pequenos aperfeiçoamentos, bem como os aspectos relacionados aos parâmetros de penalidades por violação e cometimento de infrações graves relacionados aos sistemas de IA banidos por riscos inaceitáveis, precisam de pequenas calibrações.

No Brasil, a regulamentação brasileira da Inteligência Artificial é urgente e já está na pauta do Congresso Nacional mediante as discussões e avaliações pela Comissão Temporária sobre Inteligência Artificial no bojo do Projeto de Lei 2.338/23 (PL 2.338/23).  O Presidente do Senado solicitou prioridade nas análises sobre este assunto.

O PL 2.338/23 já tem alguns elementos que estão em sintonia com a mais atual proposta normativa da União Europeia (IA ACT), mais notadamente quando fixa proibição para sistemas de IA de riscos excessivos e o rol de riscos inaceitáveis.  

Neste particular, fica evidente que a estratégia normativa brasileira se assemelha a da União Europeia quando ao objetivo de proteger os direitos fundamentais e garantir a implementação de sistemas seguros e confiáveis, em benefício da pessoa humana, do regime democrático e do desenvolvimento científico e tecnológico.

O fato é que a utilização responsável da inteligência artificial deve ter limites claros na regulamentação de forma a coibir que a tecnologia tenha vieses que possam acarretar discriminação direta, indireta, ilegal ou abusiva. É imperativo, ainda, a fixação de estruturas de governança e processos aptos a garantir a segurança dos sistemas e o atendimento dos direitos de pessoas afetadas.

Nesta fase de aperfeiçoamento, discussões e validação de normas relacionadas a tema tão importante para os Estados e para as organizações, o envolvimento e participação de todos os stakeholders (partes interessadas) é fundamental para uma regulação que seja abrangente e calibrada.

Incentivamos amplamente a participação da sociedade na tomada de decisões relativas à formulação e definição de políticas públicas relacionadas a Inteligência Artificial.  Participe e fortaleça o processo democrático.