O avanço exponencial das tecnologias, sobretudo no campo da Inteligência Artificial (IA), tem conduzido países ao redor do mundo a buscarem formas de regulamentar a aplicação e desenvolvimento desses sistemas. No Brasil, essa discussão ganhou força com a apresentação de projetos de lei que visam estabelecer diretrizes para o uso da IA.

Projeto de Lei Apresentado pelo Presidente do Senado, PL 2.338/2023

O presidente do Senado, Rodrigo Pacheco (PSD-MG), apresentou um projeto que visa “proteger os direitos fundamentais e garantir a implementação de sistemas seguros e confiáveis” de IA. Esse projeto tem um foco duplo: por um lado, busca garantir a proteção do usuário impactado pela IA, e por outro, criar mecanismos de governança e supervisão para o avanço tecnológico.

Dentre os destaques da proposta estão:

• Informação clara para pessoas expostas a sistemas de reconhecimento de emoções ou categorização biométrica.
• Proteção de dados pessoais e possibilidade de contestação de decisões tomadas por sistemas de IA.
• Avaliação preliminar de riscos antes do lançamento de um sistema de IA no mercado.
• Proibição de sistemas de IA que induzam comportamentos prejudiciais ou explorem vulnerabilidades de grupos específicos.
• Classificação dos sistemas de IA com base em seus riscos potenciais para a sociedade.

“O avanço exponencial das tecnologias, sobretudo no campo da Inteligência Artificial (IA), tem conduzido países ao redor do mundo a buscarem formas de regulamentar a aplicação e desenvolvimento desses sistemas.”

A proposta agora aguarda análise nas comissões temáticas do Senado e posterior votação no plenário.

Este projeto de lei é estruturado em torno de cinco pilares: princípios; direitos dos afetados; classificação de riscos; obrigações e requisitos de governança; e supervisão e responsabilização. Faz-se uma distinção entre sistemas de alto risco, como os que gerenciam infraestruturas críticas (educação, segurança, recrutamento, entre outros) e aqueles de risco excessivo, que podem induzir comportamentos prejudiciais. O poder público será o responsável pela avaliação desses riscos.

O projeto é claro ao recomendar que desenvolvedores expliquem como seus sistemas funcionam e como os usuários podem contestar ou solicitar intervenção humana. Clientes de IA, por outro lado, devem ser transparentes sobre a interação com esses sistemas. Atos como discriminação, incitação à violência e outras situações de perigo são terminantemente proibidos.

“O presidente do Senado, Rodrigo Pacheco (PSD-MG), apresentou um projeto que visa ‘proteger os direitos fundamentais e garantir a implementação de sistemas seguros e confiáveis’ de IA. Esse projeto tem um foco duplo: por um lado, busca garantir a proteção do usuário impactado pela IA, e por outro, criar mecanismos de governança e supervisão para o avanço tecnológico.”

O surgimento do projeto de lei não foi por acaso. A popularização de serviços como ChatGPT e a massificação da IA levantaram preocupações entre especialistas, especialmente quando comparados aos tempos em que os altos custos e longos prazos de desenvolvimento limitavam sua aplicação. Camilo Barros, da VidMob, observou que enquanto a inovação tecnológica trouxe muitos benefícios, ela também introduziu novos riscos, como a violação de direitos.

Um dos maiores benefícios do projeto é a tentativa de conter a propagação de notícias falsas. Bárbara Fraga, da A3Data, enfatizou como a má utilização da IA pode facilmente disseminar desinformação. Por outro lado, também existem preocupações sobre a potencial vigilância excessiva e comprometimento da liberdade de expressão, bem como o armazenamento indiscriminado de dados.

No âmbito da mídia e do marketing, empresas que dependem da IA deverão ser mais transparentes sobre o uso desta tecnologia. Há um clamor para que o projeto seja mais claro, permitindo que todos compreendam as implicações dessas mudanças.

A Estranha Urgência do Projeto de Lei 21/2020

No início de julho, uma notícia pegou muitos de surpresa: começou a tramitar em regime de urgência na Câmara dos Deputados o Projeto de Lei 21/2020 (PL21/2020), que objetiva regularizar o uso da inteligência artificial (IA) no Brasil. Intitulado como Marco Legal do Desenvolvimento da Inteligência Artificial, este projeto foi proposto pelo Deputado Federal Eduardo Bismarck (PDT-CE) em fevereiro de 2020. Após um período de estagnação na comissão de Ciência e Tecnologia, o projeto passou sem emendas e pode ser votado em breve.

Contudo, este novo marco legal tem sido alvo de diversas críticas, principalmente por não ter consultado a comunidade de pesquisadores de IA no país durante sua elaboração. Sergio Novaes, renomado professor, destaca que a comunidade não foi consultada, e Alexandre Simões, outro especialista, expressa sua surpresa ao afirmar que universidades renomadas como USP, Unesp e Unicamp não foram convidadas para participar da discussão.

Eduardo Bismarck, autor do projeto, defende sua iniciativa dizendo que seu principal objetivo é proporcionar segurança jurídica para aqueles que utilizam ou desejam desenvolver IA no país. O projeto, composto por 16 artigos, é bastante abrangente, tratando desde princípios e deveres até instrumentos de governança para IA. No entanto, muitos consideram que o texto tem um tom generalista e não aborda de forma efetiva como as leis propostas funcionarão na prática.

Dentro do PL 21/2020, três artigos se dedicam à fundamentação do uso da IA, mencionando aspectos como respeito aos direitos humanos, igualdade e proteção de dados. Ele também traz uma definição de IA, tema controverso e que até o momento não possui um consenso entre os especialistas.

Muitos pesquisadores, como Novaes, veem problemas no projeto, apontando sua generalidade e falta de embasamento técnico. Contudo, Simões vê aspectos positivos, como a proposta de princípios gerais que poderiam ser complementados por leis mais específicas. Ele também elogia o artigo que exige a informação aos usuários sobre potenciais efeitos adversos da IA e a necessidade de informar quem é o responsável pelo sistema de IA utilizado. Essa busca por responsabilização é vista como uma das contribuições mais relevantes do projeto. Porém, Simões também aponta que o projeto pode trazer obstáculos ao desenvolvimento tecnológico, dando o exemplo de um artigo que sugere a desativação de um sistema que não possa ser controlado por humanos.

O PL 21/2020 gerou um grande debate na comunidade científica e entre especialistas, reforçando a necessidade de um diálogo aberto e construtivo para definir o futuro da regulamentação da IA no Brasil.

Movimentos Estratégicos da Espanha e Preocupações dos EUA Sobre a AI

A Espanha demonstrou seu comprometimento com a regulação e supervisão da inteligência artificial (IA) ao tornar-se o primeiro país europeu a instituir uma entidade dedicada exclusivamente a esta finalidade. O Conselho de Ministros espanhol, em sua reunião na terça-feira, 22 de agosto, aprovou o estatuto da AESIA, ou Agência Espanhola de Supervisão de Inteligência Artificial. Esta ação prenuncia a entrada em vigor do Regulamento Europeu de Inteligência Artificial, que irá demandar que todos os Estados-membros da União Europeia estabeleçam uma “autoridade supervisora nacional” para monitorar a implementação das normas sobre IA em seus territórios.

“A Espanha demonstrou seu comprometimento com a regulação e supervisão da inteligência artificial (IA) ao tornar-se o primeiro país europeu a instituir uma entidade dedicada exclusivamente a esta finalidade. O Conselho de Ministros espanhol, em sua reunião na terça-feira, 22 de agosto, aprovou o estatuto da AESIA, ou Agência Espanhola de Supervisão de Inteligência Artificial.”

A AESIA, cuja missão é proteger os cidadãos e garantir o desenvolvimento de uma inteligência artificial que seja inclusiva, sustentável e centrada no indivíduo, está sob a jurisdição do Ministério de Assuntos Econômicos e Transformação Digital, especificamente ligada à Secretaria de Estado da Digitalização e Inteligência Artificial. Este estatuto, que reflete a colaboração entre o Ministério da Fazenda e Função Pública e o Ministério de Assuntos Econômicos e Transformação Digital da Espanha, integra-se à Estratégia Nacional de Inteligência Artificial (Enia) do país, a qual tem como finalidade criar um referencial para a evolução de uma tecnologia voltada ao bem-estar e aos direitos dos cidadãos.

O ministro Ricardo Villas Bôas Cueva, do Superior Tribunal de Justiça, ressaltou o pioneirismo da Espanha neste contexto, observando como o país se antecipou à regulamentação europeia e reiterando que “é o primeiro país europeu a criar uma entidade com o propósito específico de proteger seus cidadãos e supervisionar o desenvolvimento da IA sob preceitos de inclusão, sustentabilidade e humanidade”. Esta iniciativa não passou despercebida além das fronteiras europeias.

Nos Estados Unidos, a Câmara de Comércio publicou um relatório no qual prevê a expansão e as implicações do uso da IA, exortando a necessidade de regulamentação para prevenir possíveis danos éticos e riscos à segurança nacional. A ação da Espanha, assim, não só posiciona o país como líder em supervisão de IA na Europa, mas também ressoa em cenários internacionais sobre a imperatividade de uma regulamentação criteriosa da tecnologia.

Conclusão

A dinâmica da regulamentação da Inteligência Artificial (IA) está claramente evoluindo em escala global. O Brasil, acompanhando esta tendência, tem apresentado propostas legislativas robustas, refletindo a necessidade premente de adequar-se ao cenário tecnológico em constante transformação. As iniciativas do Senado e da Câmara, apesar de suas respectivas particularidades e pontos de controvérsia, evidenciam a busca de um equilíbrio entre inovação, proteção dos cidadãos e garantia de direitos. Paralelamente, a atuação da Espanha demonstra a possibilidade de uma postura proativa, sinalizando um caminho para outros países da União Europeia e do mundo. Em contraste, as preocupações emergentes dos EUA apontam para os desafios éticos e de segurança associados à IA. Esta conjuntura ressalta a importância da colaboração, discussão e troca de experiências entre nações, academia e setor privado. Se bem conduzida, a regulamentação da IA pode não apenas proteger os indivíduos, mas também fomentar a inovação e consolidar um futuro tecnológico alinhado com valores humanísticos e éticos.