Por 499 votos a favor, 28 contra e 93 abstenções, o Parlamento Europeu aprovou, na quinta-feira, o pacote de alterações em abril de 2021, a primeira lei de IA abrangente do mundo.
Após esta etapa processual, as negociações sobre a forma final da lei da IA continuarão com os Estados-Membros representados no Conselho da UE, com o objetivo de chegar a um acordo até ao final deste ano. De acordo com o comunicado de imprensa do Parlamento, a Lei da IA estabelece obrigações específicas para os fornecedores e para aqueles que utilizam ferramentas baseadas em IA, dependendo do seu nível de risco. Estão previstos quatro níveis:
- Risco mínimo: Utilização livre de aplicações como jogos de vídeo baseados em IA ou filtros de spam. A grande maioria dos sistemas de IA insere-se nesta categoria, em que as novas regras não se aplicam porque representam apenas um risco mínimo para os direitos ou a segurança dos cidadãos, ou não representam qualquer risco.
2 Risco reduzido: os sistemas de IA, como os bots de conversação, estão sujeitos a obrigações mínimas de transparência, para que as pessoas que interagem com os conteúdos possam tomar decisões informadas. O utilizador pode então decidir se quer continuar ou deixar de utilizar a aplicação.
3. Risco elevado:
1. Infra-estruturas críticas (por exemplo, transportes) que podem pôr em perigo a vida e a saúde dos cidadãos.
2. Ensino e formação profissionais que podem determinar o acesso de uma pessoa à educação e ao seu percurso profissional (por exemplo, correção de exames).
3. Os componentes de segurança dos produtos (por exemplo, a aplicação da IA na cirurgia assistida por robots).
4. Emprego, gestão de trabalhadores e acesso ao autoemprego (por exemplo, software para triagem de currículos em processos de recrutamento).
5. Serviços públicos e privados essenciais (por exemplo, notações de crédito que negam aos cidadãos a oportunidade de obter um empréstimo).
6. Questões de aplicação da lei que possam interferir com os direitos humanos fundamentais (por exemplo, avaliação da fiabilidade das provas).
7.Gestão das migrações, asilo e controlo das fronteiras (por exemplo, verificação da autenticidade dos documentos de viagem).
8. Administração da justiça e processos democráticos (por exemplo, aplicação da lei a um determinado conjunto de factos).
4. Risco inaceitável: tudo o que for considerado uma ameaça clara para os cidadãos da UE será proibido: desde a triagem social efectuada pelos governos até aos brinquedos que utilizam um assistente vocal que incentiva comportamentos perigosos nas crianças.
Os eurodeputados acrescentaram a esta categoria proibições referentes a utilizações intrusivas e discriminatórias da IA, tais como
- Sistemas de identificação biométrica à distância, em tempo real, em espaços públicos;
- Sistemas de identificação biométrica à distância ex-post, com a única exceção de utilizações para fins de aplicação da lei em investigações de crimes graves e com autorização judicial
- Sistemas de categorização biométrica que utilizem determinadas características de identidade (por exemplo, género, raça, etnia, estatuto de cidadania, religião ou orientação política.
- Sistemas de policiamento preditivo (baseados na definição de perfis, na localização ou no historial criminal)
- Sistemas de reconhecimento de emoções pelas autoridades policiais, na gestão das fronteiras, nos locais de trabalho ou nos estabelecimentos de ensino;
- Rastreio indiscriminado de imagens faciais retiradas da Internet ou de CCTV para criar bases de dados de reconhecimento facial (que violam os direitos humanos e o direito à privacidade).
Os eurodeputados também acrescentaram à lista de riscos os sistemas de IA utilizados para influenciar os eleitores e o resultado das eleições e os sistemas de recomendação utilizados pelas plataformas de redes sociais com mais de 45 milhões de utilizadores.Os sistemas de IA geradores baseados em modelos fundamentais, como o ChatGPT, terão de cumprir requisitos adicionais de transparência e ser concebidos de forma a não poderem gerar conteúdos ilegais.Para impulsionar a inovação em matéria de IA e apoiar as PME do sector, os projectos de investigação e os componentes de IA fornecidos ao abrigo de licenças de fonte aberta estão isentos. A nova lei promove os chamados “espaços de teste controlados”, ou seja, ambientes reais em que as empresas podem testar a inteligência artificial sob a supervisão das autoridades públicas antes de a colocarem no mercado.
Por último, a lei prevê que seja mais fácil para os cidadãos apresentarem queixas e reclamações sobre estes sistemas e reforma o papel do Gabinete Europeu para a Inteligência Artificial, que será responsável pelo controlo da aplicação do código regulamentar sobre a IA.
