"Utilizamos cookies para lhe proporcionar a melhor experiência de navegação possível. Os cookies necessários são indispensáveis para assegurar funcionalidades essenciais do sítio Web do Conselho. Os cookies opcionais ajudam-nos a elaborar relatórios estatísticos agregados e anónimos para melhor satisfazer as suas necessidades.
Regulamento Inteligência Artificial: Conselho e Parlamento alcançam acordo sobre as primeiras regras em matéria de IA no mundo
Este comunicado de imprensa foi atualizado em 2 de fevereiro de 2024 para acrescentar o texto de compromisso final tendo em vista um acordo.
Após uma maratona de três dias de conversações, a Presidência do Conselho e os negociadores do Parlamento Europeu alcançaram um acordo provisório sobre a proposta relativa a regras harmonizadas em matéria de inteligência artificial (IA), o chamado Regulamento Inteligência Artificial. O objetivo deste projeto de regulamento é garantir que os sistemas de IA colocados no mercado europeu e utilizados na UE sejam seguros e respeitem os direitos fundamentais e os valores da União. Esta proposta histórica visa igualmente estimular o investimento e a inovação no domínio da IA na Europa.
Trata-se de uma conquista histórica e de um passo de gigante para o futuro! O acordo hoje alcançado dá uma resposta eficaz a um desafio mundial num ambiente tecnológico em rápida evolução num domínio fundamental para o futuro das nossas sociedades e economias. Neste esforço, conseguimos manter um equilíbrio extremamente delicado: impulsionar a inovação e a adoção da inteligência artificial em toda a Europa, respeitando em pleno os direitos fundamentais dos nossos cidadãos.
Carme Artigas, secretária de Estado da Digitalização e da Inteligência Artificial de Espanha
O Regulamento Inteligência Artificial é uma iniciativa legislativa emblemática, com potencial para promover o desenvolvimento e a adoção de uma IA segura e fiável em todo o mercado único por parte de intervenientes públicos e privados. A principal ideia consiste em regulamentar a IA com base na sua capacidade para causar danos à sociedade, seguindo uma abordagem "baseada no risco": quanto maior for o risco, mais rigorosas serão as regras. Sendo a primeira proposta legislativa deste tipo no mundo, este regulamento pode estabelecer uma norma mundial para a regulamentação da IA noutros sistemas jurídicos, como aconteceu com o RGPD, promovendo assim a abordagem europeia em matéria de regulamentação das tecnologias a nível mundial.
Principais elementos do acordo provisório
Em comparação com a proposta inicial da Comissão, os principais novos elementos do acordo provisório podem ser resumidos do seguinte modo:
regras aplicáveis aos modelos de IA de finalidade geral e de grande impacto que possam representar um risco sistémico no futuro, bem como aos sistemas de IA de risco elevado
sistema revisto de governação, com alguns poderes de execução a nível da UE
alargamento da lista de proibições, mas com a possibilidade de as autoridades policiais utilizarem a identificação biométrica à distância em espaços públicos, sob reserva das devidas salvaguardas
maior proteção dos direitos graças à obrigação de os responsáveis pela implantação de sistemas de IA de risco elevado realizarem uma avaliação de impacto sobre os direitos fundamentais antes de porem em funcionamento um sistema de IA.
Em termos mais concretos, o acordo provisório incide sobre os seguintes aspetos:
Definições e âmbito de aplicação
A fim de assegurar que a definição de um sistema de IA fornece critérios suficientemente claros para distinguir a IA dos sistemas de software mais simples, o acordo de compromisso harmoniza a definição pela abordagem proposta pela OCDE.
O acordo provisório esclarece igualmente que o regulamento não se aplica a domínios não abrangidos pelo âmbito de aplicação do direito da UE e não deve, em caso algum, afetar as competências dos Estados-Membros em matéria de segurança nacional nem qualquer entidade a que tenham sido confiadas funções neste domínio. Além disso, o Regulamento Inteligência Artificial não se aplicará a sistemas utilizados exclusivamente para fins militares ou de defesa. Do mesmo modo, o acordo prevê que o regulamento não seja aplicável aos sistemas de IA utilizados unicamente para fins de investigação e inovação, nem a quem utilize a IA por razões não profissionais.
Classificação de sistemas de IA como sendo de risco elevado e práticas de IA proibidas
O acordo de compromisso prevê uma camada horizontal de proteção, incluindo uma classificação de risco elevado, a fim de assegurar que não sejam englobados os sistemas de IA que não sejam suscetíveis de acarretar violações graves dos direitos fundamentais ou outros riscos significativos. Os sistemas de IA que representem apenas um risco limitado ficariam sujeitos a obrigações de transparência muito ligeiras, por exemplo, divulgar que os conteúdos foram gerados por IA para que os utilizadores possam tomar decisões informadas sobre a sua utilização posterior.
Seria autorizada uma vasta gama de sistemas de IA de risco elevado, mas mediante a imposição de um conjunto de requisitos e obrigações para obter acesso ao mercado da UE. Estes requisitos foram clarificados e ajustados pelos colegisladores de forma a serem mais viáveis do ponto de vista técnico e a implicarem menos encargos para as partes interessadas, por exemplo no que diz respeito à qualidade dos dados, ou à documentação técnica que as PME devem elaborar para demonstrar que os requisitos são cumpridos pelos seus sistemas de IA de risco elevado.
Uma vez que os sistemas de IA são desenvolvidos e distribuídos através de cadeias de valor complexas, o acordo de compromisso inclui alterações que esclarecem a repartição de responsabilidades e as funções dos vários intervenientes nessas cadeias, em especial dos fornecedores e utilizadores de sistemas de IA. É igualmente esclarecida a relação entre as responsabilidades decorrentes do Regulamento Inteligência Artificial e as responsabilidades já existentes nos termos de outra legislação, como a legislação da UE em matéria de proteção de dados ou a legislação de natureza setorial.
No caso de certas utilizações da IA, o risco é considerado inaceitável, pelo que tais sistemas serão proibidos na UE. O acordo provisório proíbe, por exemplo, a manipulação cognitiva-comportamental, a recolha não seletiva de imagens faciais da Internet ou de imagens de CCTV, o reconhecimento de emoções no local de trabalho e nos estabelecimentos de ensino, a classificação social, a categorização biométrica para inferir dados sensíveis, como a orientação sexual ou as convicções religiosas, e alguns casos de policiamento preditivo de pessoas singulares.
Exceções em matéria de aplicação da lei
Tendo em conta as especificidades das autoridades responsáveis pela aplicação da lei e a necessidade de preservar a sua capacidade de utilizar a IA no seu trabalho essencial, foram acordadas várias alterações à proposta da Comissão no que respeita à utilização de sistemas de IA para fins de aplicação da lei. Sob reserva das devidas salvaguardas, tais alterações destinam-se a refletir a necessidade de respeitar a confidencialidade dos dados operacionais sensíveis relacionados com as suas atividades. Por exemplo, foi instituído um procedimento de emergência que permite às autoridades policiais implantar, em caso de urgência, uma ferramenta de IA de risco elevado que não tenha sido aprovada no procedimento de avaliação da conformidade. No entanto, foi igualmente criado um mecanismo específico para assegurar que os direitos fundamentais gozem de proteção suficiente contra eventuais utilizações abusivas dos sistemas de IA.
Além disso, no que respeita à utilização de sistemas de identificação biométrica à distância em tempo real em espaços públicos, o acordo provisório esclarece quais os objetivos para que tal utilização é estritamente necessária para efeitos de aplicação da lei e para os quais as autoridades policiais devem, por conseguinte, ser excecionalmente autorizadas a utilizar os referidos sistemas. O acordo de compromisso prevê salvaguardas adicionais e limita estas exceções aos casos de vítimas de determinados crimes, à prevenção de ameaças genuínas, presentes ou previsíveis, como os atentados terroristas, e às buscas de pessoas suspeitas dos crimes mais graves.
Sistemas de IA de finalidade geral e modelos de base
Foram aditadas novas disposições para ter em conta as situações em que os sistemas de IA possam ser utilizados para muitos fins diferentes (IA de finalidade geral) e em que a tecnologia de IA de finalidade geral seja posteriormente integrada noutro sistema de risco elevado. O acordo provisório incide igualmente sobre os casos específicos dos sistemas de IA de finalidade geral.
Foram também acordadas regras específicas para modelos de base, grandes sistemas capazes de executar com competência uma vasta gama de tarefas distintas, tais como a geração de vídeo, texto e imagens, a conversação em linguagem lateral, a computação ou a geração de códigos informáticos. O acordo provisório prevê que os modelos de base fiquem imperativamente sujeitos a obrigações de transparência específicas antes de serem colocados no mercado. Foi instituído um regime mais rigoroso para os modelos de base de "grande impacto". Trata-se de modelos de base treinados com uma grande quantidade de dados e com um nível de complexidade, capacidades e desempenho muito acima da média, que podem disseminar os riscos sistémicos ao longo da cadeia de valor.
Uma nova arquitetura de governação
Na sequência das novas regras sobre os modelos de IA de finalidade geral e perante a óbvia necessidade da sua aplicação a nível da UE, é criado na Comissão um Serviço IA incumbido de supervisionar estes modelos de IA mais avançados, contribuir para a promoção de normas e práticas de ensaio e aplicar as regras comuns em todos os Estados-Membros. O Serviço IA será assessorado em matéria de modelos de IA de finalidade geral por um painel científico de peritos independentes, contribuindo para o desenvolvimento de metodologias de avaliação das capacidades dos modelos de base, prestando aconselhamento no que respeita à designação e à emergência de modelos de base de grande impacto e monitorizando possíveis riscos materiais de segurança relacionados com os modelos de base.
O Comité para a IA, composto por representantes dos Estados-Membros, continuará a ser uma plataforma de coordenação e um órgão consultivo da Comissão e atribuirá um papel importante aos Estados-Membros na aplicação do regulamento, incluindo a conceção de códigos de boas práticas para modelos de base. Por último, será criado um fórum consultivo para as partes interessadas, como os representantes da indústria, as PME, as empresas em fase de arranque, a sociedade civil e o meio académico, a fim de fornecer conhecimentos técnicos ao Comité para a IA.
Sanções
As coimas por violação do Regulamento IA foram fixadas numa percentagem do volume de negócios anual a nível mundial da empresa infratora, no seu exercício financeiro anterior, ou num montante predeterminado, consoante o que for mais elevado. O montante seria de 35 milhões de euros ou 7 % em caso de violação das aplicações de IA proibidas, 15 milhões de euros ou 3 % em caso de violação das obrigações do Regulamento Inteligência Artificial e 7,5 milhões de euros ou 1,5 % em caso de fornecimento de informações incorretas. No entanto, o acordo provisório prevê limites máximos mais proporcionados para as coimas aplicáveis às PME e às empresas em fase de arranque em caso de violação das disposições do Regulamento IA.
O acordo de compromisso também deixa claro que as pessoas singulares ou coletivas podem apresentar queixa à autoridade competente de fiscalização do mercado por incumprimento do Regulamento IA e esperar que a queixa seja tratada em conformidade com os procedimentos especificamente previstos para o efeito por essa mesma autoridade.
Transparência e proteção dos direitos fundamentais
O acordo provisório prevê uma avaliação de impacto sobre os direitos fundamentais antes de um sistema de IA de risco elevado ser colocado no mercado pelos responsáveis pela sua implantação. O acordo provisório prevê ainda uma maior transparência no que diz respeito à utilização de sistemas de IA de risco elevado. Nomeadamente, foram alteradas algumas disposições da proposta da Comissão de forma a indicar que determinados utilizadores de sistemas de IA de risco elevado que sejam entidades públicas serão também obrigados a registar-se na base de dados da UE para os sistemas de IA de risco elevado. Além disso, foram aditadas novas disposições que dão destaque à obrigação de os utilizadores de um sistema de reconhecimento de emoções informarem as pessoas singulares que sejam expostas a esse sistema.
Medidas de apoio à inovação
Com vista a criar um quadro jurídico mais favorável à inovação e promover a aprendizagem regulamentar baseada em dados concretos, as disposições relativas às medidas de apoio à inovação foram substancialmente alteradas em comparação com a proposta da Comissão.
Em particular, esclareceu-se que os ambientes de testagem da regulamentação da IA, que deverão vir a criar um ambiente controlado para o desenvolvimento, a testagem e a validação de sistemas inovadores de IA, deverão também permitir testar sistemas inovadores de IA em condições reais. Foram também aditadas novas disposições que permitem a testagem de sistemas de IA em condições reais, em condições específicas e mediante a aplicação de salvaguardas. A fim de reduzir os encargos administrativos para as empresas de menor dimensão, o acordo provisório compreende uma lista de medidas a tomar para apoiar esses operadores e prevê algumas derrogações limitadas e claramente especificadas.
Entrada em vigor
O acordo provisório prevê que o Regulamento IA seja aplicável dois anos após a sua entrada em vigor, com algumas exceções para disposições específicas.
Próximas etapas
Na sequência do acordo provisório de hoje, os trabalhos a nível técnico prosseguirão nas próximas semanas, a fim de ultimar os pormenores do novo regulamento. Uma vez concluídos estes trabalhos, a Presidência apresentará o texto de compromisso aos representantes dos Estados-Membros (Coreper), para aprovação.
Antes de ser adotado formalmente pelos colegisladores, o texto integral terá de ser confirmado por ambas as instituições e submetido a revisão jurídico-linguística.
Informações gerais
A proposta da Comissão, apresentada em abril de 2021, é um elemento fundamental das políticas da UE destinadas a promover o desenvolvimento e a adoção, no mercado único, de uma IA segura e lícita que respeite os direitos fundamentais.
A proposta segue uma abordagem baseada no risco e estabelece para a IA um quadro jurídico horizontal uniforme que visa garantir a segurança jurídica. O projeto de regulamento visa promover o investimento e a inovação no domínio da IA, reforçar a governação e a aplicação efetiva da legislação em vigor em matéria de direitos fundamentais e segurança e facilitar o desenvolvimento de um mercado único para as aplicações de IA. É indissociável de outras iniciativas, incluindo o Plano Coordenado para a Inteligência Artificial, que visa acelerar o investimento na IA na Europa. Em 6 de dezembro de 2022, o Conselho chegou a acordo quanto a uma orientação geral (mandato de negociação) para este dossiê e encetou conversações interinstitucionais com o Parlamento Europeu ("trílogos") em meados de junho de 2023.
Atualmente este documento está disponível apenas na(s) seguinte(s) língua(s):
Trata-se de uma conquista histórica e de um passo de gigante para o futuro! O acordo hoje alcançado dá uma resposta eficaz a um desafio mundial num ambiente tecnológico em rápida evolução num domínio fundamental para o futuro das nossas sociedades e economias. Neste esforço, conseguimos manter um equilíbrio extremamente delicado: impulsionar a inovação e a adoção da inteligência artificial em toda a Europa, respeitando em pleno os direitos fundamentais dos nossos cidadãos.