Jorge Carvalho da Silva

Mandatário de Inteligência Artificial na União Europeia

Representação de prestadores de sistemas e modelos de Inteligência Artificial estabelecidos fora da União Europeia.

O Regulamento Europeu da Inteligência Artificial (EU AI Act) prevê, em determinadas situações, a designação de um mandatário estabelecido na União Europeia, responsável por assegurar a interlocução com as autoridades europeias e cumprir as funções de verificação documental e cooperação regulamentar que a lei lhe atribui.

Exerço esta actividade com a experiência de um percurso que combina a advocacia, a criação e gestão de empresas e a formação especializada em Inteligência Artificial.

A natureza das responsabilidades do mandatário exige mais do que a existência de um representante na União Europeia. Exige conhecimento do enquadramento jurídico, compreensão das realidades empresariais e capacidade para exercer, com independência, as funções previstas no Regulamento.

Quem necessita de um mandatário na União Europeia?

A obrigação de designação depende da natureza do sistema ou modelo de Inteligência Artificial e do regime jurídico que lhe é aplicável.

Prestadores de sistemas de IA de risco elevado

O artigo 22.º do Regulamento estabelece a obrigação de designação de mandatário para determinados prestadores de sistemas de Inteligência Artificial de risco elevado estabelecidos fora da União Europeia.

A classificação de um sistema como de risco elevado depende dos critérios previstos no artigo 6.º e nos anexos I e III do Regulamento.

A análise deve, por isso, começar pela identificação do sistema, da sua finalidade prevista e do respectivo enquadramento regulamentar.

Prestadores de modelos de IA de finalidade geral — GPAI

O artigo 54.º estabelece uma obrigação específica de representação para prestadores de modelos de Inteligência Artificial de finalidade geral estabelecidos fora da União Europeia.

Estes modelos, frequentemente utilizados como base para diferentes aplicações e sistemas, estão sujeitos a um regime próprio de documentação, transparência e cooperação regulamentar.

A obrigação de designar mandatário admite excepções, nomeadamente para determinados modelos disponibilizados sob licença livre e de código aberto, nas condições previstas no artigo 54.º, n.º 6.

A excepção não abrange modelos de IA de finalidade geral com risco sistémico.

A necessidade de designar mandatário deve ser determinada caso a caso. Nem todos os operadores estrangeiros de Inteligência Artificial estão sujeitos a esta obrigação.

O que faz o mandatário?

O mandatário exerce as funções previstas no Regulamento e especificadas no mandato escrito.

O conteúdo dessas funções varia consoante a representação respeite a sistemas de IA de risco elevado ou a modelos de IA de finalidade geral.

Verificação documental

O mandatário verifica, nos termos legalmente aplicáveis, a existência da documentação técnica e dos demais elementos exigidos ao prestador.

No caso dos sistemas de risco elevado, esta função abrange, designadamente, a declaração UE de conformidade, a documentação técnica e os procedimentos de avaliação da conformidade.

No caso dos modelos GPAI, abrange a documentação técnica e a verificação do cumprimento das obrigações regulamentares relevantes, incluindo as previstas nos artigos 53.º e, quando aplicável, 55.º.

Conservação e disponibilidade da documentação

O mandatário conserva os documentos exigidos pelo Regulamento durante os prazos legalmente previstos, assegurando a sua disponibilidade para apresentação às autoridades competentes.

A organização documental deve permitir identificar os sistemas ou modelos abrangidos pelo mandato, as versões relevantes e os elementos necessários ao cumprimento das obrigações regulamentares.

Interlocução com as autoridades europeias

O mandatário constitui um ponto de contacto formal para as autoridades competentes.

Recebe e acompanha pedidos fundamentados de informação e documentação, assegurando a articulação com o prestador e a resposta no âmbito das responsabilidades que lhe foram atribuídas.

Cooperação regulamentar

O mandatário coopera com as autoridades nas acções relacionadas com os sistemas ou modelos abrangidos pelo mandato, nos termos previstos no Regulamento.

Esta função pressupõe canais de comunicação definidos e disponibilidade para acompanhar os procedimentos necessários.

Cessação do mandato

O Regulamento prevê situações em que o mandatário deve pôr termo ao mandato, nomeadamente quando tenha razões para considerar que o prestador actua em desconformidade com as obrigações regulamentares aplicáveis.

Nessas circunstâncias, deve também informar a autoridade competente, nos termos legalmente previstos.

Este dever demonstra que o mandatário não é apenas um representante administrativo do prestador: exerce uma função com responsabilidades próprias perante o quadro regulamentar europeu.

O que não faz

Não elabora a documentação técnica nem a declaração de conformidade. Não realiza a avaliação da conformidade. Não aprecia o mérito técnico.

Não garante a conformidade: nos sistemas verifica que os documentos exigidos existem e estão aparentemente completos, nos modelos que as obrigações foram cumpridas.

Não representa prestadores de práticas proibidas pelo artigo 5.º do Regulamento (UE) 2024/1689.

Como se estabelece a representação?

  1. Contacto e identificação do prestador

    O processo inicia-se com a identificação da empresa, do país onde está estabelecida e dos sistemas ou modelos de Inteligência Artificial que pretende colocar no mercado europeu.

  2. Análise do enquadramento regulamentar

    É analisada a natureza do sistema ou modelo, o regime jurídico aplicável e a eventual obrigação de designação de mandatário.

    Nesta fase são também identificados os principais documentos e informações necessários à representação.

  3. Proposta e formalização do mandato

    Uma vez definido o âmbito da representação, são estabelecidas as condições da relação profissional e formalizado o mandato escrito.

    O documento identifica os sistemas ou modelos abrangidos, as funções assumidas, as responsabilidades das partes e os procedimentos de comunicação.

  4. Início e acompanhamento da representação

    Após a formalização, são organizados os elementos documentais relevantes e estabelecidos os canais de contacto entre o prestador, o mandatário e as autoridades competentes.

    O acompanhamento prossegue durante a vigência do mandato, de acordo com as obrigações regulamentares e as condições acordadas.

Responsabilidades do prestador e do mandatário

A designação de um mandatário não substitui as obrigações que o Regulamento atribui ao prestador.

O prestador continua responsável pelo cumprimento dos requisitos que lhe são legalmente aplicáveis.

O mandatário, por sua vez, responde pelo exercício das funções que o Regulamento lhe atribui e que são especificadas no mandato.

Esta distinção é fundamental para definir correctamente o âmbito da representação e as responsabilidades de cada parte.

A representação não constitui uma certificação de conformidade nem uma garantia de inexistência de riscos regulamentares.

A minha intervenção

Desenvolvi um percurso profissional que combina a experiência jurídica com a criação, desenvolvimento e gestão de empresas.

A esta experiência acrescentei formação específica em Inteligência Artificial, incluindo uma pós-graduação em Comunicação e Inteligência Artificial e formação avançada em Direito e Prática da Inteligência Artificial.

O meu trabalho nesta área centra-se no enquadramento jurídico europeu da Inteligência Artificial, nas obrigações dos diferentes operadores e nas questões de responsabilidade e governação associadas à utilização de sistemas cada vez mais autónomos.

O Regulamento não reserva a função de mandatário a nenhuma profissão.

Contudo, as responsabilidades atribuídas ao mandatário exigem uma compreensão rigorosa das obrigações legais, capacidade de apreciação documental e independência na avaliação das situações que possam comprometer o cumprimento do Regulamento.

É nesta conjugação de experiência jurídica, conhecimento empresarial e formação em Inteligência Artificial que enquadro a minha actividade como mandatário na União Europeia.

Perguntas frequentes

A minha empresa precisa de designar um mandatário?

Depende da natureza dos sistemas ou modelos de Inteligência Artificial que disponibiliza e do regime jurídico aplicável. A obrigação não abrange indistintamente todos os prestadores estabelecidos fora da União Europeia.

Um mandatário estabelecido em Portugal pode representar uma empresa perante autoridades de outros Estados-Membros?

O Regulamento prevê a designação de um mandatário localizado ou estabelecido na União Europeia. O alcance concreto das suas funções perante as autoridades depende do regime aplicável e das disposições do mandato.

Qual é a diferença entre a representação de sistemas de risco elevado e a de modelos GPAI?

São regimes distintos, previstos nos artigos 22.º e 54.º do Regulamento, com diferentes pressupostos, obrigações documentais e autoridades competentes.

Que documentação deve ser disponibilizada?

A documentação depende do sistema ou modelo e do respectivo enquadramento regulamentar. A sua identificação constitui uma das primeiras etapas da análise.

O mandatário assume as responsabilidades do prestador?

Não substitui o prestador nas suas obrigações de conformidade. Contudo, assume responsabilidades próprias pelo exercício das funções legalmente atribuídas ao mandatário.

O que acontece quando um sistema ou modelo é actualizado?

As alterações relevantes devem ser comunicadas e analisadas para determinar os seus efeitos sobre a documentação, as obrigações regulamentares e o âmbito do mandato.

Um modelo de fonte aberta precisa de mandatário?

Não, salvo se tiver risco sistémico (artigo 54.º, n.º 6, do Regulamento (UE) 2024/1689). A excepção tem condições cumulativas e exige que o modelo não seja monetizado (considerando 103 do Regulamento (UE) 2024/1689). Nos sistemas de risco elevado, a fonte aberta não afasta a obrigação.

O meu sistema de risco elevado já está no mercado. O que muda em 2027?

Em regra, a designação não passa a ser exigida: nos termos do artigo 111.º, n.º 2, do Regulamento (UE) 2024/1689, o Regulamento só se aplica aos sistemas colocados antes das datas de aplicação se sofrerem depois alterações significativas de concepção. Com três ressalvas: as práticas proibidas pelo artigo 5.º nunca beneficiam desta tolerância; os sistemas concebidos para autoridades públicas têm de cumprir até 2 de Agosto de 2030; e é preciso poder provar a data da primeira colocação, por tipo e modelo (considerando (39) do Regulamento (UE) 2026/1744).

O nome do mandatário fica público?

Em regra, sim. Nos sistemas de risco elevado consta da declaração UE de conformidade (anexo V, ponto 2, do Regulamento (UE) 2024/1689) e, nos modelos, do resumo público dos conteúdos de treino. É um dos motivos pelos quais a escolha do mandatário deve ser ponderada.

Modelo ou sistema, qual é a diferença?
O modelo é o motor

Um modelo de IA de finalidade geral é treinado com grande quantidade de dados e executa de forma competente uma ampla gama de tarefas distintas, podendo ser integrado em sistemas e aplicações muito diversos (artigo 3.º, ponto 63, do Regulamento (UE) 2024/1689). Há modelos de linguagem, de imagem, de som e de código. É o que faz funcionar os assistentes que toda a gente conhece. Quem desenvolve o modelo e o coloca no mercado é o prestador do modelo, e o mandatário é o do artigo 54.º do Regulamento (UE) 2024/1689.

O sistema é o produto

Um sistema de IA tem uma finalidade determinada e é utilizado por quem o implanta. Um assistente conversacional como o ChatGPT ou o Gemini é um sistema construído sobre um modelo. O mesmo modelo pode servir de base a muitos sistemas, de prestadores diferentes.

Quando o sistema é de risco elevado

Quando é componente de segurança de um produto regulado (anexo I, como os dispositivos médicos) ou se destina a uma das áreas do anexo III (artigo 6.º do Regulamento (UE) 2024/1689). Exemplos por área:

  • Biometria: identificação biométrica remota de pessoas.
  • Infra-estruturas críticas: gestão do tráfego rodoviário e do fornecimento de água, gás, aquecimento e electricidade.
  • Educação e formação profissional: admissão a estabelecimentos de ensino, avaliação de resultados de aprendizagem, vigilância de exames.
  • Emprego: selecção e filtragem de candidaturas, decisões sobre promoção ou cessação, monitorização do desempenho.
  • Serviços essenciais: avaliação da capacidade de crédito de pessoas singulares, avaliação de risco e preços em seguros de vida e de saúde, elegibilidade para prestações públicas, triagem de chamadas de emergência.
  • Aplicação da lei: avaliação de riscos e de provas por autoridades.
  • Migração, asilo e fronteiras: avaliação de riscos e análise de pedidos de visto e de asilo.
  • Justiça e processos democráticos: apoio a autoridades judiciárias na interpretação de factos e do direito.
A qualificação faz-se caso a caso

Depende da finalidade concreta da ferramenta, e é para isso que serve a análise prévia. A obrigação de mandatário muda consoante se trate do modelo (artigo 54.º do Regulamento (UE) 2024/1689) ou do sistema (artigo 22.º do Regulamento (UE) 2024/1689).

Contacto

Representação, na União Europeia, de prestadores de Inteligência Artificial estabelecidos fora da União.

Para questões profissionais, pedidos de informação, propostas de colaboração ou designação de mandatário na União Europeia, queira fazer o favor de contactar através do correio electrónico infra, indicando sucintamente o assunto e o que pretende.

Contacto →