Compreender o AI Act da UE: Um Marco na Regulamentação da Inteligência Artificial

A rápida adoção da IA nos negócios tem o potencial de desbloquear grandes ganhos de produtividade e de oferecer apoio valioso aos trabalhadores. Segundo o Eurostat, 42% das grandes empresas (250+ colaboradores) já utilizam IA, enquanto 13% das pequenas empresas (10+ colaboradores) começaram a adotá-la. No entanto, à medida que as tecnologias de IA evoluem e se difundem, também aumentam os riscos, que vão desde preocupações com a proteção de dados devido a vastos conjuntos de treino, até ao uso criminoso em ciberataques, enviesamentos algorítmicos, violações de privacidade e questões éticas como manipulação e ameaças aos direitos humanos.

Em resposta, a UE introduziu a primeira legislação abrangente sobre IA a nível mundial – o Ato Europeu de Inteligência Artificial (AI Act) – para garantir o desenvolvimento e utilização responsável da IA, salvaguardando a saúde, a segurança e os direitos fundamentais dos cidadãos.

Então, o que é o AI Act da UE e porque é que ele importa para as empresas e para a sociedade em geral? Vamos analisar.

O que é o AI Act da UE?  

O AI Act da UE, introduzido a 1 de agosto de 2024 e totalmente aplicável a partir de 2 de agosto de 2026, regula os sistemas de IA que afetam pessoas na UE, mesmo que desenvolvidos fora da região. O seu objetivo é mitigar riscos como violações de privacidade, enviesamento, manipulação e danos físicos, impondo transparência, salvaguardas éticas e supervisão humana:

• Transparência: Os sistemas de IA devem explicar claramente como funcionam e quais os riscos que apresentam. Se um sistema de IA interagir diretamente com pessoas (por exemplo, chatbots), deve ficar claro que se trata de um sistema de IA.
• Salvaguardas éticas: O Ato classifica a IA por nível de risco, proíbe os sistemas mais nocivos e impõe obrigações rigorosas aos sistemas de alto risco.
• Supervisão humana: O aspeto da “supervisão humana” é particularmente crítico para os sistemas de IA de alto risco. Garante que os humanos possam monitorizar, compreender e controlar como estes sistemas operam. A IA de alto risco deve ser concebida de forma a permitir a interação humana, possibilitando às pessoas verificar se o sistema está a funcionar em segurança e intervir caso algo corra mal. O objetivo é prevenir danos à saúde, segurança ou direitos fundamentais dos indivíduos. Desenvolvedores, fornecedores e operadores são responsáveis por assegurar a qualidade dos dados, realizar avaliações de risco e manter transparência no funcionamento dos sistemas de IA. Os sistemas de alto risco também devem ser registados numa base de dados pública, com reporte de incidentes. A conformidade é assegurada através de avaliações de conformidade, certificações e penalizações significativas por violações.

As multas potenciais por incumprimento podem ser severas – até 35 milhões de euros ou até 7% do volume de negócios anual mundial total da empresa no exercício financeiro anterior, consoante o valor mais elevado.

Quem será afetado pelo AI Act?  

O AI Act afeta cidadãos da UE e todas as organizações que operem na UE ou que prestem serviços à UE. Os 5 grupos afetados incluem:

• Desenvolvedores e Fornecedores de IA: Devem cumprir os regulamentos se os seus sistemas representarem alto risco ou exigirem transparência.
• Utilizadores de IA de Alto Risco: Quando a IA é utilizada em áreas sensíveis como recrutamento, banca/crédito, saúde/hospitais ou serviços governamentais/públicos, devem ser cumpridos requisitos rigorosos de supervisão e gestão de risco.
• Distribuidores e Importadores: Devem assegurar que os sistemas cumprem os requisitos da UE antes da sua comercialização.
• Empresas fora da UE: Devem cumprir os regulamentos se as suas soluções de IA impactarem utilizadores da UE.
• Consumidores: A maioria das pessoas será, de alguma forma, consumidora, e embora não sejam diretamente regulados, o Ato visa proteger os seus direitos e segurança.

Oportunidades e Desafios

Embora crie novas regras que devem ser seguidas, o AI Act da UE também oferece várias vantagens para as empresas:

• Ao estabelecer normas claras, reforça a confiança dos consumidores e aumenta a credibilidade junto de clientes, investidores e parceiros.
• Ajuda também a mitigar riscos legais e reputacionais que poderiam surgir caso os utilizadores sofressem danos devido ao uso da IA.
• Fornece às empresas diretrizes claras para o desenvolvimento e operação de sistemas de IA dentro da UE.
• O AI Act da UE motiva as empresas a estabelecer regras mais claras para lidar com a IA e a controlar melhor os seus processos. Isto melhora a tomada de decisões dentro da empresa e a fiabilidade dos sistemas de IA. Também facilita a adaptação das empresas a outras regulamentações de IA existentes ou futuras.

No entanto, embora o AI Act reforce salvaguardas e governança, pode também trazer alguns desafios para as empresas, especialmente para as mais pequenas e startups:

• Os sistemas de alto risco enfrentam custos acrescidos de tarefas de conformidade como avaliações de risco e documentação, o que pode atrasar o desenvolvimento e a entrada no mercado.
• Entretanto, empresas em regiões com regulamentações mais flexíveis podem inovar mais rapidamente e competir com vantagem sobre os concorrentes da UE.
• Medidas de aplicação diferentes entre Estados-Membros da UE podem também gerar incerteza.

A abordagem da Konica Minolta à IA Ética e em Conformidade

A Konica Minolta está comprometida com uma IA ética e transparente que cumpra o AI Act da UE, promovendo simultaneamente a inovação. Realizamos avaliações de risco que são revistas pelo nosso Comité de Ética em IA e apoiamos o desenvolvimento e a operação responsável através de formação para desenvolvedores e partes interessadas-chave, suportados por equipas dedicadas como a nossa Força-Tarefa de IA, a divisão de Proteção de Dados e as unidades internas de conformidade. Utilizamos tecnologias como anonimização e encriptação para cumprir os requisitos do AI Act da UE.

Para além da conformidade, o nosso objetivo é liderar em IA responsável. Ao integrar estes princípios em todas as fases do desenvolvimento, não apenas asseguramos o alinhamento regulatório, como entregamos valor acrescido aos clientes através de soluções de IA seguras, confiáveis e de ponta.

As seguintes soluções de IA da Konica Minolta já cumprem as disposições do AI Act:

• Workplace Pure: Uma plataforma cloud que combina inúmeros serviços de gestão documental. Inclui um serviço de tradução baseado em IA que pode ser utilizado através de um navegador ou do painel de controlo de uma impressora multifunções bizhub (MFP). Isto permite traduzir documentos de forma rápida e fácil de quase qualquer língua de origem para quase qualquer língua de destino – a qualquer momento e em qualquer lugar. Está alojado em centros de dados da Open Telekom Cloud sediados na UE para garantir total conformidade com o RGPD e utiliza encriptação HTTPS avançada para proteger a informação em trânsito.
• VSS (Video Solution Services): Os Video Solution Services (VSS) da Konica Minolta integram tecnologias de imagem avançadas com análises baseadas em IA para melhorar a segurança, eficiência e controlo operacional em vários setores. Exemplos de aplicações incluem monitorização de linhas de produção, garantia de segurança de edifícios e melhoria de ambientes de saúde. Funcionalidades como reconhecimento facial ou análises comportamentais são processadas de forma segura e em conformidade com regulamentos de proteção de dados como o RGPD e o AI Act.
• FORXAI Mirror: O FORXAI Mirror utiliza tecnologia baseada em IA para aumentar a segurança no local de trabalho. Garante o acesso seguro a áreas de produção perigosas e reduz o risco de contaminação, assegurando que os colaboradores apenas entram na área de produção usando o equipamento de proteção individual (EPI) exigido pela empresa. Deteta desvios no uso de EPI em tempo real. A solução pode ser integrada em sistemas de controlo de acessos existentes, respeitando rigorosamente os princípios do AI Act da UE – dando prioridade à privacidade, transparência, avaliação de riscos e explicabilidade através de encriptação e testes rigorosos dos modelos de IA..