Os 10 Mandamentos da Nova Lei da IA

O dia 2 de agosto foi definido como a data para a aplicação geral da maioria das obrigações de Regulamento Europeu sobre Inteligência Artificial, Oficialmente denominado Regulamento (UE) 2024/1689, com algumas exceções e períodos transitórios relevantes, este Regulamento, conhecido como a nova Lei da IA, foi aprovado pela União Europeia para estabelecer um quadro comum para o desenvolvimento, comercialização e utilização de sistemas de Inteligência Artificial. Este quadro regulamentar é mais do que necessário, uma vez que cada vez mais empresas incorporam processos de IA nas suas operações diárias, seja formal ou informalmente. De facto, segundo um relatório da [nome da empresa/organização], Banco Central Europeu deste ano, As 381 empresas da zona do euro já se encontram em um estágio avançado de adoção de IA..

A nova Lei de IA visa criar regras comuns para que a Inteligência Artificial possa ser desenvolvida e utilizada de forma segura, transparente e com respeito aos direitos fundamentais, sem sufocar a inovação. Esta regulamentação, que afeta tanto as empresas que desenvolvem Inteligência Artificial quanto qualquer organização que a utilize, integre, distribua, importe ou implemente em seus processos, produtos ou serviços, estabelece Penalidades de até 35 milhões de euros ou 71% do faturamento anual global., dependendo da gravidade da infração. Excelia, uma empresa espanhola de consultoria, tecnologia e serviços profissionais, estabeleceu em seu novo relatório Direito da IA: um guia prático para preparar sua empresa, Quais? As 10 obrigações implícitas na nova Lei de IA Para organizações:

• Identificar onde a IA está sendo usada: O primeiro passo é identificar e inventariar todos os sistemas e ferramentas de Inteligência Artificial utilizados na organização, indicando área, finalidade, dados processados, fornecedor e responsável pelo uso.
• Classifique os usos de acordo com seu nível de risco: Após identificar os sistemas de IA, a organização deve avaliar o seu impacto e classificá-los de acordo com o Regulamento Europeu de IA para definir os controlos, a documentação e a monitorização necessários.
• Impedir usos não autorizados pela regulamentação: As organizações devem rever a sua utilização de IA para detetar práticas proibidas pelo Regulamento e descartar desde o início aquelas que não são permitidas, especialmente em áreas sensíveis como a manipulação, as vulnerabilidades, a biometria ou o reconhecimento de emoções.
• Capacitar as equipes no uso responsável da IA: A Lei de Inteligência Artificial exige treinamento para pessoas que trabalham com esses sistemas, para que elas entendam como eles funcionam, suas limitações, riscos e como usá-los com segurança de acordo com sua função.
• Estabelecer políticas e responsabilidades internas: A adoção da IA requer um modelo de governança que defina os usos permitidos, os dados, as autorizações e as responsabilidades entre as áreas, a fim de evitar usos descontrolados e garantir critérios comuns de aprovação e monitoramento.
• Controlar quais dados são usados com IA: As organizações devem estabelecer quais dados podem ser usados em ferramentas de IA, quais informações devem ser excluídas e quais provedores podem acessá-las, garantindo privacidade, segurança e confidencialidade.
• Informe quando a IA for utilizada: As empresas devem divulgar claramente quando interagem com IA ou quando o conteúdo foi gerado ou manipulado com Inteligência Artificial, especialmente se puder ser confundido com conteúdo humano.
• Garantir a supervisão humana: Os processos relevantes que incorporam IA devem ter supervisão humana eficaz, especialmente quando podem afetar pessoas, direitos, segurança, saúde ou decisões sensíveis.
• Documentar decisões, controles, fornecedores e evidências: As organizações devem documentar seus sistemas de IA, usos, riscos, fornecedores, controles e medidas de monitoramento para demonstrar o uso controlado e responder a auditorias ou requisitos.
• Manter o controle sobre o tempo: É necessário rever periodicamente as utilizações da IA, atualizar as políticas e os controlos e manter uma visão clara dos riscos, das mudanças e das responsabilidades associadas.

“A Lei de IA surge num momento em que cada vez mais empresas incorporam a Inteligência Artificial nos seus processos, muitas vezes sem uma compreensão completa de todas as utilizações, ferramentas e fornecedores envolvidos. O cumprimento do Regulamento exige a realização desta análise, a compreensão dos riscos e o estabelecimento de controlos claros. Trata-se de uma questão de conformidade, mas também de confiança e responsabilidade corporativa.”, ele diz Josep Bardallo, Diretor de Cibersegurança e Nuvem da Excelia, o que acrescenta: “Muitas organizações sabem que precisam se preparar, mas nem sempre têm clareza sobre como traduzir as regulamentações em suas operações diárias. A IA afeta a tecnologia, os dados, os processos, os fornecedores, a segurança e as decisões de negócios, por isso exige uma governança bem definida. Ter um parceiro especializado como a Excelia ajuda a organizar esse trabalho, priorizar ações e construir um modelo que permita o cumprimento da Lei de IA sem sacrificar a capacidade de inovação.”.

A Excelia apoia as empresas na adoção do Inteligência artificial De uma perspectiva prática e segura, eles ajudam as organizações a transformar seus objetivos de negócios em projetos tangíveis, ao mesmo tempo que estabelecem uma estrutura de governança que permite o uso controlado, responsável e em conformidade com a IA. Sua expertise combina conhecimento tecnológico, consultoria, cibersegurança e análise de dados para capacitar as organizações a integrar a IA em seus processos, proteger informações, mitigar riscos e avançar sobre uma base sólida.