O uso de IA (inteligência artificial) pela Agems (Agência Estadual de Regulação de Serviços Públicos de Mato Grosso do Sul) deverá considerar a proteção de dados pessoais, a prevenção de discriminação e a supervisão humana proporcional aos riscos de cada projeto. As diretrizes estão em uma portaria publicada no Diário Oficial desta quarta-feira (14).
A norma estabelece critérios para desenvolver e testar tecnologias destinadas à fiscalização, ao monitoramento dos serviços públicos regulados e à gestão interna.
Entre as exigências, iniciativas que utilizem inteligência artificial deverão considerar a qualidade e a confiabilidade dos dados, a segurança das informações e a possibilidade de rastrear operações e resultados relevantes. A portaria também prevê avaliação de riscos, prevenção de efeitos adversos e transparência e explicabilidade, quando aplicáveis.
Supervisão humana deverá ser proporcional ao risco, “especialmente quando a solução puder afetar direitos ou interesses de usuários ou agentes regulados”, conforme o texto.
Na proteção de dados, a regra é limitar o uso de informações pessoais ao necessário para cada projeto. Isso vale desde a coleta até o acesso, o compartilhamento, o armazenamento e a conservação dos registros.
Os cuidados deverão ser incorporados desde a concepção das iniciativas e mantidos durante todo o período de desenvolvimento e utilização das soluções.
Para os testes, a portaria orienta o uso de dados anonimizados, agregados ou sintéticos sempre que isso for técnica e juridicamente possível e compatível com a finalidade do projeto. A intenção é evitar o emprego de informações pessoais reais quando elas não forem necessárias.
Dados anonimizados são aqueles que não permitem identificar uma pessoa, considerando os meios técnicos razoáveis disponíveis. Os agregados apresentam informações agrupadas, enquanto os sintéticos são produzidos artificialmente para uso no desenvolvimento e na avaliação de sistemas.
Projetos que envolvam dados pessoais sensíveis, tratamento em larga escala ou inteligência artificial com potencial relevante de afetar direitos deverão passar por avaliação prévia específica de privacidade e proteção de dados. A exigência também alcança compartilhamentos relevantes com terceiros e situações com risco elevado de dano material ou moral.
Quando juridicamente aplicável, essa análise deverá incluir um relatório de impacto à proteção de dados pessoais e medidas para prevenir ou reduzir os riscos identificados.
O compartilhamento de informações com empresas, startups, universidades ou instituições de pesquisa precisará ser previamente justificado e documentado. Deverão ser definidos a finalidade, a base jurídica, as responsabilidades dos envolvidos, os controles de acesso e as medidas de segurança.
Também será necessário estabelecer prazos para retenção, devolução, anonimização ou eliminação das informações e procedimentos para responder a incidentes de segurança.
Essa norma ressalta que a divulgação de resultados dos projetos não autoriza a exposição indevida de informações dos usuários. “O dever de transparência não constitui, por si só, fundamento para exposição de dados pessoais além do necessário, adequado e juridicamente autorizado”, estabelece.
Além das regras sobre inteligência artificial, a política prevê projetos experimentais, parcerias e testes supervisionados de novas soluções. As iniciativas serão classificadas conforme o impacto e o risco, com diferentes níveis de análise, autorização e acompanhamento.
A portaria foi assinada pelo diretor-presidente da agência, Carlos Alberto de Assis, e entra em vigor na data da publicação. Parte dos procedimentos dependerá de regulamentação específica, e a execução dos projetos deverá observar a disponibilidade orçamentária e financeira da Agems.