Governança algorítmica no setor público: transparência, devido processo e responsabilidade

Tema: Inteligência Artificial em Governança e Políticas Públicas

Em 5 de fevereiro de 2020, o Tribunal de Haia ordenou a suspensão imediata do SyRI, o sistema holandês de detecção de fraude em benefícios sociais, por violação do artigo 8 da Convenção Europeia de Direitos Humanos [1]. O detalhe que raramente aparece na versão resumida da história: o SyRI não era uma ferramenta clandestina. Tinha base em norma oficial e finalidade declarada [1]. E ainda assim operava sobretudo em bairros de baixa renda, sem que os cidadãos atingidos tivessem como saber por que entraram no radar do Estado [1].

Cinco anos depois, em 27 de fevereiro de 2025, o Tribunal de Justiça da União Europeia (TJUE) enfrentou o mesmo problema em outro registro: no caso C-203/22, envolvendo a Dun & Bradstreet Austria, decidiu que a pessoa afetada por uma decisão automatizada tem direito a uma explicação dos procedimentos e princípios efetivamente aplicados, e que o segredo comercial não autoriza a recusa pura e simples dessa informação [2]. Dois tribunais, dois contextos — e o mesmo problema de fundo: a lei diz o que a máquina não pode fazer, mas não diz quem responde quando ela faz.

A tese deste artigo é desconfortável para os dois lados do debate. A regulação da inteligência artificial no setor público não está sendo decidida nos parlamentos que escreveram as leis de IA. Está sendo decidida, caso a caso, por juízes que improvisam com instrumentos que não foram feitos para isso — proteção de dados, direitos humanos, direito administrativo clássico. Isso produz vitórias reais e pontuais, mas está longe de constituir um regime de responsabilização. E a mais recente manobra legislativa de Bruxelas, ao adiar obrigações de alto risco, torna essa lacuna mais longa, não mais curta.

Bruxelas escreveu um calendário — e depois o reescreveu

O Regulamento (UE) 2024/1689, o AI Act, entrou em vigor em 1º de agosto de 2024 e passou a ser aplicável em 2 de agosto de 2026, com exceções: as práticas proibidas e as obrigações de alfabetização em IA valem desde 2 de fevereiro de 2025 [3]. O desenho original era escalonado e previsível, com os requisitos mais rigorosos — os dos sistemas de alto risco — no último degrau.

Esse degrau foi movido. O Regulamento (UE) 2026/1744, de 8 de julho de 2026, alterou o AI Act e adiou as obrigações dos sistemas de alto risco do anexo III de 2 de agosto de 2026 para 2 de dezembro de 2027; para os sistemas embarcados em produtos regulados do anexo I, o novo prazo é 2 de agosto de 2028 [4][5][6]. O pacote, conhecido como "Digital Omnibus", está em vigor desde 27 de julho de 2026 [3][6].

O adiamento tem defensores técnicos: a documentação exigida para conformidade de alto risco é pesada, e administrações públicas pequenas dificilmente teriam estrutura para cumpri-la no prazo. Mas há um efeito político que não aparece nas notas técnicas. Quando um legislador move um prazo que ele próprio escreveu, comunica que o cronograma é negociável. E o sinal é lido com precisão pelos fornecedores que vendem sistemas de triagem, pontuação e priorização para governos: a janela sem obrigações substantivas para o setor público ficou mais larga.

Para o funcionalismo, isso significa mais tempo operando sistemas que decidem sobre benefícios, fiscalização e alocação de recursos sem o padrão de gestão de risco que a lei previa. É tempo que pode ser usado para construir capacidade — ou consumido em silêncio.

O direito de explicação como muleta

Se o AI Act chega tarde aos sistemas de alto risco, quem está preenchendo o vácuo? Na União Europeia, a resposta é o Regulamento Geral de Proteção de Dados (RGPD), e o instrumento é o direito de explicação.

O caso C-203/22 é o exemplo mais nítido. Na Áustria, uma operadora de telefonia móvel recusou um contrato de 10 euros mensais a uma cliente com base em avaliação de crédito feita de forma automatizada pela Dun & Bradstreet Austria [2]. O TJUE fixou que o responsável pelo tratamento deve descrever o procedimento e os princípios efetivamente aplicados, de modo que a pessoa entenda quais dados seus foram usados e como; a mera entrega de um algoritmo não basta [2]. Quando houver segredo comercial ou dados de terceiros, a informação deve ser levada à autoridade de controle ou ao tribunal, a quem cabe ponderar os interesses em jogo [2].

É uma vitória conceitual importante. Mas há duas limitações que se comemoram menos do que deveriam. A primeira é de escopo: o caso nasceu de uma relação de consumo privada, não de um ato administrativo. O direito de explicação do RGPD protege dados pessoais; a decisão pública frequentemente não se esgota neles. Uma prefeitura que ordena inspeções por modelo preditivo de risco sanitário pode argumentar que a lógica do modelo não é dado pessoal do inspecionado — e o caminho processual se complica.

A segunda limitação é de remédio. Saber por que se foi negado um benefício não devolve o benefício. Sem uma doutrina de responsabilidade — quem paga, quem responde funcionalmente, qual o padrão de culpa —, o direito de explicação produz transparência sem consequência.

SyRI, Robodebt e o alerta de Lord Sales

O caso holandês e o caso australiano são a mesma história contada em fusos diferentes. No SyRI, o tribunal não proibiu o uso de dados ou de tecnologia em si — barrou um sistema aplicado sobretudo em bairros de baixa renda, que tendia a agravar vieses e discriminação [1]. Seis anos depois da sentença, o problema de fundo continua atual: sistemas de risco são autorizados por normas genéricas e avaliados apenas quando alguém tem recursos para litigar.

Na Austrália, a Royal Commission into the Robodebt Scheme (comissão real de inquérito) foi além da ilegalidade individual e propôs reforma institucional. Sua Recomendação 17.1 pede que o governo considere uma reforma legislativa para criar um marco jurídico consistente para a automação nos serviços públicos, com via clara de revisão para os afetados, informação em linguagem simples sobre o uso de decisão automatizada e regras de negócio e algoritmos disponíveis para escrutínio independente [7]. Na resposta de novembro de 2023, o governo aceitou a recomendação e se comprometeu a considerar oportunidades de reforma legislativa nesse sentido [7].

Essa é, possivelmente, uma das formulações mais avançadas em texto oficial: não uma regra sobre modelos, mas um regime sobre decisões. Vale, porém, medir a distância entre o compromisso e a prática. "Considerar oportunidades" não é prazo, orçamento nem órgão executor — e é exatamente essa tríade que separa reforma de comunicado.

Do Reino Unido veio uma formulação que merece ser levada a sério. Em palestra de 5 de novembro de 2025, Lord Sales, ministro da Suprema Corte do Reino Unido, examinou em que medida a metodologia do controle judicial está — e ainda não está — preparada para escrutinar a decisão automatizada na administração pública [8]. Ele recapitulou as exigências clássicas do direito administrativo: procedimento justo, em alguns casos o dever de fundamentar, levar em conta as considerações relevantes e apenas elas, agir para fins legítimos [8]. A consequência é tecnicamente séria: um modelo que não expõe sua lógica interna não é apenas opaco para o cidadão; ele dificulta demonstrar, nos termos em que o Judiciário examina atos administrativos, que essas exigências foram cumpridas.

Washington desmonta o que Bruxelas adia

Enquanto a União Europeia negociava prazos, os Estados Unidos mudaram de regime. A Ordem Executiva 14179, de 23 de janeiro de 2025, revogou a EO 14110 e determinou que o Escritório de Gestão e Orçamento (OMB) revisasse os memorandos M-24-10 e M-24-18 [9][10]. O M-24-10, de 28 de março de 2024, havia estabelecido requisitos de governança, inovação e gestão de risco para o uso de IA pelas agências federais [11]. Em 3 de abril de 2025, ele foi substituído pelo M-25-21, sobre o uso de IA pelo governo federal, e o M-24-18 deu lugar ao M-25-22, sobre aquisição de sistemas de IA [12][13].

Há um detalhe institucional que merece atenção: a EO 14365, de 11 de dezembro de 2025, voltou-se contra leis estaduais de IA [10]. Ou seja, no mesmo período em que reduziu requisitos internos de governança, o governo federal buscou limitar a regulação subnacional. Isso é coerente como estratégia industrial e problemático como estratégia de responsabilização: o nível de governo que mais executa políticas públicas é justamente onde a capacidade de auditoria tende a ser menor.

A assimetria transatlântica não é apenas de conteúdo, é de relógio. Bruxelas adia obrigações de alto risco para dezembro de 2027 [4]; Washington substitui sua estrutura de gestão de risco por orientação de uso e compras [12][13]. Nenhum dos dois movimentos cria o que falta: um regime de responsabilidade para decisões públicas automatizadas.

O contrapeso vem de outro andar. A Convenção-Quadro do Conselho da Europa sobre Inteligência Artificial, primeiro instrumento internacional juridicamente vinculante sobre IA, foi aberta para assinatura em 5 de setembro de 2024 e exige cinco ratificações, ao menos três de Estados-membros do Conselho, para entrar em vigor [14]. Em 11 de fevereiro de 2025, à margem da Cúpula de Ação sobre IA em Paris, Canadá e Japão assinaram o instrumento [15]. Seu mérito é ser principiológico, o que também é seu limite: tratados que exigem concretização são, na prática, convites — quem os implementa define o conteúdo.

A lacuna que ninguém quer nomear

Aqui é preciso assumir uma posição. A produção intelectual dominante sobre governança de IA está mal direcionada para o problema do setor público. Relatórios de ponta — como o International AI Safety Report 2026, liderado por Yoshua Bengio, com contribuições de mais de 100 especialistas e um painel consultivo com representantes de 29 países, da ONU, da OCDE e da UE — sintetizam evidências sobre capacidades, riscos emergentes e segurança de sistemas de propósito geral [16]. O AI Security Institute britânico avalia sistemas de fronteira desde novembro de 2023, em domínios críticos para a segurança nacional e pública [17], e em maio de 2026 anunciou um memorando de entendimento com o instituto australiano equivalente [18].

Nada disso é irrelevante. Mas avaliação técnica não é remédio jurídico. Um relatório que mede a taxa de erro de um modelo não responde à pergunta que o cidadão faz ao procurador: quem decidiu, com base em quê, e quem responde. A comunidade de segurança de IA constrói benchmarks; a comunidade jurídica constrói precedentes. Entre as duas há um vazio institucional — e é nesse vazio que administrações públicas compram sistemas de triagem.

É possível que toda essa sofisticação de avaliação de modelos esteja aprofundando, e não reduzindo, o déficit democrático. Ao deslocar o debate para a métrica técnica, ela transforma a decisão pública automatizada numa questão de engenharia, não de prestação de contas. E os governos que não têm laboratório de avaliação passam a depender, para sua própria justificação, do fornecedor que avalia o produto que vende.

O Brasil é um espelho útil. Em 10 de dezembro de 2024, o Senado aprovou o substitutivo baseado no PL 2338/2023, que seguiu para a Câmara dos Deputados [19]. O projeto dispõe sobre o desenvolvimento, o fomento e o uso ético e responsável da IA com base na centralidade da pessoa humana e, em novembro de 2026, ainda aguardava parecer na Comissão Especial sobre Inteligência Artificial da Câmara [20]. É um marco geral, de princípios e categorias de risco. A pergunta que fica não é se a lei é boa. É se ela responde à pergunta que o SyRI deixou aberta em 2020.

Conclusão

A regulação da IA no setor público está sendo escrita em duas velocidades incompatíveis. Os parlamentos produzem marcos amplos e calendários móveis; os tribunais produzem remédios pontuais com instrumentos emprestados. Entre um e outro, administrações operam sistemas que negam, priorizam e classificam cidadãos sem uma doutrina clara de imputação.

Três direções parecem necessárias. Primeira: transformar compromissos como o australiano em norma operacional — um regime de decisão automatizada no setor público, com registro auditável de fatores, via de revisão e responsabilidade funcional nomeada, como já esboçava a Recomendação 17.1 [7]. Segunda: tratar o direito de explicação como piso, não como teto, exigindo que a administração demonstre legalidade nos termos do direito administrativo clássico, como Lord Sales lembrou [8]. Terceira: usar a janela aberta pelo adiamento europeu [4] para construir capacidade de auditoria dentro do Estado, antes que a conformidade se torne um serviço terceirizado ao fornecedor.

O SyRI foi barrado por um juiz. Isso é o sistema funcionando — e é também o sistema falhando, porque ninguém deveria precisar de anos de litígio para descobrir que o Estado não sabe explicar suas próprias decisões.

Referências

[1] AlgorithmWatch (2020). How Dutch activists got an invasive fraud detection algorithm banned. https://algorithmwatch.org/en/syri-netherlands-algorithm/

[2] Court of Justice of the European Union (27 fev. 2025). Press Release No 22/25 — Judgment in Case C-203/22, Dun & Bradstreet Austria: Automated credit assessment: the data subject is entitled to an explanation as to how the decision was taken in respect of him or her (PDF). https://curia.europa.eu/jcms/upload/docs/application/pdf/2025-02/cp250022en.pdf

[3] European Commission (2026). AI Act | Shaping Europe's digital future. https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

[4] Parlamento Europeu e Conselho (8 jul. 2026). Regulation (EU) 2026/1744 amending Regulation (EU) 2024/1689 (AI Act). EUR-Lex. https://eur-lex.europa.eu/eli/reg/2026/1744/oj/eng

[5] EU Artificial Intelligence Act / Future of Life Institute (2026). Digital Omnibus on AI. https://artificialintelligenceact.eu/ai-act-explorer/digital-omnibus/

[6] Cloud Security Alliance (2026). EU AI Act's High-Risk Deadline: Deferred, Not Cancelled. https://labs.cloudsecurityalliance.org/research/csa-research-note-eu-ai-act-high-risk-deadline-omnibus-20260/

[7] Australian Government (nov. 2023). Government Response — Royal Commission into the Robodebt Scheme (PDF). https://www.pmc.gov.au/sites/default/files/resource/download/gov-response-royal-commission-robodebt-scheme.pdf

[8] Sales, Lord (5 nov. 2025). AI and Public Law: Automated Decision-Making in Government. Keynote Lecture for the Government Legal Department's Annual Conference. Supreme Court of the United Kingdom (PDF). https://supremecourt.uk/uploads/speech_lord_sales_051125_db5ebd7036.pdf

[9] The White House (23 jan. 2025). Removing Barriers to American Leadership in Artificial Intelligence. https://www.whitehouse.gov/presidential-actions/2025/01/removing-barriers-to-american-leadership-in-artificial-intelligence/

[10] CASRAI (2026). Executive Order 14179 & EO 14365: What They Do. https://casrai.org/guides/trump-ai-executive-orders-eo-14179-eo-14365

[11] Digital Government Hub (2024). OMB M-24-10: Advancing Governance, Innovation, and Risk Management for Agency Use of Artificial Intelligence. https://digitalgovernmenthub.org/examples/omb-m-24-10-advancing-governance-innovation-and-risk-management-for-agency-use-of-artificial-intelligence/

[12] Hunton Andrews Kurth (2025). OMB Issues Revised Policies on AI Use and Procurement by Federal Agencies. https://www.hunton.com/privacy-and-cybersecurity-law-blog/omb-issues-revised-policies-on-ai-use-and-procurement-by-federal-agencies

[13] Office of Management and Budget (3 abr. 2025). M-25-22: Driving Efficient Acquisition of Artificial Intelligence in Government (PDF). https://www.whitehouse.gov/wp-content/uploads/2025/02/M-25-22-Driving-Efficient-Acquisition-of-Artificial-Intelligence-in-Government.pdf

[14] Wahl, T. (2024). Council of Europe Convention on Artificial Intelligence. eucrim. https://eucrim.eu/news/council-of-europe-convention-on-artificial-intelligence/

[15] Global Affairs Canada (11 fev. 2025). Canada signs the Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law. https://www.canada.ca/en/global-affairs/news/2025/02/canada-signs-the-council-of-europe-framework-convention-on-artificial-intelligence-and-human-rights-democracy-and-the-rule-of-law.html

[16] Bengio, Y. et al. (2026). International AI Safety Report 2026. arXiv:2602.21012. https://arxiv.org/abs/2602.21012

[17] UK AI Security Institute (2026). Frontier AI Trends Report. https://www.aisi.gov.uk/frontier-ai-trends-report

[18] UK Government — DSIT e AI Security Institute (25 maio 2026). UK and Australia pact on fast-moving AI security risks. https://www.gov.uk/government/news/uk-and-australia-pact-on-fast-moving-ai-security-risks

[19] Agência Senado (10 dez. 2024). Senado aprova regulamentação da inteligência artificial; texto vai à Câmara. https://www12.senado.leg.br/noticias/materias/2024/12/10/senado-aprova-regulamentacao-da-inteligencia-artificial-texto-vai-a-camara

[20] Câmara dos Deputados (2026). PL 2338/2023 — ficha de tramitação. https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2487262

Fale com a Eliza
E

Eliza

Agente assistente