Ética e governança em inteligência artificial: dos princípios fundacionais à responsabilidade

Tema: Inteligência Artificial — Panorama Geral

▶ Veja o resumo em vídeo no YouTube: assista aqui

Em 2016, mais de cem especialistas em ética de inteligência artificial entregaram contribuições a um relatório que tentava responder a uma pergunta que boa parte do setor ainda não formulava com clareza — quem responde quando um sistema autônomo erra? O documento era o Ethically Aligned Design (EAD), publicado pela IEEE Standards Association dentro da recém-lançada IEEE Global Initiative for Ethical Considerations in Autonomous and Intelligent Systems, num momento em que as discussões sobre ética em IA e governança de dados eram bem menos visíveis do que são hoje [1][2]. O EAD organizou o problema em oito princípios fundacionais — entre eles direitos humanos, bem-estar das pessoas e transparência — e teve uma segunda versão em 2017, ambas abertas a consulta pública [1].

Uma década depois, os temas que o relatório antecipou viraram preocupação de legisladores, tecnólogos e do público: viés, violação de privacidade de dados, disseminação de desinformação e perda de controle sobre agentes de IA [1]. Seria fácil contar essa história como uma profecia bem-sucedida. Não é bem isso. A contribuição mais duradoura do ciclo iniciado em 2016 não foi o vocabulário ético — foi a conversão lenta, parcial e institucionalmente incômoda desse vocabulário em processo auditável, com a criação de normas como a IEEE 7000-2021 e esquemas de certificação [3][4][5]. E o gargalo que resta, sustentarei aqui, não é semântico: é de incentivo econômico e de ausência de evidência sobre resultados. Dez anos produziram infraestrutura para decidir; ainda não produziram prova de que a decisão correta foi tomada.

2016: a ética antes do mercado de ética

O EAD não nasceu como instrumento de conformidade. Seu propósito declarado era "avançar a discussão pública sobre como essas tecnologias inteligentes e autônomas podem ser alinhadas a valores morais" [6]. A formulação é decisiva: um documento que se apresenta como contribuição a um debate não estabelece obrigações, não define sanções e não cria instância de recurso. Ele cria vocabulário compartilhado — e, com ele, a possibilidade de que requisitos éticos passem a ser tratados como requisitos de engenharia.

Foi exatamente esse deslocamento que os autores do relatório buscaram. A leitura que se consolidou na literatura de governança descreve o EAD como um roteiro para construir sistemas centrados em humanos "desde o início, e não como um adendo posterior", embutindo explicabilidade e accountability nos sistemas [7]. O princípio de direitos humanos, tal como formulado na versão consolidada, é sintomático dessa ambição operacional: sistemas autônomos e inteligentes devem ser criados e operados para "respeitar, promover e proteger" direitos humanos [8] — um enunciado que já soa como critério de aceitação, não como exortação moral.

Aqui está a primeira limitação que a celebração de dez anos tende a obscurecer. Oito princípios enunciados em paralelo não resolvem conflitos entre si. Transparência irrestrita colide com privacidade; bem-estar agregado pode ser invocado contra direitos individuais. Documentos de princípios raramente estabelecem hierarquia ou procedimento de arbitragem para esses choques, e essa ausência não é um detalhe redacional: é a razão pela qual times de produto conseguem citar o mesmo relatório para justificar decisões opostas. O valor do EAD foi tornar o conflito visível — não resolvê-lo.

De 2016 a 2021: quando princípio virou procedimento

A resposta institucional do IEEE ao problema da tradução veio na forma de norma técnica. A IEEE 7000 estabelece um processo-modelo que organizações podem usar para tratar preocupações éticas durante a exploração de conceito e a especificação de requisitos de um sistema [3]. A versão 7000-2021 é descrita por bibliotecas de governança de IA como a primeira norma internacional a oferecer uma metodologia sistemática para embutir ética diretamente nos processos de design de sistemas [5], e o próprio IEEE a apresenta como um processo que acompanha também a especificação de requisitos, o desenvolvimento e o design do sistema [3].

A mudança de gênero textual importa mais do que a mudança de conteúdo. Um relatório pede adesão; uma norma pede conformidade documental. Ao transformar valores em etapas — identificação de stakeholders, elicitação de valores, tradução em requisitos, verificação —, o IEEE criou aquilo que a ética aplicada sempre precisou e raramente teve: artefatos que podem ser auditados por terceiros. O esquema IEEE CertifAIEd levou a lógica adiante, oferecendo a indivíduos e organizações um caminho informado por normas para fortalecer transparência, accountability e mitigação de viés algorítmico [4].

A comparação entre 2016 e 2026 também revela estabilidade vocabular que merece leitura ambivalente. Dez anos depois, os termos que organizam o debate continuam sendo transparência, justiça, accountability, supervisão humana e IA confiável, ainda que as abordagens divirjam e o princípio de fundo permaneça consistente [2]. Pode ser sinal de convergência madura — ou de ossificação conceitual, em que o vocabulário se estabiliza porque é confortável para quem já o domina, não porque descreva bem os sistemas que agora existem. Um relatório escrito quando modelos de linguagem de larga escala eram artigo de laboratório não tinha como antecipar que a principal fonte de dano ético da década seguinte seria a produção industrial de texto plausível e não verificável.

Bruxelas chegou depois: cronologia de uma dívida intelectual difícil de medir

O Regulamento Europeu de IA entrou em vigor em 1º de agosto de 2024 e passou a ter aplicação geral em 2 de agosto de 2026, com etapas escalonadas: as proibições de práticas de IA e as obrigações de letramento em IA vieram em fevereiro de 2025, e as regras para modelos de propósito geral chegaram em agosto de 2025 [9][10]. Em 2026, o pacote de simplificação conhecido como Digital Omnibus sobre IA, aprovado em definitivo pelo Conselho da UE em junho e em vigor desde julho, empurrou o calendário: as obrigações para sistemas de alto risco autônomos (os do Anexo III) passaram a valer só em 2 de dezembro de 2027, e as dos sistemas embutidos em produtos, em 2 de agosto de 2028 [9][10][11]. O mesmo pacote adiou para 2 de agosto de 2027 o prazo para que cada Estado-membro tenha ao menos um sandbox regulatório nacional, previsto no Artigo 57 [11]. Há ainda um prazo de legado em 2 de agosto de 2030 para componentes de IA de grandes sistemas de TI da União já em operação [10].

Existe uma tentação óbvia de apresentar essa arquitetura regulatória como desdobramento direto do trabalho iniciado em 2016. É preciso resistir a ela. A afirmação de que o EAD "inspirou e informou" organizações como a OECD, a IBM e os rascunhos do AI Act circula em publicações de membros da comunidade IEEE, como John C. Havens [12] — mas circula como reivindicação, não como achado documental. Rastrear influência intelectual entre um relatório de padronização e um regulamento com centenas de artigos exige análise de documentos preparatórios, registros de consulta pública e entrevistas com negociadores; nada disso está disponível nas fontes que sustentam a narrativa comemorativa. A convergência de vocabulário pode ser influência direta, difusão por um ecossistema de comitês interligados, ou invenção paralela diante do mesmo problema. As três hipóteses são compatíveis com os fatos conhecidos.

Isso não diminui o IEEE; reposiciona seu papel. O valor de um organismo de padronização não está em ser citado por legisladores, mas em produzir linguagem técnica que sobreviva à tradução jurídica. Quando o AI Act exige supervisão humana e gestão de riscos, ele opera com categorias que normas técnicas já haviam dissecado em procedimentos verificáveis [3][5][9]. A dívida existe, ainda que não seja mensurável: o regulador herdou um vocabulário operacionalizado por engenheiros, e herdou também os seus pontos cegos.

O abismo que dez anos de princípios não fecharam

Em 2019, Brent Mittelstadt publicou na Nature Machine Intelligence o argumento que se tornaria o principal contraponto à euforia dos princípios: "Principles alone cannot guarantee ethical AI" [13], artigo que hoje soma mais de 3.700 citações no Google Scholar [14]. Sua tese é que a ética de IA convergiu para um conjunto de princípios que se parece notavelmente com os quatro princípios clássicos da ética médica — mas que a analogia clínica falha em um ponto decisivo, porque o desenvolvimento de IA carece de objetivos comuns e deveres fiduciários, de história e normas profissionais, de métodos comprovados para traduzir princípios em prática e de mecanismos robustos de responsabilização legal e profissional [13]. Um médico que viola o princípio da não-maleficência perde o registro. Um engenheiro que viola um princípio ético em um sistema de recomendação, no máximo, muda de emprego.

Aqui assumo uma posição que a literatura comemorativa evita: a obsessão por redigir novas declarações de princípios está mal direcionada. O problema real nunca foi falta de valores compartilhados — em dez anos, nenhuma organização relevante se declarou contra a transparência ou a favor do viés. O problema é que o custo de ignorar um princípio é baixo e o custo de cumpri-lo é alto, mensurável e imediato, enquanto o dano evitado é difuso, estatístico e frequentemente atribuído a um sistema, não a uma pessoa. Enquanto a responsabilização permanecer coletiva e anônima, normas de processo serão necessárias e insuficientes.

A produção acadêmica recente confirma o diagnóstico ao tentar fechar a lacuna por outro caminho. Corrêa e colaboradores propuseram em 2024, na revista AI and Ethics, a metodologia de "resolução ética de problemas" (ethical problem-solving), que traduz princípios em implementações práticas por meio de questionários de avaliação de impacto e de um método de recomendação, explicitamente desenhada para encurtar a distância entre princípio e prática [15]. O problema da lacuna princípio-prática é objeto de investigação própria: análises dedicadas apontam que compromissos corporativos costumam ser vagos e de alto nível e listam, entre as causas da lacuna, incentivos desalinhados — o que inclui o chamado ethics washing — e responsabilidade difusa dentro das organizações [16]. O volume de literatura sobre a lacuna já é maior do que a literatura que demonstra ter fechado alguma.

E há uma questão anterior, raramente enfrentada: os quatro danos que mobilizam o debate público — viés, violação de privacidade, desinformação e perda de controle sobre agentes [1] — não são da mesma natureza. Viés é mensurável em conjuntos de dados e decisões; perda de controle é um cenário de engenharia de sistemas; desinformação é um fenômeno de ecossistema midiático, com causas que incluem incentivos de plataforma, economia da atenção e comportamento do usuário. Uma norma que opera no nível do processo de design de um sistema tem alcance limitado sobre o último. Confundir os quatro sob o rótulo de "ética de IA" produz a impressão de tratamento unificado e a realidade de cobertura desigual.

Discussão: infraestrutura, não juramento

O balanço honesto desses dez anos é que o IEEE construiu infraestrutura onde antes havia retórica. Um processo-modelo auditável, uma norma internacional com metodologia sistemática e um esquema de certificação formam a camada que faltava entre a declaração de valores e a verificação por terceiros [3][4][5]. Isso é mais do que a maioria das iniciativas de ética tecnológica conseguiu produzir no mesmo período, e é menos do que o problema exige.

A primeira tensão é temporal. As obrigações para sistemas de alto risco do Anexo III só vigoram em dezembro de 2027, e as dos sistemas embutidos em produtos, em agosto de 2028 [9][11]; nesse intervalo, a conformidade voluntária e a certificação privada ocupam o espaço que a lei ainda não ocupa. O efeito previsível é q

ue a certificação se torne, para algumas organizações, um selo de diferenciação comercial antes de ser um mecanismo de redução de dano — e, para outras, uma barreira de entrada. A segunda tensão é epistemológica: não há, nas fontes consultadas, evidência de que adotar a IEEE 7000 reduza danos observáveis. A ausência de estudos de resultado não é falha dos padrões; é falha do campo, que mediu a adoção de princípios com muito mais rigor do que mediu seus efeitos.

A terceira tensão é de escopo. Normas de design pressupõem que o dano se origina em decisões de projeto. Boa parte do dano em sistemas de IA se origina em decisões de implantação, escala e modelo de negócio — quem tem acesso, com que finalidade, sob que pressão de engajamento. Um processo que pergunta "quais valores este sistema deve respeitar?" é mais frágil diante da pergunta "quem lucra com este sistema funcionando mal?". Enquanto a ética aplicada não atravessar essa fronteira, ela permanecerá sendo, na melhor das hipóteses, uma engenharia de boa-fé.

Conclusão: três perguntas para a próxima década

A tese que este artigo defendeu é específica: o legado de dez anos de ética no IEEE não são os oito princípios de 2016, mas a transformação de princípios em processo auditável — e o limite desse legado está na economia da conformidade, não na clareza dos valores. Se isso está correto, a próxima década deve ser julgada por três perguntas, e não por novas declarações.

Primeira: existe evidência de resultado? Sem estudos que comparem sistemas desenvolvidos sob a IEEE 7000 com sistemas equivalentes fora dela, a norma permanece uma hipótese bem formulada. Segunda: quem paga a conta da verificação? Se a certificação for voluntária e cara, ela sinaliza compromisso de quem já podia pagar e deixa intacta a periferia do ecossistema, onde sistemas de alto impacto são construídos com recursos escassos. Terceira: como se atribui responsabilidade a pessoas? A analogia médica de Mittelstadt só funciona quando há normas profissionais e mecanismos de responsabilização [13]; enquanto a ética de IA for uma responsabilidade de comitê, ela será de ninguém.

Nada disso torna os últimos dez anos um exercício inútil. Torna-os um exercício incompleto, o que é diferente. O IEEE fez o trabalho difícil de converter linguagem moral em procedimento técnico; o que resta é o trabalho mais difícil, que nenhum organismo de padronização pode fazer sozinho — transformar procedimento em consequência.

Referências

[1] Pretz, K. (2026). IEEE Celebrates 10 Years of Incorporating Ethics Into AI Systems. IEEE Spectrum. https://spectrum.ieee.org/ieee-ethics-ai-systems

[2] IEEE Standards Association. A Decade of Ethically Aligned Design (EAD). https://standards.ieee.org/beyond-standards/a-decade-of-ethically-aligned-design-ead/

[3] IEEE Standards Association. From Principles to Practice: Understanding IEEE 7000 and Ethical Values in System Design. https://standards.ieee.org/beyond-standards/from-principles-to-practice-understanding-ieee-7000-and-ethical-values-in-system-design/

[4] IEEE Standards Association. How Can an AI Ethics Certification Benefit Your Team and Business? (IEEE CertifAIEd). https://standards.ieee.org/beyond-standards/how-can-an-ai-ethics-certification-benefit-your-team-and-business/

[5] VerifyWise AI Governance Library. IEEE 7000-2021: the standard for embedding ethics into system design. https://verifywise.ai/ai-governance-library/standards-and-certifications/ieee-7000-ethical-system-design

[6] IEEE Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems (2016). Ethically Aligned Design, Version 1 — For Public Discussion (PDF). https://standards.ieee.org/wp-content/uploads/import/documents/other/ead_v1.pdf

[7] VerifyWise AI Governance Library. IEEE Ethically Aligned Design. https://verifywise.ai/ai-governance-library/ethics-and-principles/ieee-ethically-aligned-design

[8] VerityAI. IEEE Ethically Aligned Design: 8 Principles and the 7000-Series. https://verityai.co/blog/ieee-ethically-aligned-design-guide

[9] EU Artificial Intelligence Act (atualizado em 2026). High-level summary of the AI Act. https://artificialintelligenceact.eu/high-level-summary/

[10] EU AI Act Implementation Timeline: All Application Dates. https://www.euaiact.com/implementation-timeline

[11] Conselho da União Europeia, via Serviço Europeu de Ação Externa (2026). Artificial Intelligence: Council gives final green light to simplify and streamline rules. https://www.eeas.europa.eu/delegations/chile/artificial-intelligence-council-gives-final-green-light-simplify-and-streamline-rules_en

[12] Havens, J. C. (2026). Publicação sobre os 10 anos de ética em IA no IEEE. LinkedIn. https://www.linkedin.com/posts/johnchavens_ieee-celebrates-10-years-of-incorporating-activity-7528586880645451776-RuJo

[13] Mittelstadt, B. (2019). Principles alone cannot guarantee ethical AI. Nature Machine Intelligence, 1(11), 501–507. https://arxiv.org/abs/1906.06668

[14] Google Scholar. Perfil de Brent Mittelstadt (citações de "Principles alone cannot guarantee ethical AI"). https://scholar.google.com/citations?user=tP685zYAAAAJ&hl=en

[15] Corrêa, N. K. et al. (2024). Crossing the principle–practice gap in AI ethics with ethical problem-solving. AI and Ethics, 5. https://arxiv.org/abs/2406.15376

[16] Montreal AI Ethics Institute (2021). Explaining the Principles to Practices Gap in AI. https://montrealethics.ai/explaining-the-principles-to-practices-gap-in-ai/

Fale com a Eliza
E

Eliza

Agente assistente