Conforme a IA transita da experimentação para a sua incorporação profunda na tomada de decisões, as abordagens de governança também devem evoluir. Tradicionalmente, a governança de IA tem se concentrado na gestão de modelos, dados e algoritmos.

No entanto, a inteligência de decisão muda esse foco para a governança das próprias decisões, por exemplo, em como elas são projetadas, executadas, monitoradas e auditadas. Essa mudança na governança é especialmente crítica no governo, onde a legitimidade pública depende da transparência e da imparcialidade.

A pesquisa do Gartner constatou que 39% dos entrevistados citaram a melhoria dos serviços e a satisfação do cidadão como principais razões para investir na construção da confiança dos cidadãos. A inteligência de decisão oferece uma base estrutural para operacionalizar essa confiança ao tornar os caminhos de decisão explícitos e auditáveis.

“Ao governar as decisões, em vez de apenas componentes isolados de IA, os governos podem equilibrar melhor a automação com o julgamento humano, especialmente em contextos de alto risco ou que impactam direitos”, afirma Nieto. “Indústrias regulamentadas e governos não podem confiar em sistemas opacos de ‘caixa preta’ para decisões importantes. A inteligência de decisão eleva a explicabilidade de um requisito técnico a um imperativo de governança.”

Devido à necessidade de transparência na tomada de decisões, o Gartner prevê que, até 2029, 70% das agências governamentais precisarão de mecanismos de IA explicável (XAI) e de intervenção humana (human-in-the-loop – HITL) para todas as decisões automatizadas que impactam a prestação de serviços ao cidadão. Os projetos de XAI e HITL são fundamentais para a inteligência de decisão no setor público. Esses mecanismos garantem que a lógica de decisão possa ser inspecionada, explicada e questionada. Graças à XAI e à HITL, os humanos também mantêm a autoridade sobre exceções, recursos e casos de alto risco, e a responsabilidade é preservada mesmo com o aumento da automação.