Inteligência Artificial na Administração Pública: inovação tecnológica não afasta a responsabilidade do Estado

O uso da IA pode modernizar o Estado, mas não altera o regime constitucional de responsabilidade perante o cidadão.

Vinicius Vogel 

A nova fronteira da Administração Pública

A Inteligência Artificial vem reconfigurando a forma como a Administração Pública exerce suas funções. Há ferramentas capazes de processar milhares de documentos em segundos, elaborar minutas, identificar padrões em bases de dados massivas, organizar informações e subsidiar a tomada de decisões já integram a rotina de órgãos como o Poder Judiciário, o Ministério Público, as Advocacias Públicas e os Tribunais de Contas.

O avanço é inevitável e desejável. A adoção responsável da IA pode tornar os serviços públicos mais céleres, eficientes e acessíveis, um imperativo da própria eficiência administrativa (art. 37, caput, CF/88).

No entanto, esse novo cenário impõe um desafio jurídico que não pode ser negligenciado: quem responde quando uma decisão baseada em IA causa prejuízo ao cidadão?

A resposta, à luz do Direito Administrativo brasileiro, é mais clara do que certos debates setoriais fazem parecer: a responsabilidade continua sendo da Administração Pública.

IA é ferramenta, não agente público

Muito se discute sobre a autonomia dos algoritmos, a possibilidade de responsabilização do agente público que os opera, ou mesmo da empresa desenvolvedora da tecnologia. Essa discussão, porém, não pode perder de vista um ponto estrutural: a Inteligência Artificial não possui personalidade jurídica, não pratica atos administrativos e não exerce função pública.

Ela auxilia quem efetivamente decide, pois não é um ser de autonomia de vontade ou mesmo de decisão motivada, que são elementos base para decisões em âmbito administrativo. 

O ato administrativo continua sendo praticado pela Administração Pública, por intermédio de seus agentes, que permanecem responsáveis pela análise, validação e formalização da decisão. A IA não substitui a vontade administrativa,  fornece subsídios para sua formação. A decisão final, com seus efeitos jurídicos concretos, é sempre humana e imputável ao Estado.

Nesse sentido, o princípio da accountability algorítmica, previsto no art. 20 da Lei nº 13.709/2018 (LGPD) e reforçado pelo art. 22 do PL nº 2.338/2023 (marco regulatório da IA em tramitação), exige que decisões automatizadas sejam passíveis de revisão humana. A supervisão não é facultativa, é requisito de validade do ato administrativo apoiado por IA.

A Constituição não criou exceção para decisões com IA

O art. 37, § 6º, da Constituição Federal estabelece que as pessoas jurídicas de direito público respondem objetivamente pelos danos que seus agentes, nessa qualidade, causarem a terceiros. Esse regime decorre da teoria do risco administrativo e tem como finalidade precípua proteger o administrado, evitando que ele suporte o ônus da atuação estatal.

A adoção da IA não modifica essa lógica constitucional.

Exigir que o cidadão demonstre se o erro decorreu do algoritmo, do servidor que o operou, da empresa desenvolvedora ou da base de dados utilizada seria incompatível com a própria finalidade da responsabilidade objetiva. O administrado mantém uma única relação jurídica direta: com a Administração Pública.

Foi o Estado quem escolheu implementar determinada tecnologia, definiu seus parâmetros de utilização e a incorporou à prestação do serviço público. Por isso, deve assumir os riscos decorrentes dessa escolha, inclusive aqueles imprevistos ou de concretização remota, que integram a álea administrativa ordinária.

Inovação não pode criar escudo para o Estado

À medida que o uso da IA se expande, surge uma preocupação relevante: utilizar a complexidade tecnológica como justificativa para afastar ou mitigar a responsabilidade estatal.

Essa conclusão seria frontalmente incompatível com o sistema constitucional brasileiro.

A tecnologia não rompe o nexo entre o Estado e o administrado. Ao contrário: quanto maior a sofisticação das ferramentas utilizadas pelo Poder Público, maior deve ser seu compromisso com a transparência, a auditabilidade e a supervisão humana.

A inovação não pode servir como argumento para reduzir garantias fundamentais. Se o Estado opta por utilizar IA na prestação de serviços públicos, assume também o dever de responder pelos riscos inerentes a essa utilização,  sob pena de transferir ao cidadão o custo da modernização administrativa.

A responsabilização do agente público ocorre em outro momento

Reconhecer a responsabilidade objetiva da Administração Pública não significa que o agente público jamais poderá ser responsabilizado. Significa respeitar a ordem constitucional de prioridades:

Primeiro, protege-se o cidadão lesado, com reparação integral e célere.

Em momento posterior, apura-se a origem do erro.

Se demonstrado dolo ou culpa do servidor, por negligência, imprudência, imperícia ou utilização inadequada da ferramenta, caberá ação regressiva para ressarcimento ao erário, exatamente como prevê o art. 37, § 6º, in fine, da Constituição.

Da mesma forma, eventual falha técnica do sistema poderá ensejar medidas administrativas e contratuais contra a empresa desenvolvedora, com base no art. 70 da Lei nº 8.666/1993 ou no art. 138 da Lei nº 14.133/2021 (Nova Lei de Licitações), sem qualquer impacto sobre o direito do administrado à reparação integral.

A responsabilidade interna jamais substitui a responsabilidade externa do Estado.

Governança em IA é tão importante quanto a tecnologia

O verdadeiro desafio da Administração Pública não é apenas incorporar IA às suas rotinas, é fazê-lo com responsabilidade, transparência e controle.

Dessa forma, essa governança exige o seguinte:

• Políticas claras de governança algorítmica, com definição de níveis de autonomia, hipóteses de uso e limites de atuação;

• Avaliação permanente de riscos, incluindo vieses discriminatórios, segurança da informação e proteção de dados pessoais;

• Treinamento contínuo dos agentes públicos, para que compreendam as limitações e os riscos das ferramentas que utilizam;

• Auditoria independente dos algoritmos, com possibilidade de testes de conformidade e revisão periódica;

• Mecanismos eficazes de supervisão humana, garantindo que decisões de maior impacto sejam sempre validadas por servidor competente;

• Transparência ativa, com divulgação dos sistemas utilizados, critérios de funcionamento e indicadores de desempenho.

A tecnologia deve permanecer como instrumento de apoio à decisão administrativa, jamais como justificativa para decisões opacas, automatizadas ou desprovidas de controle. Quanto mais sofisticada a IA utilizada pelo Estado, maior sua obrigação de demonstrar que as decisões permanecem compatíveis com os princípios da legalidade, motivação, publicidade, eficiência e proteção dos direitos fundamentais.

A linha tênue entre inovação e responsabilidade

A Inteligência Artificial representa uma oportunidade histórica para tornar a Administração Pública mais eficiente e preparada para os desafios da transformação digital. Seu uso, contudo, não inaugura um novo regime jurídico de responsabilidade.

A Constituição Federal continua sendo o principal parâmetro de proteção do cidadão. A Administração Pública permanece objetivamente responsável pelos danos decorrentes de sua atuação, ainda que praticada com auxílio de sistemas inteligentes.

Em momento posterior, apuram-se as responsabilidades internas dos agentes públicos ou de terceiros contratados, preservando-se o direito de regresso previsto no art. 37, § 6º, da Constituição.

A IA pode auxiliar o Estado a decidir. Mas jamais poderá assumir a responsabilidade constitucional que pertence ao próprio Estado.

Ao final, a verdadeira discussão talvez não seja sobre quem responde pelos erros da Inteligência Artificial, mas sobre como garantir que a tecnologia fortaleça a confiança do cidadão na Administração Pública, em vez de enfraquecer as garantias que a Constituição lhe assegura.