Nenhum ser humano necessário: o plano da Áustria para decisões governamentais apenas com IA

Áustria permitirá que LLMs tomem decisões governamentais sem supervisão humana

A Áustria está prestes a descobriro que acontece quando um estado membro permite que modelos de linguagem grandes escrevam decisões governamentais legalmente vinculantes, sem que sejam necessários para revisá-las.

Este outono, oComitê de Assuntos Constitucionais do parlamento austríacodiscutirá uma proposta abrangenteMudançapara o paísLei de Procedimentos Administrativos Gerais (AVG)O AVG é o código procedural padrão para praticamente todos os processos administrativos na Áustria, abrangendo tudo, desde assistência social e licenças de construção até licenciamento empresarial e subsídios públicos.Uma única alteração no código geral pode, portanto, afetar a forma como as decisões são tomadas em quase toda a administração., não apenas em um setor. De acordo com o projeto de lei, as autoridades seriam, pela primeira vez, autorizadas a emitirdecisões administrativas totalmente automatizadas: decisões legalmente vinculantes com efeito direto nos direitos de uma pessoa, comparáveis ao que outras jurisdições podem chamar de ato ou ordem administrativa, sem que um humano revise o resultado específico antes de ser divulgado.

Antecipadamente ao debate deste outono,epicenter.works escreveu ao Comitê de Assuntos Constitucionais,enviando uma carta aberta detalhando exatamente por que decisões totalmente automatizadas sem revisão humana são incompatíveis com direitos fundamentais.

Tecnologia diferente, mesma lei

Vamos ser precisos sobre o que está sendo automatizado, porque o projetotrata a inteligência artificial generativa da mesma formaleis anteriores de automação tratavamsoftware baseado em regras simples.

Sistemas administrativos automatizados clássicos são determinísticos: mesma entrada, mesmo saída, lógica rastreável. Um sistema baseado em ummodelo de linguagem grandefuncionade forma fundamentalmente diferenteem três maneiras que se traduzem diretamente em uma garantia legal:

• Alucinação.Modelos de linguagem geram saídas que soam plausíveis, mas podem ser completamente erradas ou inventadas. Mesmo sistemas de IA jurídica especializados apresentam taxas de alucinação de aproximadamente 17 a 33%, e os erros muitas vezes são impossíveis de serem detectados pela pessoa afetada. Fatos alucinados que sustentam uma decisão vinculante afetam o direito a um julgamento justo, conforme o Artigo 6 da Convenção Europeia dos Direitos Humanos: uma pessoa não pode exercer esse direito de forma significativa quando a decisão contra ela é baseada em evidências que não existem.
• Caixa preta.A forma como o sistema chega a uma determinada saída não é estruturalmente totalmente explicável. Isso não é simplesmente "ainda não documentado", mas não é explicável mesmo em princípio com os modelos atuais. Isso entra em conflito com uma exigência básica do princípio de direito: que o exercício do poder estatal seja transparente e passível de revisão, não apenas eficiente.
• Viés.Distorções sistemáticas como raça, nível de renda, status de imigração, etc., estão incorporadas em como esses modelos são treinados e não podem ser eliminadas simplesmente escolhendo um "melhor" fornecedor. Se não forem controladas, isso corre o risco de tratamento desigual baseado em grupos que ninguém percebe, porque o sistema não o expõe, o que viola o princípio de não discriminação, que tanto a lei da UE quanto a constituição austríaca garantem explicitamente.

Não são falhas de implementação. São inerentes ao funcionamento dos LLMs atuais, e todas as objeções legais abaixo decorrem diretamente dessa realidade técnica.

Não é hipotético: dois exemplos, meses de distância

Semanas antes do debate parlamentar de outono deste ano,O próprio assistente de IA do estado austríaco"ida" forneceu umvislumbre do problema: descreveu falsamente um vice-reitor como membro anterior do governo einventou um ministro do governoque não existe.

Um exemplo mais sério veio do Reino Unido em julho de 2026. Um juiz do Upper Tribunal constatou que o Home Office havianegado um pedido de asilo... de uma mulher que havia escapado de um casamento forçado e de violência severa, citando um documento de política que, ao ser examinado, aparentemente nunca existiu. O juiz observou que a carta de recusa apresentava características de conteúdo gerado por inteligência artificial e sugeriu queProvavelmente, a referência em questão foi uma alucinação gerada por inteligência artificial., alertando que isso representaria um grave erro por parte do departamento, caso seja confirmado.

Ao lerem juntos, estes dois casos revelam uma escalada, desde um chatbot inventando o nome de um ministro na Áustria até a criação de um documento falso que sustenta a negação de proteção no Reino Unido, de forma exatamente na mesma linha de questões relacionadas a direitos fundamentais e fatos.Procedimento complexo que nunca deveria ser delegado a um sistema sem uma forma confiável de verificarsuas próprias alegações.

Duas novas leis, um grande problema

O projeto de lei (89/ME) concede às autoridades duas novas competências que são controversas individualmente:

• Chatbots(§§ 13, 13a AVG) que não apenas informam os cidadãos, mas também podem tratar o que alguém informa ao sistema como uma declaração formal em um processo.
• Decisões totalmente automatizadas(§ 18a AVG) com efeito legal real, e sem envolvimento humano no caso individual. Quais tipos de processos realmente se qualificam para isso é, em grande parte, deixado para legislação secundária, uma regulamentação, em vez de estar escrito na própria lei.

O segundo ponto enfrenta um problema estrutural que vai além do gerenciamento de riscos de IA: de acordo com a lei constitucional austríaca, decisões tão significativas devem ser tomadas pelo parlamento, por meio de uma lei, e não delegadas à administraçãopara decidir por si. O projeto transfere essa responsabilidade para a "autoridade superior" que é materialmente responsável pelo assunto em questão, e isso é um grupo muito mais disperso do que parece. Dependendo do assunto, pode ser um ministro federal, um governo estadual, ou, já que a Áustria tem aproximadamente 2.092 municípios, cada um administrando seus próprios assuntos locais, um conselho municipal. Não há um ou poucos órgãos que tomam essa decisão: oo poder de definir o escopo da automação está distribuído entre potencialmente milhares de tomadores de decisão separados, cada um autorizando o uso de uma tecnologia cujos riscos eles podem ter pouca capacidade de avaliar, e cada um também responsável por garantir que seu próprio sistema atenda aos requisitos específicos do setor da Lei de IA. Confiar em milhares de potenciais tomadores de decisão para verificar sua própria conformidade é uma proteção inadequada. Não háexclusãona lei em sipara áreas sensíveiscomo asilo ou assistência social, um ou outro. Isso é deixado inteiramente para a legislação secundária, caso a caso.

Os tribunais austríacos exigem há muito tempo que umoficial humanomantenha o que é conhecido comoinfluência decisivaem relação a uma decisão automatizada para que ela seja considerada um ato genuíno do Estado, um padrão criado para sistemas simples e baseados em regras, décadas atrás.Ninguém tem uma resposta viávelpara o que esse padrão realmente significa, aplicado a um modelo que não consegue explicar completamente sua própria saída. Os quatro pontos do projeto, rastreabilidade, uma fase de testes, a capacidade de intervenção e verificações contínuas, são medidas padrão de governança de TI para qualquer implantação no setor público. Eles não testam realmente se existe uma "influência decisiva"; eles evitam a questão.

O projeto tambémdesloca o risco para as pessoasafetados por isso.Cidadãos têm duas semanas para contestaruma decisão automatizada, um período curto quandoerros de um LLM são frequentemente invisíveissem escrutínio cuidadoso, enquanto oautoridadepode revogar a mesma decisão por iniciativa própria por atédois meses, em alguns casos, mesmo sem apontar um erro específico, simplesmente citando um "sistemático". O governo mantém a opção de corrigir seus próprios erros posteriormente; a pessoa que recebe a decisão fica com a incerteza no meio tempo.Além disso, a Áustria ainda não possui um órgão independente de supervisão de IA, apesar do Ato de IA da UE que exige exatamente isso.

O que a epicenter.works exige

A posição da organização é direta:

• Um ser humano deve tomar a decisão finalnas decisões administrativas, como regra, e não como exceção.
• Nenhum cheque em branco para casos complexos ou sensíveis.O projeto de lei deve conter uma exclusão legal para processos envolvendo fatos particularmente complexos ou que sejam especialmente sensíveis sob uma perspectiva de direitos fundamentais, como asilo ou assistência social.
• O parlamento, e não uma futura regulamentação, deve decidir.Se essas áreas serão automatizadas ou não deve ser decidido na própria lei, e não deixado para uma regulamentação decidida posteriormente pela mesma autoridade que se beneficiaria com a automatização.

Transformar um debate interno em uma notícia nacional

Em março de 2026, o ministério enviou o projeto de lei para consulta. Por meses, o debate permaneceu confinado nas 35 submissões apresentadas durante esse processo, um assunto técnico e restrito. O projeto de lei foi desde então apresentado no parlamento como um projeto de lei do governo, e o debate parlamentar está agendado para o outono e inverno deste ano.

epicenter.works ainda espera que o processo produza mudanças antes de ser finalizado, o que é parte das razões pelas quais publicou sua carta aberta ao Comitê de Assuntos Constitucionais no início de setembro de 2026. Em poucos dias, a emissora nacional austríaca ORF cobriu o projeto na televisão eonline, e a rádio pública entrevistou o presidente da associação de juízes da Áustria. Issonão é mais um debaterestrito a círculos de legal-tech.

Uma exceção, ou o primeiro de muitos?

De acordo com o epicenter.works, a Áustria é atualmente uma exceção absoluta ao permitir decisões totalmente automatizadas em uma ampla gama de assuntos administrativos, com o escopo largamente deixado para futuras regulamentações. Mas a organização faz essa afirmação com cautela: não há evidências coerentes e atualizadas sobre a posição de outros países europeus, e existem lacunas em seu próprio conhecimento.

Existe alguma lei comparável que tenha sido discutida, proposta ou considerada viável em seu país?Se você souber de algo, ou puder confirmar que nada parecido existe, epicenter.works gostaria genuinamente desaber de você.

Contribuição de: Membro da EDRi,epicenter.works