Pode não vigorar no Brasil, como já existe na Europa, a obrigatoriedade da revisão por um ser humano de uma decisão tomada por um algoritmo com inteligência artificial. O dispositivo que garante esse direito na Lei Geral de Proteção de Dados foi vetado recentemente pelo presidente da República. O Congresso Nacional ainda tem a prerrogativa de derrubar o veto, mas a falta de debate acerca do tema está impedindo o entendimento adequado das consequências dessa medida.

As empresas e instituições defendem o veto, sobretudo aquelas com grandes quantidades de dados, como operadores de telefonia, bancos, varejistas, entre outras. Os gestores alegam que a revisão das decisões realizadas por algoritmo custa menos, é mais rápida e pode atender mais clientes simultaneamente quando comparado ao trabalho feito por um operador humano.
Ainda para o lado das empresas, o argumento é de que os algoritmos tendem a se aprimorar ao longo do tempo, à medida que os seus desvios são corrigidos tomando como ponto de partida os próprios erros e acertos, em um processo contínuo de aprendizagem. Diferentemente do ser humano, segundo os gestores empresariais, a inteligência artificial não fica estagnada.

Contudo, não se pode, apenas em nome da eficiência de processos, elevar o risco de prejuízo ao direito do consumidor. Há também questões éticas e de proteção social envolvidas. Uma coisa é o algoritmo revisar a negativa de crédito para financiamento de um fogão. Outra coisa é o algoritmo reavaliar a autorização de um procedimento de alta complexidade de um plano de saúde. No caso do fogão, o cidadão tem diversas opções de bancos e lojas para resolver a questão de forma simples. No caso do plano de saúde, essas possibilidades são muito reduzidas e lentas, podendo custar vidas em algumas situações.

Além disso, há outras consequências se o veto não for derrubado pelo Congresso Nacional. A mais imediata delas será o aumento da judicialização de questões que poderiam ser resolvidas em instâncias administrativas, o que mais uma vez prejudica o cidadão, além de aumentar os custos do sistema judiciário.

Outra consequência é ainda mais grave. Se levarmos em conta que raramente há um passo para trás quando da adoção em massa de novas tecnologias, um risco é a criação de precedente para permitir que outras relações também possam ser decididas e revisadas exclusivamente por algoritmos, tais como multas de trânsito, autuações da receita federal e até mesmo processos judiciais. É uma brecha que se abre para, em nome do enxugamento de custos públicos, limitar mais uma vez os direitos do cidadão.

A conclusão a que se pode chegar nesse momento é que a revisão de decisões tomadas por algoritmos sem intervenção humana ainda não está madura o suficiente para ser implantada. Deveria haver um debate abrangente, com audiências públicas, sobre esse tema tão delicado e que vai impactar uma grande quantidade de pessoas. O resultado de um processo mais democrático não é impedir o uso das novas tecnologias, mas criar regras mais justas para a implantação gradual e que coloquem o cidadão sempre em primeiro lugar.