Um juiz é primeiro selecionado pelas suas qualidades profissionais e humanas. Ele então passa por um extenso treinamento para justificar suas decisões. Por fim, ele nunca está sozinho, pois as ligações são possíveis. Nenhuma destas garantias se aplica a máquinas cujo desenvolvimento responde principalmente a interesses particulares. De uma forma completamente substancial, é, portanto, o défice democrático deste “Estado dos algoritmos” que nos deve preocupar urgentemente, uma vez que provoca uma transferência de responsabilidade sem precedentes para os designers que não têm outro mandato senão a viabilidade dos seus negócios e o cumprimento dos seus compromissos com seus investidores.
Jurimetria Big Data: conheça o universo da análise de dados jurídicos!
A última dificuldade que aqui será mencionada é de natureza técnica e diz respeito à fragilidade dos modelos que resultam num sistema jurídico de direito continental. Se entendermos que as variações na interpretação pretendem colonizar gradativamente os modelos matemáticos através de novos treinamentos, duas questões permanecem: a) se uma interpretação, mesmo que muito minoritária, leva a uma rápida reversão da jurisprudência, como o modelo se adapta? ; b) se a lei mudar, o que fazer com o modelo tão habilmente treinado? Da mesma forma, se considerarmos que da soma das práticas profissionais dos magistrados emerge um sentido, há que considerar o impacto da sua elevada mobilidade na qualidade dos modelos. Estas questões simples demonstram que a construção de catedrais algorítmicas é extremamente frágil quando, por natureza, as fundações estão mudando. Se há relativamente pouco risco de revolução através do treino de uma máquina para distinguir um gato de um cão, a questão jurídica revela-se muito mais versátil.