Algoritmos predictivos en el ámbito jurídico
¿Qué grado de certeza necesitamos para tomar decisiones que afectan la vida de otros? En el ámbito jurídico, esta pregunta resulta inevitable, ya que los jueces deben actuar bajo condiciones de información incompleta. Mientras algunos sostienen que solo podemos decidir de manera fundamentada cuando contamos con conocimiento pleno, posición conocida como la norma del conocimiento para la acción, otros defienden que debemos hacerlo evaluando probabilidades y calculando costos y beneficios para maximizar la utilidad esperada, lo que se conoce como teoría de la decisión. Este debate cobra una relevancia particular frente al avance de los algoritmos predictivos en el campo legal. Por ejemplo, en la decisión de otorgar libertad condicional o prisión preventiva, los algoritmos, previamente entrenados con datos históricos de otros casos, procesan información individual sobre antecedentes de arresto, historial de consumo de drogas, empleo, vivienda o género, y clasifican a las personas en categorías de “alto riesgo” o “bajo riesgo”, etiquetas que orientan la decisión judicial.
En un artículo publicado recientemente en Asian Journal of Philosophy, Eleonora Cresto, profesora del Departamento de Humanidades de la Universidad de San Andrés, examina los alcances y límites de estos algoritmos en la toma de decisiones jurídicas. Allí, advierte que los sistemas predictivos tienden a reproducir sesgos sistemáticos contra grupos históricamente desaventajados. Esto ocurre, por ejemplo, cuando la probabilidad previa de reincidencia varía entre distintos grupos, de modo que cualquier algoritmo que intente anticipar comportamientos humanos a partir de esos datos inevitablemente incumplirá algunos criterios deseables de equidad. Aunque se han propuesto múltiples criterios estadísticos para diseñar algoritmos más justos, se ha demostrado que, desde un punto de vista matemático, no es posible satisfacerlos a todos al mismo tiempo.
Sin embargo, Cresto enfatiza que esta indeterminación respecto a los criterios de equidad no implica que los algoritmos deban descartarse. Más bien, plantea un escenario análogo al de la teoría de la decisión. Así como se priorizan determinados resultados sobre otros, en el diseño de algoritmos es necesario elegir qué criterios de equidad se desea privilegiar. La profesora de UdeSA sostiene que tanto jueces como algoritmos trabajan con predicciones sobre el comportamiento humano: “Actuamos sobre la base de predicciones todo el tiempo, tanto en cuestiones cotidianas como en el contexto legal; sería difícil no hacerlo. Con los algoritmos el problema persiste”. Además, agrega que las decisiones humanas enfrentan los mismos dilemas de equidad y no están exentas de sesgos raciales o de clase; la diferencia es que los algoritmos hacen más explícitas sus limitaciones. Por ello, Cresto propone que, dado que nunca podremos cumplir simultáneamente con todos los criterios de corrección algorítmica deseables, resulta indispensable establecer criterios de justificación para nuestras creencias probabilísticas y complementarlos con principios secundarios de equidad que fortalezcan la legitimidad de las decisiones.