Inteligencia artificial y proceso penal: Apuntes para un uso ético y constitucionalmente adecuado

El mundo digital está abriendo las puertas a las decisiones de algoritmos en muchos ámbitos de la vida, también en el proceso penal, aunque como hemos visto no siempre con todas las garantías para poderlos considerar legítimos desde un punto de vista de su compatibilidad con el Estado democrático de Derecho, ni con la legitimidad constitucional y ética. Aquello que se puede analizar como una oportunidad puede acabar siendo un problema y una amenaza a los derechos fundamentales que están en el centro del constitucionalismo democrático.
Se requiere pues un mayor control, registro y evaluación de los algoritmos, de manera que se puedan detectar con transparencia los sesgos e inequidades a que pueden dar lugar. En lugar de una fe ciega hay que exigir una regulación más estricta y sobre todo una mayor evaluación y registro de los sistemas algorítmicos. En esa línea va el Reglamento europeo sobre IA, que se está acabando de tramitar y que entrará en vigor previsiblemente el año 2024.
La justicia predictiva puede tener sus riesgos, y si no se lleva a cabo un uso riguroso y revisable por humanos incluso puede tender a disparates, en lo que podríamos llamar una tiranía tecnológica , una gran amenaza a la libertad y la seguridad jurídica. Un juicio por máquinas es , a mi juicio, incompatible con la civilización. Los atentados a la privacidad por el uso masivo de los big data, a los derechos fundamentales, la desigualdad y en definitiva la injusticia, nos ha de poner en alerta y mejorar las condiciones de uso de esos sistemas algorítmicos.
La tecnología como producto humano no es neutral. Al revés, su mismo uso es una decisión política, que pone en relación el poder y la libertad. También es un hecho humano, por muy artificial que lo adjetivemos, con su capacidad para manipular, generar sesos y tendencias. Por eso, una justicia algorítmica ha de enmarcarse en las coordenadas analizadas en este trabajo, siendo consciente de los riesgos que puede producir. La clave es tener la inteligencia colectiva suficiente para no caer en los vicios del totalitarismo.