Durante los días 12, 13 y 14 de julio se celebró en el Palacio de la Magdalena (Santander) el curso “La protección de los derechos en la sociedad digital: Garantías para tiempos de crisis” organizado por la Universidad Internacional Menéndez Pelayo y la Fundación Gabeiras.

La última jornada concluyó con las intervenciones de Jesús Prieto de Pedro, catedrático de Derecho Administrativo en la UNED y presidente del Comité Académico de Aula de Gabeiras; D. Gonzalo Romero Jiménez, socio y director del departamento de derechos fundamentales y sociedad digital de Gabeiras y Asociados; y Clara Isabel Velasco Rico, profesora agregada de derecho administrativo en la Universitat Pompeu Fabra y doctora por la misma universidad.

“Los derechos en la sociedad digital. Desafíos y cautelas” fue la ponencia que impartieron los dos primeros que, como por su propio nombre indica, se centró en analizar diferentes temas relacionados con el impacto que ha tenido este nuevo ecosistema digital en los derechos de las personas.

Prieto de Pedro abrió la ponencia reflexionando sobre cómo esta nueva era digital ha cambiado el modo de vida del ser humano. Haciendo una comparación con la revolución industrial, el ponente disertó sobre como esta nueva revolución digital ha supuesto un cambio mucho más significativo a nivel global.

“Los algoritmos, que son inmateriales, llegan a tomar decisiones por nosotros. Nos hace creer que decidimos nosotros” afirmaba Prieto de Pedro. Esta revolución digital tiene un contenido industrial, pero también cultural, tal como fue la imprenta en la revolución industrial.

Lo digital también ha influido en nuestro sistema jurídico y en el sistema de valores de la sociedad. Esto afecta a los derechos clásicos y fomenta el surgimiento de otros nuevos. Los derechos fundamentales, como instrumento jurídico con mayores garantías, están siendo objeto de un cambio derivado de este contexto digital, tal y como señalaba el experto.

Los derechos fundamentales se han estructurado en tres generaciones o categorías: los derechos de libertad, derechos de igualdad y derechos de solidaridad. Según varios autores, los derechos digitales se consideran una nueva generación de derechos fundamentales. Sin embargo, Prieto de Pedro considera que determinar estos nuevos derechos como una cuarta generación podría suponer caer en un error conceptual, ya que cada generación se estructura en valores. Los derechos digitales no se articulan en base a un valor propio, sino que se encuentran ya en las tres generaciones al incluirse en los valores de libertad, igualdad y solidaridad: “Son extensiones y modulaciones de los derechos clásicos, como puede ser la libertad de expresión en redes” defendía.

Por último, el ponente introdujo en el debate el tema de los bienes comunes: “Muchos de los derechos fundamentales necesitan soporte de bienes públicos” Hay una necesidad de traspasarlo al contexto digital, identificando que son bienes públicos o comunes en el mismo.

D. Gonzalo Romero Jiménez inició su exposición haciendo una reflexión sobre cuál es el papel que desempeñan los abogados en la sociedad digital. Nos recordó que, desde el Estatuto General de la Abogacía Española, se enuncia que en un estado social y democrático de derecho, el abogado desempeña una función esencial, sirviendo a los intereses de la justicia mediante el asesoramiento jurídico y la defensa de los derechos y libertades. Asesoramiento que se basa en un derecho preventivo que garantice la tutela de los derechos y libertades de las personas, siendo necesario también en la sociedad digital.

Fruto de esta necesidad del derecho preventivo y el ‘compliance’, Romero Jiménez señaló como un gran exponente la propuesta de Reglamento (UE) de la Comisión Europea sobre el marco jurídico aplicable a los sistemas de Inteligencia Artificial (IA). Esta propuesta ha sido resultado de una clarísima vocación europea por garantizar los derechos fundamentales ante el uso de nuevas tecnologías.

En la propuesta de Reglamento se indican cuatro clasificaciones de riesgo de uso de los sistemas IA: riesgo inaceptable, alto riesgo, riesgo moderado y riesgo mínimo. El ponente advertía de que, aunque los sistemas de “alto riesgo” que describe la norma parecen de ciencia ficción (vigilancia masiva, modificación de la conducta de los individuos, sistemas de puntuación social, etc.) en algunos países ya se están dando, como es el caso del sistema de puntuación social chino. Es por ello que está totalmente justificado que se regule en esta propuesta de Reglamento para evitar cualquier tipo de injerencia en los derechos fundamentales de las personas.

Con esta futura norma, se propone hacer un control ex ante y ex post de estos sistemas, imponiéndoles unas obligaciones a los proveedores, antes y después de iniciar su comercialización. La responsabilidad de los abogados en el liderazgo del cumplimiento normativo en materia de IA será clave para una tutela preventiva del derecho, tal y como apuntaba Romero Jiménez.

Desde la práctica, en Europa ya ha habido pronunciamientos judiciales sobre el uso de sistemas algorítmicos. El ejemplo que expuso Romero Jiménez fue el de la sentencia del Tribunal Ordinario de Bolonia que falló en contra de Deliveroo debido a que el algoritmo utilizado en su aplicación discriminaba a los ‘riders’ en el acceso al trabajo.

También volvió a reiterar que el papel del abogado en relación a estos sistemas IA algorítmicos se encuentra en el cumplimiento desde el diseño, realizando un asesoramiento jurídico que permita asegurar la cultura del cumplimiento normativo desde el inicio de cualquier proyecto.

El ponente hizo un llamamiento a que estos algoritmos sean transparentes e informen de cuáles son los criterios utilizados para tomar las decisiones que afectan a las personas. La transparencia evita que haya un desequilibrio entre las partes, por lo que, por ejemplo, en los nuevos contratos de adhesión que se promulgan cada vez más desde redes sociales o aplicaciones digitales, es necesario que el consumidor sepa lo suficiente para poder ser consciente de su posición jurídica, concluía Romero Jiménez.

La última ponencia de la jornada la realizó Clara Isabel Velasco Rico bajo el título de “La Administración Inteligente y la personalización de los servicios públicos”.

Comenzó su presentación explicando el concepto de “personalización de los servicios públicos”. Según ella, “es una manifestación de la buena administración que contribuye a la eficacia y eficiencia públicas”, sin ser un concepto nuevo o fijo. Básicamente, consiste en adaptar los servicios a las necesidades específicas de cada persona, aclaraba la ponente. La tecnología puede contribuir a la personalización de estos servicios, aunque se puede personalizar sin ella.

Las dimensiones de los servicios públicos personalizados se pueden estructurar en torno a tres preguntas según Velasco Rico: ¿para quién?, ¿qué? y ¿quién? En relación a la primera pregunta, los servicios se pueden diseñar para una categoría de individuos que acuden a los mismos (mujeres, familias monoparentales, etc.) o para una persona específica. En cuanto a la pregunta de qué se puede personalizar, nos encontramos con varias respuestas como puede ser el aspecto del sistema de información, la información en sí, el interfaz del usuario, etc. Por último, la respuesta a la tercera cuestión es que puede ser de manera automática por el sistema o con participación del usuario.

La ponente también señaló cuáles son los riesgos de estos servicios públicos personalizados para los derechos de la ciudadanía categorizándolos en tres ámbitos: los relacionados con la vulneración de los derechos de las personas, los relacionados con los principios de funcionamiento de las AAPP y los relacionados con el uso de algoritmos.

“Cuando hablamos de Administración digital y la relación con la personalización de los servicios públicos estamos ante un nuevo paradigma de Administración ciudadano-céntrica” exponía Velasco Rico, un cambio de paradigma que va dirigido a los servicios públicos como servicios masivos.

Hay una evolución de la administración electrónica a la administración digital que presta servicios públicos personalizados. “¿Está preparada la actual administración para prestar este tipo de servicios personalizados? ¿Se ha desarrollado todo el potencial de la administración electrónica? ¿Le preocupa esta evolución a la ciudadanía?”, se pregunta Velasco Rico.

Para ella, la ciudadanía ha aumentado su nivel de exigencia en cuanto a la cantidad y a la calidad de los servicios públicos, queriendo participar también en su diseño.

Inteligencia artificial y big data son conceptos que contribuyen a la personalización de los servicios públicos de manera automatizada. Velasco Rico concluyó su intervención prediciendo que la IA será el próximo estadio tecnológico que alcanzará el sector público, implicando el análisis masivo de grandes volúmenes de datos e información a partir de los parámetros de big data.