La intermediación de la IA en la voluntad: la regulación europea

Fernando Andrés Pico Zúñiga
Abogado Pontificia Universidad Javeriana
Magíster en Derecho de la Empresa y de los Negocios Universidad de Barcelona
Profesor de las universidades Javeriana y los Andes

El pasado 21 de mayo, el Consejo de la Unión Europea (UE) dio luz verde al que seguramente será el primer reglamento sobre inteligencia artificial (IA) del mundo. Aunque la iniciativa todavía no ha sido promulgada (al momento en que escribo esta columna falta su publicación en el Diario Oficial de la Unión Europea –un asunto de trámite y que se espera pronto–), se trata de un importante referente normativo por la incontrovertible significación de la UE a nivel social, cultural, económico y jurídico, y porque responderá al primer modelo legal para los distintos países que, como Colombia, vienen discutiendo las bases de la política pública y la necesidad de regulación sobre esta materia.

De hecho, hoy, en nuestro país, están cursando siete proyectos de ley que tienen como objetivo regular, desde distintos enfoques, la IA. De ellos, el Proyecto de Ley 559/2023 (política pública IA) es el más avanzado, al encontrarse pendiente de discutir ponencia para segundo debate.

Precisamente, sobre ese particular, la primera enseñanza que nos deja la naciente regulación de IA europea es que sí es posible ordenar la materia en un solo cuerpo normativo que se encargue de abordar, a la vez, la configuración institucional y de cimientos para la política pública, a fin de establecer lineamientos y vigilancia sobre los sistemas de IA, así como las obligaciones de los distintos actores involucrados en su operación, de acuerdo con los niveles de riesgos de los mencionados sistemas. Ojalá Colombia pueda hallar puntos de encuentro y profundizar en las distintas iniciativas en curso para resolver los asuntos que inquietan de la IA en los diferentes campos de incidencia. 

De acuerdo con el numeral 1º del artículo 3º de la regulación de IA europea, el “sistema de IA” se define como “... un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales…”.

La noción normativa en cita no es lejana a las distintas definiciones que ha ofrecido la literatura especializada. De entrada, la definición marca acento sobre uno de varios fenómenos achacados a la IA, que ha causado y causa inquietud, la posibilidad relativa a que los sistemas autónomos que forman parte de estas herramientas determinen las decisiones y conductas (voluntades) de las personas que los utilizan.

Ciertamente, cuando la IA intermedia las relaciones negociales y actividades humanas (que envuelven, pero no se limitan a las de consumo), puede generar distorsiones entre la voluntad y el comportamiento de la persona al formular inferencias, recomendaciones, advertencias, incentivos, etc., que inicialmente el usuario no tenía en mente y que lo conducen a actuar de manera ajena a lo que en principio tenía previsto. Lo que denomino, de acuerdo con el entendimiento civilista, la mediación e/o injerencia de la IA en la voluntad real y la voluntad declarada.

Sin embargo, la venidera regulación de IA europea, entre otros supuestos más, enlistados en su artículo 5º, prohíbe las técnicas subliminales, manipuladoras o engañosas que pueda utilizar un sistema de IA, si perjudica, de manera apreciable, la capacidad de la persona para la toma de decisiones, de modo que altera su comportamiento y causa daño significativo al usuario u otros sujetos de derecho (lit. a, num. 1º, art. 5º).

Si bien la regla en comento amerita un mayor entendimiento y desarrollo, que solo se conocerá con el paso del tiempo (entre otras, qué entender por técnicas subliminales, manipuladoras o engañosas; cuál es el estándar o criterios para establecer que en un caso concreto existe un perjuicio apreciable que atenta contra la capacidad para la toma de decisiones, una distorsión del comportamiento y/o un daño significativo), no es menos cierto que la norma parece admitir que la IA está habilitada para interferir en la voluntad y la toma de decisiones de los sujetos de derecho, pero solo será reprochable si, en esa interferencia, perjudica de manera significativa al usuario y/o a otras personas.

Sobre la voluntad y la libertad en las decisiones, explicaba el importante filósofo y teólogo escolástico, Juan Duns Escoto (1266-1308), que la voluntad va en busca de lo que le parece tanto bueno (justo, razonable) como útil (provechoso). Así, la justicia se establece como un freno para determinar hasta qué punto se debe perseguir lo útil o grato. Sin embargo, si un ángel es capaz de inclinarse más hacia lo útil que lo razonable (justo), ese ángel no será libre porque solamente es capaz de ambicionar lo provechoso sobre todas las cosas. “Una voluntad libre no está obligada a buscar la dicha incondicionalmente”.

¿Los sistemas de IA perseguirán sólo lo útil, serán justos, razonables, de acuerdo con el intelecto de cada ser humano, usuario?, ¿quién y con qué criterios lo determinará? Preguntas no menores si se tiene como referente el voluntarismo, que da lugar al principio de la autonomía de la voluntad privada e inspira a los códigos civiles derivados de la Revolución Francesa, entre ellos, el colombiano. Más cuando, en la posmodernidad, las normas de derecho privado han venido dando cabida a otro criterio conductual: la razonabilidad.

Coda: En materia de responsabilidad sobre los sistemas de IA, solo por mencionar algunas de las ideas que se estiman más importantes, la nueva regulación europea de IA prevé la aplicación, en lo pertinente, del capítulo II del Reglamento de Servicios Digitales (2022), alusivo a la responsabilidad de los prestadores de servicios intermediarios, y la Directiva de responsabilidad por productos defectuosos (1985), cuya reforma, para incluir precisamente a la IA y los productos con sistemas de IA, viene tramitándose. Tampoco puede olvidarse la propuesta de Directiva Europea de Responsabilidad Civil Extracontractual sobre la IA, que viene cursando en el Parlamento de la UE (próxima a primera lectura). Sobre ella haré algunos apuntes en mi próxima columna.    

Gracias por leernos. Si le gusta estar informado, suscríbase y acceda a todas nuestras noticias, los datos identificadores y los documentos sin límites.

 Paute en Ámbito Jurídico. 

Siga nuestro canal en WhatsApp.