Gestión de riesgos en los sistemas de información con IA: los puntos de control y el descubrimiento digital

Bayron Prieto

Director General de Ediligence SAS y perito informático

Con el uso de la inteligencia artificial generativa (IAG) se ha demostrado el inmenso potencial de procesamiento y comunicación que poseen los sistemas de información en nuestras actividades diarias. No obstante, no se puede perder de vista que, aunque estas tecnologías pueden optimizar una amplia gama de tareas, también conllevan riesgos inherentes a su uso.

La facilidad con la que se pueden realizar tareas que antes eran complejas ha llevado a la transformación de muchos puestos de trabajo en las empresas e, incluso, a su desaparición. A medida que estas herramientas disruptivas se vuelven más conocidas, las opiniones sobre sus beneficios y riesgos crecen, junto con la necesidad de que sean empleadas de manera ética e informada.

Dilema

Es cierto, estamos en una ambivalencia, por un lado, nos encontramos ante un panorama lleno de oportunidades, por el otro, se evidencia un sinnúmero de riesgos. En este contexto, nunca ha sido más importante como ahora, que quienes gestionan la información sean capaces de identificar estos riesgos e implementar soluciones adecuadas. Estamos ante el conocido “dilema de la seguridad de la información”, que implica decidir entre la usabilidad y los controles de un sistema. Es por ello que debemos preguntarnos: ¿el desarrollo de modelos de inteligencia artificial (IA) es infalible para mantener la confidencialidad, la disponibilidad y la integridad de los datos?

La respuesta es clara: no. Principalmente, por dos hechos sustanciales. El primero, por su naturaleza, los sistemas de IAG son sistemas abiertos, es decir, que son aquellos que “intercambian materia con el medio circundante, que exhiben importación y exportación, constitución y degradación de sus componentes materiales” (Bertalanffy). De acuerdo con esto, no se podría garantizar que un sistema genere el 100 % de confianza y seguridad digital, pero lo que sí se puede es controlarlo y gestionarlo para identificar sus potenciales debilidades o amenazas.

Lo segundo, la IA, como hasta ahora ha sido desarrollada, aún tiene un alto contenido de información gestionada por humanos, que puede tener márgenes de error por la naturaleza misma de los sistemas que se gestionan.

Por lo tanto, no podemos asumir de inmediato que los sistemas de IAG reemplazarán funciones estratégicas o tácticas en las organizaciones y que, por ejemplo, sustituirán a jueces, peritos u otros roles importantes en la administración de justicia.

Es claro que se deben aprovechar las bondades de los sistemas de información que utilizan IAG, empero, estas deben ser evaluadas para mitigar un eventual impacto negativo. Para este efecto, propongo el uso de las siguientes dos herramientas prácticas:

(i) Los puntos de control

Implementar estos puntos de control en el flujo algorítmico de la información generada y gestionada por sistemas de IA facilita la evaluación tanto de los resultados de los algoritmos como de los propios sistemas de IAG. Además, si los algoritmos o sistemas están protegidos por normas de propiedad intelectual, esta evaluación respetará dichas normativas, ya que se enfocará en los resultados obtenidos y no en la composición específica de las herramientas.

El desafío en la implementación de este tipo de controles radica en la transparencia de los desarrolladores de sistemas de IAG. Por ello, es indispensable la regulación y vigilancia por parte de las autoridades competentes, así como de instituciones que proporcionen lineamientos específicos para proteger de manera constante la confidencialidad, integridad y disponibilidad de los datos.

En mi opinión, los sesgos en los sistemas de IAG constituyen una violación a la integridad de la información, visto desde la perspectiva de la seguridad.

Una de las preocupaciones que surgen en torno al desarrollo de puntos de control es la posible deficiencia de los gobiernos en su implementación, además de los aspectos políticos que implica su gestión. 

Ahora, no puede perderse de vista que un aspecto fundamental que, lamentablemente, la tecnología aún no ha abordado adecuadamente es la lucha contra la corrupción. En la actualidad, contamos con numerosos sistemas de información que facilitan, miden y auditan diversos aspectos donde pueden surgir focos de corrupción y que, sin duda, pueden ser potenciados con la IAG. Un ejemplo de ello es el sistema de seguimiento de contratación estatal, como el Secop. En este contexto, la implementación de puntos de control, basados en modelos de datos abiertos, permitiría la evaluación constante y el seguimiento automatizado de los procesos públicos, lo que generaría alertas sobre posibles amenazas o infracciones a las normas, como la identificación de acuerdos de precios.

El descubrimiento digital

Sin duda, el uso de tecnologías en el desarrollo de programas de cumplimiento, en particular la herramienta de descubrimiento digital (E-discovery), mitiga riesgos. Aunque esta metodología, desarrollada por la Universidad de Duke, ha sido valiosa en litigios como una forma eficiente de gestionar información digital en la búsqueda de pruebas, considero que su mayor potencial reside en su uso como medida anticipada por parte de las organizaciones.

El descubrimiento digital permite investigar grandes volúmenes de datos para evaluar determinadas conductas, utilizando sistemas de información que las personas emplean en su trabajo diario.

Gracias a metodologías como esta, se han descubierto numerosos actos de corrupción en nuestra región. Sin embargo, esta herramienta suele ser vista más como una medida correctiva dentro de un proceso legal que como una preventiva, que puede ser útil para los programas de cumplimiento.

La Ley 2195 del 2022 presenta varias oportunidades en las que el uso de estas herramientas tecnológicas puede beneficiar a las empresas. Por ejemplo, en la graduación de sanciones (art. 5º), se consideran aspectos como: (i) la realización de procesos adecuados de debida diligencia y (ii) la adopción de medidas y acciones que permitan prevenir futuros actos de corrupción. También plantea desafíos importantes para la implementación de buenas prácticas de cumplimiento en entidades del Estado.

El descubrimiento digital cobra relevancia como una medida preventiva, no solo para cumplir con lo estipulado por la ley, sino también para alinear los programas de cumplimiento con los valores corporativos de las empresas y su ética corporativa.

Los modelos de E-discovery traen consigo el procesamiento y análisis de grandes volúmenes de datos con el uso de IA, el cual puede hacer frente a potenciales riesgos en los que se puedan involucrar sistemas de IAG.

Los programas de cumplimiento y las auditorías asociadas deben incluir revisiones periódicas de la información digital, apoyadas en el descubrimiento digital, para diagnosticar de manera efectiva si existe o no corrupción en las empresas, siempre respetando la ley y los datos personales. Sin este enfoque, existe el riesgo de que los programas de cumplimiento se conviertan en rutinas ineficientes y burocráticas que no aporten valor a las organizaciones.

Considero que los programas de cumplimiento que incorporan metodologías y obtienen resultados mediante herramientas como el descubrimiento digital son bien recibidos por cualquier autoridad que ejerza vigilancia y control.

El descubrimiento digital es una herramienta que fortalece cualquier programa de cumplimiento y, junto con el desarrollo de puntos de control acertados, refuerza la lucha contra la corrupción en la práctica. En palabras simples: nos ayuda a pasar del papel a la realidad.

Finalmente, creo que existen numerosos retos frente al uso responsable de los sistemas de IAG. Sin embargo, en la actualidad, ya se cuenta con modelos que (desde su diseño) pueden hacer que se implementen controles que garantice el uso de las tecnologías de manera ética y respetando por el ordenamiento jurídico.

Gracias por leernos. Si le gusta estar informado, suscríbase y acceda a todas nuestras noticias, los datos identificadores y los documentos sin límites.

Paute en Ámbito Jurídico

Siga nuestro canal en WhatsApp.