Especialistas en Evidencia Digital.

Cuando la Inteligencia Artificial sobrepasa los Derechos Humanos

¿Quién revisa y regula a la Inteligencia Artificial?

Carros sin conductor, guías de la música que más te gusta escuchar, selección de personal con vídeos a los que se les aplica algoritmos, chatbots que sustituyen a Call center, software para la creación de artículos y contenido para páginas web, juegos que exploran sus propios movimientos y los de sus contrincantes hasta aprender jugadas y volverse invencibles y hasta un Juez robot y un Abogado que pueda atender pequeños juicios, se cuentan entre los muchos casos que ya utilizan la Inteligencia artificial. ¿Qué sabemos de ésta? ¿Quién la regula jurídicamente? ¿Cómo podemos verificar las variables de un algoritmo de manera que no entrañe discriminación, faltas a la ética? ¿Quién hace ese trabajo de verificación al algoritmo? ¿A quién se le atribuye la Propiedad Intelectual de obras, escritos, entre otros, realizadas a través de IA

.

Entendiendo la Inteligencia Artificial

¿Qué es la Inteligencia artificial?

La IA puede verse como la capacidad tecnológica con la cual se configura a las máquinas o dispositivos, para realizar tareas que harían los humanos, pero no solo mecánicamente sino también interrelacionada con otras máquinas, buscando soluciones a problemas mediante la toma de decisiones. 

¿Qué es un algoritmo?

El algoritmo, es un conjunto de pasos o instrucciones (código fuente), es decir,  una serie de procesos lógicos que tienen como finalidad resolver un problema. En la IA funciona de manera tal que si no resuelve el problema con un paso, vuelve al paso número uno, hasta encontrar la solución correcta. Para ello, entonces: sigue la secuencia de pasos, a través de una red con nodos de conexión que simulan el cerebro humano y utiliza el razonamiento lógico hasta elegir entre las múltiples opciones, la que es capaz de solucionar el problema.  

¿Qué es un código fuente?

En informática, se entiende como código fuente, de acuerdo al Artículo 5, numeral 3 de la Ley de Infogobierno lo siguiente: “Texto escrito en un lenguaje de programación específico, contentivo de un conjunto de instrucciones que se puede compilar para generar un programa que se ejecuta en un computador, es el conjunto de líneas de texto escritas en un lenguaje de programación específico, que al ser procesadas por los compiladores e interpretadores adecuados, generan exactamente dicho programa que es ejecutado por el computador”.

Reviste una gran importancia a nivel jurídico ya que allí se describen las instrucciones que debe seguir el programa de IA, en las aplicaciones informáticas. Es precisamente en él, donde debe hurgarse, porque deben mostrarse y darse a conocer a la sociedad, sobre todo aquellos códigos fuentes que utilizan nuestros datos, búsquedas de información, entre otros. Si éste es desconocido ¿cómo podría ejercerse el derecho a la defensa ante situaciones discriminatorias, de exposición a riesgos o de menoscabo de derechos que estén implícitos en esos algoritmos y códigos fuente?

Principio de legalidad

La IA es necesaria para la automatización de ciertos procesos industriales, pero se ha visto con más precisión su utilidad en aplicaciones informáticas que arropan muchos ámbitos en la vida cotidiana y empresarial. Los desarrolladores de software crean sus aplicaciones, app, entre otros., y puede que en el desarrollo de las mismas incluyan requisitos contrarios a la norma jurídica.

¿Cómo podría verificarse por ejemplo que un algoritmo de IA, aplicable en la selección de personal, no discrimine a potenciales candidatos por su edad, raza, credo, orientación sexual, nacionalidad, posición política, entre otros. violando lo establecido en el Articulo 89, numeral 5, de la Constitución de la República Bolivariana de Venezuela y el Articulo 21 del Decreto con Rango, Valor y Fuerza de Ley Orgánica del Trabajo, los Trabajadores y Trabajadoras?

Marco de referencia

En España, en enero del 2021, se constituyó un equipo de investigación de Eticas Research and Consulting SL, bajo el encargo y la supervisión de la Agencia Española de Protección de Datos, el cual audita los productos o servicios basados en IA y que utilizan algoritmos, a fin de minimizar el impacto ético, social, legal, económico, empresarial y de gobierno, dando con ello un paso adelante en materia de defensa de los derechos fundamentales a la privacidad y a la protección de datos personales, que recoge la Carta de los Derechos Fundamentales de la Unión Europea, con lo cual trabajan ya en un marco normativo que sea de referencia para Europa.  

En Venezuela, en la Constitución Nacional en el Artículo 60, se establece “Toda persona tiene derecho a la protección de su honor, vida privada, intimidad, propia imagen, confidencialidad y reputación. La ley limitara el uso de la informática para garantizar el honor y la intimidad personal y familiar de los ciudadanos y ciudadanas y el pleno ejercicio de sus derechos

Por su parte, la Ley de Infogobierno, trata en el Artículo 25 sobre la protección de datos personales e indica lo siguiente: “El uso de las tecnologías de información por el Poder Público y el Poder Popular comprende la protección del honor, vida privada, intimidad, propia imagen, confidencialidad y reputación de las personas; en consecuencia, está sujeto a las limitaciones que establezca la ley sobre la materia”.

En el ámbito de la administración pública por el hecho de que tienen acceso a todos los datos personales, los artículos anteriores pueden verse afectados con la utilización de algoritmos con manejo indebido de datos, ya que la innovación y la programación de sistemas informáticos pueden atentar contra el derecho a la privacidad, a la no discriminación, al principio de igualdad ante la ley, entre otros, lo cual hace necesaria la regulación jurídica de los algoritmos, para que sean revisados, evaluados, auditados, probados, a fin de evitar discriminación, menoscabo de derechos o posibles sesgos, por la creatividad de algunos desarrolladores de software y de utilidad de Big data, que por desconocimiento de las normas jurídicas, puedan perjudicar a grupos de personas, sobre todo a aquellos que sean más vulnerables y que no tienen como saber cuándo un código fuente los perjudica o cuando utilizan sus datos personales. Es decir, debe verificarse que se pretende con su uso, en forma cualitativa y cuantitativa, qué datos utiliza, para qué y sus objetivos. 

 La utilización de algoritmos es a todo nivel, en todas las áreas, pero debe dársele prioridad a evaluar aquellos en los cuales manifiestamente se involucren derechos sociales, de salud, económicos, de trabajo, judiciales, y otros de interés o impacto social, estén involucrados en su creación tanto la empresa privada como la administración pública, ya que ambos deben asumir  las responsabilidades legales y sociales de un impacto negativo de la aplicación de esos algoritmos. En ese sentido y tal como sucede con SUSCERTE, entidad reguladora de todo lo que tiene que ver con la seguridad informática y sistemas digitales a nivel de la administración pública, incluida las de la Firma electrónica, también debe crearse un ente único que regule la permisología y auditoria de los algoritmos que se vayan creando y establecer una base de datos que pueda ser consultada por los usuarios, donde se detalle las variables que utiliza el código fuente, mostrado bajo un lenguaje entendible por los usuarios y la revocatoria de algoritmos que así hayan sido determinados por los expertos auditores. 

En conclusión, la creación de una ley especial que regule lo anterior, es imprescindible, puesto que la IA tiene un gran auge en la actualidad, son muchas las ideas innovadoras que se están llevando a cabo. Con dicha ley se permitirá comprobar técnicamente la funcionalidad de los algoritmos, la utilización de códigos fuentes que no estén reñidos con las normas de protección de datos y otros derechos y de ser así, que se les permita a sus diseñadores, la corrección debida como requisito previo para su uso en aplicaciones con IA. Esto implica desarrollar mecanismos que permitan auditar estas aplicaciones, para que sean diseñadas, desarrolladas, probadas y utilizadas de una forma aceptable desde el punto de vista legal, pero también que sean de progreso, justas, rentables y socialmente éticas, atendiendo especialmente al principio ético de beneficencia.

.

¿Eres Abogado? ¿Ya conoces la Plataforma Jurídica que conecta a Abogados con clientes? Te invitamos a conocernos y a afiliarte en: https://juridicosvenezuela.com/para-abogados/

Abg. Nuria Alvarez

Te Recomendamos

enero 13, 2023
Firma del Convenio Interinstitucional de Formación entre Fundaceate- UC y el Escritorio Jurídico Lazarus, Alvarez & Asociados, S.C
julio 12, 2024
Antes de iniciar las pruebas de penetración se debe asegurar la legalidad y transparencia del proceso. Este consentimiento debe ser explícito y detallado
julio 5, 2024
La Dra. Álvarez propone la implementación de medidas más estrictas para la verificación de pruebas digitales en futuros casos.
mayo 21, 2024
¿Cómo se determina si un bono es salarial o no? Debemos comenzar por dirimir lo establecido en la ley como salario.
mayo 21, 2024
El efecto fundamental del concubinato es la existencia de una comunidad concubinaria,
× ¿Cómo puedo ayudarte?