Jornadas Internacionales de Derecho, Inteligencia Artificial y Gobierno

Dr. José Ochoa Luna
Universidad Católica San Pablo, Perú

En la ponencia se contextualizará, inicialmente, sobre lo que es la Inteligencia Artificial,desde el punto de vista de la Ciencia de la Computación, cuales han sido los avances más recientes, oportunidades y riesgos, principalmente lo concerniente a la IA generativa.A seguir se presentará tres tipos de tareas legales donde se está aplicando la IA, basado en un artículo (Promises and pitfalls of artificial intelligence for legal applications):

1. Procesamiento de información: Incluye tareas como resúmenes y búsqueda de información legal. Aunque la IA ha mejorado estas tareas, no representa un cambio revolucionario para los expertos legales.

2. Tareas que involucran creatividad, razonamiento o juicio: Como preparar documentos legales. La evaluación de la IA en estas tareas es difícil debido a la falta de respuestas únicas correctas y la sensibilidad a los prompts.

3. Predicciones sobre el futuro: Como predecir resultados de casos judiciales o riesgo de reincidencia criminal. Puede ser que haya limitaciones en la precisión y fiabilidad de estos sistemas.

También se destacarán varios problemas en la evaluación de la IA legal:

– Contaminación de datos: superposición entre datos de entrenamiento y evaluación.
– Falta de validez de las pruebas: Las evaluaciones no reflejan tareas del mundo real.
– Sensibilidad a los prompts: Pequeños cambios en las instrucciones pueden afectar significativamente los resultados.

Para algunas aplicaciones específicas y bien definidas, como la detección de errores comunes en documentos legales, la IA podría ser útil si se implementa con las salvaguardas adecuadas. Sin embargo, se advierte contra el uso de IA para tomar decisiones vinculantes sin supervisión humana.

El despliegue efectivo de la IA en contextos legales requiere pasar de evaluaciones puramente técnicas a evaluaciones que consideren el contexto específico de implementación. Se enfatiza la importancia de preguntarse cómo se evaluó un sistema de IA antes de determinar para qué se puede utilizar. Si bien la IA tiene potencial para mejorar ciertos aspectos de la práctica legal, su implementación debe ser cuidadosa, basada en evidencia sólida y con una comprensión clara de sus limitaciones.

Dr. Juan David Quiceno Osorio
Universidad Católica San Pablo, Perú

La ponencia tiene como objetivo plantear los elementos generales que permitan discutir la realidad de la inteligencia artificial y su lugar en el mundo como objeto tecnológico. Para ello, en primer lugar, intentaremos dar una definición de la metáfora de la inteligencia artificial. Es decir, distinguir el sentido con el que se usan las palabras inteligencia y artificial en referencia al ser humano y a las máquinas. El ejercicio de la inteligencia humana se realiza en medio de un mundo circundante que existe entre las personas y que se sostiene tanto sobre la conciencia de sí como de la apertura intencional de la inteligencia a lo otro del mundo, de la altruidad y de lo divino. Por su parte, la “inteligencia artificial” es una obra humana con cierta autonomía que, en cierta medida, bebe de la abstracción humana y de la potencia computacional para procesar una ingente cantidad de información “digitalizada”. Dado que esta obra está hecha a imagen de ciertos procesos cognitivos del ser humano y que tiene una tendencia marcadamente antropomórfica, resulta esencial analizar estos rasgos para encontrar tanto sus semejanzas como sus especificidades. Al plantear estos aspectos podremos pasar a un segundo punto que abordaremos en la ponencia, es decir,plantear la distinción entre los objetos mecánicos y artificiales. Esto con el fin de reflexionaren torno al grado de autonomía que la “inteligencia artificial” puede alcanzar y, por tanto,de la manera cómo se debe plantear la tarea de responsabilidad humana. Será este aspecto el que nos abrirá paso a un último elemento en la ponencia. Se trata de abordar la pregunta si, frente a todas estas distinciones que genera el análisis de la realidad de la “inteligencia artificial” como una novedad que surge de la “mezcla” entre lo técnico y lo tecnológico y,además, frente a su orientación antropomórfica, si es necesario proponer una ontología sectorial y un aparato lingüístico con nuevas categorías que eviten la confusión y le den contornos precisos al marketing de estas tecnologías. Nuestra conclusión es que sería preciso, antes de lanzarse a plantear algún tipo de novedad filosófica, ética o legal, recuperarla visión del ser humano como princeps analogatum y revertir con ello la idea, cada vez más aceptada consciente o inconscientemente, que la inteligencia artificial es la base de comprensión de la inteligencia humana o su nuevo escalón evolutivo.

Dr. José Chávez-Fernández Postigo
Universidad Católica San Pablo, Perú

Desde que los derechos humanos se convirtieron en el núcleo axiológico no solo del derecho internacional sino también de las constituciones políticas de los países a partir de su inclusión en sus Cartas de derechos fundamentales, la dignidad ha sido tanto invocada para la justificación de derechos universales e indisponibles de toda persona, como para su interpretación concreta. Se lo ha hecho desde muchas concepciones, aunque destacan sobre todo dos. Aquella que la concibe de alguna u otra forma como autonomía moral de matriz kantiana —por ejemplo, Alexy oAtienza, y aquella que lo hace como consecuencia axiológico-jurídica de la condición depersona o naturaleza humana de matriz aristotélica —por ejemplo, Finnis u Hervada—. En dicho contexto se hace indispensable distinguir cuál de las dos concepciones de la dignidad mencionadas puede cumplir más razonablemente con su rol de justificación de criterio interpretativo maestro de derechos universales e indisponibles.

Para responder a la pregunta —en la línea de lo sostenido por Waldron— se hace necesario indagar por la idea antropológica subyacente a la tesis de una igual y universal dignidad humana. En esta ponencia se defenderá la tesis de que es la dignidad entendida como ontología —naturaleza humana o condición de persona— aquella que, no obstante, sus problemas, tiene mayor consistencia en orden a la explicación del núcleo axiológico-jurídico de nuestros actuales Estados constitucionales de Derecho.

Una vez establecido esto se procederá a examinar no sólo las características antropológicas que lo hacen posible, sino que justifican que en el caso de los Sistemas de Inteligencia Artificial Generativa no solo no pueda hablarse con propiedad de dignidad humana o de personalidad jurídica, sino de que la extensión analógica de esta terminología para nominarlas de ese modo, a través podría resultar, antes bien, perniciosa para enfrentar tanto las ventajas como los desafíos que nos ofrece esta revolución tecnológica.

Dr. Carlos Amunátegui Perelló
Pontificia Universidad Católica de Chile

Resumen: La presente exposición explora el estatuto jurídico que tienen los agentes artificiales. Para ello, se comienza por encuadrarlos dentro de la categoría de los objetos de Derecho, recurriendo para ello a las ideas romanas sobre cosas corporales y cosas compuestas. Para finalizar, se plantea la posibilidad de convertirlas en sujetos de Derecho.

Abstract: This lecture explores the legal status of artificial agents. To do this, we begin by framing them within the category of objects of law, resorting to Roman ideas about corporeal things and composite things. Finally, the possibility of turning them into subjects of law is raised.

Palabras Clave: Agentes artificiales, cosas corporales, cosas incorporales, cosas compuestas

Key words: Artficial agents, corporal things, incorporeal things, composite things

Mg. Federico Lubian
Università degli Studi di Padova, Italia

La intervención aborda el Reglamento de la Unión Europea sobre la Inteligencia Artificial(AI Act) desde la perspectiva del derecho privado y su intersección con las denominadas transiciones gemelas: la digitalización y la sostenibilidad. Este reglamento, primero en su género a nivel mundial, busca establecer un marco jurídico uniforme para el desarrollo,comercialización y uso de la IA en la UE, regulando un fenómeno que ya incide profundamente en nuestra vida cotidiana. Partiendo de la experiencia de un jurista especializado en derecho privado comparado y en derecho informático, la presentación explora cómo el AI Act busca equilibrar la promoción de la innovación con la protección delos derechos fundamentales y la sostenibilidad ambiental, económica y social.

El enfoque basado en riesgos es uno de los pilares del AI Act. Los sistemas de IA se categorizan según su potencial de causar daño, estableciendo prohibiciones para los riesgos inaceptables (como la manipulación subliminal o el uso de sistemas de identificación biométrica en tiempo real en espacios públicos) y requisitos de evaluación de conformidad más estrictos para los sistemas de alto riesgo, que incluyen aquellos utilizados en áreas como la educación,la justicia y la gestión  de trabajadores.Asimismo, el reglamento adopta un enfoque flexible de aplicación territorial, al extender sus disposiciones a proveedores y usuarios fuera de la UE siempre que sus sistemas de IA generen un efecto significativo en el mercado europeo, para garantizar la protección de los consumidores y entidades comunitarias sin centrarse exclusivamente en el lugar de incorporación del proveedor. Este criterio de alcance se alinea con otras regulaciones comunitarias como el GDPR y el DigitalServices Act, fortaleciendo el entorno de protección y cumplimiento dentro del mercado interno.

Dra. Matilde Pérez
Pontificia Universidad Católica Santa María de los Buenos Aires (UCA), Argentina

En la vida diaria nuestras actividades cotidianas se encuentran atravesadas por diversos procesos tecnológicos en las cuestiones más sencillas como programar una cafetera o más compleja como un estudio clínico en miras a detectar de forma precoz una enfermedad. En el medio, billeteras digitales, reconocimiento facial, huella digital, chatbot, asistencias virtuales, redes sociales o internet, ponen de manifiesto que las innovaciones tecnológicas conviven con nosotros sin que muchas veces lo advirtamos.
Desde lo jurídico, la aplicación de los diversos tipos de IA, la machine learning, el deep learning, redes neuronales, cajas negras, la recogida de grandes volúmenes de datos para usos diversos, la influencia del uso de la robótica, entre otros ponen a debates cuestiones de carácter jurídico y filosófico acerca de la centralidad y la dignidad humana en estos procesos que ocurren de una manera y a una velocidad inusitada de manera que, por momentos,pareciera que se nos escurre entre los dedos.
En el ámbito del derecho de daños o de la responsabilidad civil, no basta con que el legislador regule y el juez resarza los diversos rubros indemnizatorios con una mayor expansión.
Estos especiales contextos de incertidumbre científica y masividad de daños probables y de daños previsibles encuentran en la función preventiva del daño un mecanismo que, a través de los principios de prevención y de precaución, así como el estudio de los riesgos de desarrollo permita gestionar riesgos y evitar o mitigar la causación de daños.

Dr. Daniel Ugarte Mostajo
Universidad Católica San Pablo, Perú

La ponencia tiene por finalidad aportar con algunas reflexiones en torno al impacto y riesgos de la incorporación de la IA en distintos ámbitos de la actividad económica, y la consiguiente necesidad de su regulación para prevenir accidentes que pueden lesionar o dañar bienes e intereses valiosos de la persona humana. Asimismo, busca sentar algunas bases para la revisión y posterior profundización de las principales instituciones y figuras que conforman el Derecho de la responsabilidad civil, para asegurar que sus principios y reglas, presentes en el Derecho peruano, sean adecuados para el análisis de los eventos dañosos que podrían ocurrir con ocasión del funcionamiento y uso de sistemas de IA, y, como consecuencia de ello, brinden mecanismos idóneos para la obtención del resarcimiento o compensación delas potenciales víctimas, teniendo como premisa fundamental la centralidad de la persona humana y el necesario respeto de su dignidad.

Para lograr tales objetivos me ocuparé, en primer lugar, del concepto y características de la inteligencia artificial, con la finalidad de tener claridad acerca de qué hablamos cuando hablamos de esta nueva y disruptiva tecnología y por qué presenta retos para el Derecho dela responsabilidad civil. En segundo lugar, haré un breve recuento de las distintas propuestas de regulación de la Unión Europea en materia de responsabilidad civil por daños provocados por sistemas de inteligencia artificial, procurando identificar los aspectos más problemáticos en la materia. Finalmente, intentaré una aproximación preliminar a los retos que plantea la IA para el Derecho peruano de la responsabilidad civil y propondré, también de modo preliminar, algunas vías de solución, sentando las bases para su posterior profundización.

Mg. Mauricio Matos Zegarra
Ernst & Young, Perú

En la ponencia se buscará brindar elementos de aproximación a la profunda transformación que la inteligencia artificial (IA) está generando en el mundo laboral y, específicamente, en el ámbito del Derecho del Trabajo. En este proceso será enriquecedor cuestionar si la IA puede ser considerada como una nueva revolución industrial; y analizar la naturaleza misma del trabajo como actividad humana. Además, se buscará dimensionar el impacto dela IA en la regulación laboral, enfatizando los retos para los profesionales de nuestro tiempo.En seguida se estudia la posible dicotomía entre un “apocalipsis laboral” y un cambio de paradigmas que podría generar nuevas oportunidades. Finalmente, se subraya la importancia de establecer un marco ético y regulatorio que guíe el uso de la IA en el trabajo,asegurando la protección de los derechos de los trabajadores frente a las tecnologías disruptivas. Con ello en conjunto, se busca ofrecer una visión periférica para abordar los desafíos y oportunidades que la IA presenta para el trabajo y su regulación.

Mg. José Garaycochea Medina
Suárez Abogados + Consultores, Perú

La adopción de la inteligencia artificial (IA) y blockchain en el ámbito del consumo plantea varios desafíos jurídicos, desde el primer contacto, perfilamiento del consumidor hasta el contrato de consumo. En particular, los sistemas de IA pueden perpetuar sesgos y discriminación, generando decisiones injustas para los consumidores. La falta de transparencia en los algoritmos complica la capacidad de los usuarios para entender o cuestionar decisiones que afectan su acceso a productos y servicios. Además, el manejo masivo de datos personales sin el debido consentimiento expone a los consumidores a riesgos de violación de su privacidad.

La Unión Europea ha desarrollado un marco normativo para abordar estos riesgos,clasificando los sistemas de IA según su nivel de impacto en los derechos de los ciudadanos,desde riesgos prohibidos (manipulan el comportamiento del consumidor), alto riesgo(negar acceso al crédito, educación o formación profesional), riesgo limitado (chatbots y asistentes virtuales) y riesgos mínimos (requieren información y transparencia). Estas normativas exigen evaluaciones de impacto y transparencia en las decisiones automatizadas.

Mg. Fabricio Sánchez Concha
Benites, Vargas & Ugaz Abogados, Perú

La evolución de la Inteligencia Artificial (IA) está transformando un sinfín de aspectos en nuestra sociedad, siendo que el ámbito de la creación artística y cultura no es ajeno a dicha transformación. Esta ponencia analizará las implicaciones de la Inteligencia Artificial en el campo de los derechos de autor y los derechos conexos, enfocándose en tres ejes principales: la autoría, la originalidad y la protección de obras.

En primer lugar, se hará un breve recorrido respecto a los conceptos básicos que se abordan en Derechos de autor, esto a fin de tener una aproximación sobre la actual regulación peruana en cuanto a la materia. En segundo lugar, se abordarán los conceptos básicos relacionados con la IA, tomando en consideración definiciones brindadas por la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO), la Organización para la Cooperación y el Desarrollo Económico (OCDE) y, sobre todo, los conceptos expuestos en la Ley N° 31814, Ley que promueve el uso de la inteligencia artificial en favor del desarrollo económico y social del país, así como su proyecto de Reglamento.

La ponencia titulada “Inteligencia artificial y transformación digital en el sector público:oportunidades y desafíos para avanzar hacia una Administración Pública 4.0”, de Mariana Sánchez Caparrós, explora los beneficios y desafíos que plantea la implementación de inteligencia artificial (IA) y la transformación digital en el ámbito gubernamental. La expositora destaca que la transformación digital no se trata únicamente de adoptar nuevas tecnologías, sino de un cambio cultural y organizacional profundo que busca mejorar la eficiencia y brindar un mejor servicio público a la ciudadanía.

La ponencia analiza los siguientes puntos clave:

1. Oportunidades de la IA en el sector público: automatización de decisiones administrativas y reducción de costos operativos mediante sistemas que generan documentos, emiten licencias automáticamente, y mejoran la gestión de recursos y servicios públicos.

2. Transformación digital: se subraya la necesidad de evolucionar las estructuras organizacionales para crear valor de manera continua, adaptando los procesos a las necesidades de los ciudadanos y promoviendo un entorno de innovación y de trabajo interdisciplinario.

3. Impacto en los ciudadanos y empleados públicos: se busca mejorar la interacción con los servicios públicos y dotar a los empleados de herramientas eficientes que favorezcan su labor y adaptación a futuros desafíos.4. Gobernanza de datos y toma de decisiones automatizadas: la gestión ética de los datos, la privacidad, y la seguridad son aspectos cruciales para el éxito de la transformación digital.