Con fecha 19 de julio se llevó a cabo el evento organizado por el Círculo Académico denominado: “Inteligencia Artificial: ¿Cuáles son los desafíos éticos y jurídicos en la protección de datos personales?”, el cual fue realizado marco del programa de voluntariado Tech & Law de la Facultad de Derecho y Economía de la Universidad Científica del Sur.
En esta oportunidad, se contó con la participación de la abogada Olga Alcántara quien cuenta formación internacional avanzada, ha sido reconocida como investigadora y docente universitaria cuya especialización se orienta a áreas como Derecho de Consumo, Fashion Law, Propiedad Intelectual y regulación tecnológica. Durante su intervención reflexionó sobre los retos legales que enfrentan los países latinoamericanos frente al avance del comercio electrónico, el reconocimiento facial y los modelos de inteligencia artificial. Uno de los temas centrales abordados por la ponente fue la explicabilidad de los modelos algorítmicos, especialmente cuando ni siquiera los desarrolladores comprenden totalmente cómo evolucionarán dichos sistemas. Este vacío técnico compromete la validez del consentimiento informado y la protección efectiva del usuario frente a decisiones automatizadas.
Asimismo, la profesora Alcántara también alertó sobre los riesgos del sesgo algorítmico y abogó por evitar tanto la sobrerregulación, recomendando que las normativas evolucionen junto con los casos. En esa línea, recalcó la importancia de aplicar el principio de minimización de datos, procesando solo la información estrictamente necesaria.
Por otra parte, también se contó con la intervención de la abogada Macarena Del Busto, quien es una destacada profesional legal en Perú, especializada en Derecho Digital, protección de datos y compliance, la cual abordó temas vinculados a la inteligencia artificial, su regulación y los riesgos asociados al uso de estas tecnologías en el contexto nacional.
Durante su exposición, identificó una serie de elementos tecnológicos que hoy forman parte del entorno cotidiano: asistentes virtuales, algoritmos en redes sociales y plataformas digitales. A partir de ello, examinó distintos riesgos como la discriminación algorítmica, los deepfakes, el uso indebido de datos personales, y las sanciones impuestas por autoridades ante vulneraciones en este ámbito.
Adicionalmente a ello, se refirió al proyecto de reglamento de inteligencia artificial, comparando las posturas sobre autorregulación y regulación estricta, señalo la clasificación de riesgos planteada en marcos internacionales como el AI Act y el GDPR. Además subrayó la necesidad de una evaluación de impacto clara, planteando preguntas clave como: ¿Quién supervisa?, ¿Qué principios se están aplicando?, y ¿Qué riesgos deberían ser prohibidos o permitidos?
Otro aspecto abordado fue la tensión entre la transparencia algorítmica y la vigilancia masiva, con niveles de control que muchas veces resultan nulos o insuficientes. Del Busto también enfatizó la importancia de la figura del Delegado de Protección de Datos Personales, así como de principios como la evaluación de impacto, el consentimiento informado, la transparencia en la toma de decisiones y la supervisión humana en los procesos automatizados.
Finalmente, ambas especialistas coincidieron en que el uso de la inteligencia artificial se entrelaza directamente con el tratamiento de datos personales, por lo que no basta con cumplir las normas, sino también con demostrar su cumplimiento de forma activa. Concluyeron que no se trata de regular las tecnologías en sí mismas, sino los comportamientos que estas generan, subrayando el papel protagónico que tendrán los abogados del futuro en este nuevo escenario jurídico.