Corea del Sur y los deepfakes: un laboratorio regulatorio para la era de la síntesis digital

La estrategia coreana responde a una serie de crisis sociales y políticas, incluyendo el aumento de la pornografía no consentida generada por inteligencia artificial y la amenaza de la desinformación en procesos electorales, lo que ha llevado al legislador a priorizar la seguridad ciudadana y la integridad democrática sobre un modelo de innovación tecnológica carente de supervisión.

1. La Ley Básica de Inteligencia Artificial

El eje central de la regulación administrativa en Corea es la Ley Básica sobre el Desarrollo de la Inteligencia Artificial y el Establecimiento de una Base de Confiabilidad, conocida comúnmente como la Ley Básica de IA. Promulgada en diciembre de 2024 y con entrada en vigor plena el 22 de enero de 2026, esta legislación es descrita por las autoridades coreanas como uno de los primeros cuerpos legales integrales del mundo diseñados para regular la inteligencia artificial a nivel nacional.

La estructura de la ley consta de 43 artículos distribuidos en seis capítulos, estableciendo un equilibrio entre el fomento de la industria tecnológica y la protección de los derechos fundamentales de los ciudadanos.

Clasificación de la IA de alto impacto y supervisión humana

Un concepto fundamental introducido por esta ley es la creación de categorías indicativas o sectores típicamente considerados para el uso de IA. El legislador coreano ha identificado sectores donde el uso de algoritmos y modelos generativos puede tener consecuencias irreversibles para la vida humana, la seguridad física o los derechos fundamentales. Las empresas que operan en estos campos deben cumplir con requisitos de transparencia y seguridad mucho más estrictos que el resto de la industria.

La ley estipula que para cualquier aplicación clasificada como de alto impacto, la supervisión humana no es una recomendación, sino un mandato legal. Esto busca evitar la automatización total de decisiones críticas que puedan discriminar o perjudicar a los individuos sin posibilidad de recurso humano.

Obligaciones de transparencia y etiquetado de deepfakes

Para combatir la desinformación y el uso malicioso de imágenes sintéticas, la Ley Básica de IA impone un requisito de transparencia que afecta directamente a la producción de deepfakes. El artículo 31 de la ley exige que cualquier contenido generado por IA con posibilidad razonable de confusión debe incluir etiquetas claras. Estas etiquetas pueden ser marcas de agua visibles, indicadores auditivos o metadatos incrustados, dependiendo de la naturaleza del contenido.

En el caso de los videojuegos y las animaciones, el Ministerio de Ciencia y TIC (MSIT) ha permitido que las etiquetas se integren en los metadatos para minimizar la intrusión estética, siempre que la naturaleza sintética del contenido pueda ser verificada por medios técnicos. Sin embargo, para los deepfakes realistas que circulan en redes sociales, la visibilidad es obligatoria. El incumplimiento de estas normas de etiquetado puede acarrear multas administrativas de hasta 30 millones de wones, tras un período de gracia de un año diseñado para que las empresas ajusten sus flujos de trabajo técnicos.

2. La respuesta penal ante la violencia sexual digital

Uno de los motores más potentes de la reforma legislativa en Corea ha sido la proliferacion de la pornografía deepfake no consentida. En septiembre de 2024, la Asamblea Nacional aprobo enmiendas drasticas a la Ley sobre Casos Especiales relativos al Castigo de Delitos Sexuales, transformando radicalmente la forma en que el sistema judicial aborda estos crimenes.

Criminalización del consumo y la posesión

Históricamente, la ley coreana se centraba en quienes producían o distribuían material ilegal. La reforma de 2024 cerró una laguna jurídica crítica al criminalizar por primera vez el acto de poseer, comprar, almacenar o visualizar deepfakes de contenido sexual explícito creados sin el consentimiento del sujeto. Esta medida busca atacar la demanda que sustenta la creación de este material, estableciendo que el simple consumo es un acto delictivo que daña la integridad de la víctima.

Es relevante destacar que la ley eliminó el requisito de demostrar la "intención de distribuir" para castigar la creación del contenido. Ahora, el simple hecho de crear un deepfake sexual no consentido es punible con hasta siete años de prisión, independientemente de si el perpetrador planeaba compartirlo o no.

Poderes de investigacion y protección de menores

La gravedad de la situación, con más de 800 casos evaluados en 2024 y una alta participación de menores de edad como agresores (411 de 506 sospechosos detenidos en un período específico eran adolescentes), llevó al gobierno a ampliar las capacidades de la policía. Las investigaciones encubiertas en línea, que anteriormente estaban restringidas a casos que involucraban a víctimas menores, ahora están autorizadas incluso cuando las víctimas son adultos. Esto permite a los equipos especializados en delitos cibernéticos infiltrarse en grupos de mensajería y plataformas donde se intercambia este contenido.

Además, la Ley de Protección de Niños y Jóvenes contra Delitos Sexuales fue endurecida para castigar con mayor severidad el uso de material sintético con fines de coacción o chantaje contra menores, elevando las penas mínimas a tres años por amenazas y cinco años por coacción directa.

3. Protección de la integridad democrática

Corea del Sur ha adoptado una de las posturas más restrictivas a nivel mundial respecto al uso de IA en campañas políticas. En diciembre de 2023, la Asamblea Nacional enmendó la Ley de Elecciones de Funcionarios Públicos para prohibir totalmente el uso de deepfakes durante los períodos electorales críticos.

La prohibición de los 90 días

El artículo 82-8 de la Ley de Elecciones prohíbe la producción, edición, distribución, exhibición o publicación de sonidos, imágenes o videos virtuales generados por IA que sean lo suficientemente realistas como para engañar al público, durante los 90 días previos al día de la elección. Esta prohibición es absoluta y no requiere prueba de daño específico o intención maliciosa; la mera existencia del contenido sintético en este período es considerada un delito.

Las sanciones por violar esta prohibición son severas, reflejando la visión del gobierno de que los deepfakes representan una amenaza existencial para la democracia: pena de prisión de hasta siete años y multas de entre 10 y 50 millones de wones (aproximadamente 7.500 a 37.500 dólares).

Regulación fuera del período de prohibición

Fuera del margen de 90 días, el uso de deepfakes con fines de campaña electoral está permitido, pero bajo un estricto régimen de transparencia. Cualquier candidato o partido que utilice contenido generado por IA debe incluir una etiqueta clara que indique que la información es virtual y que fue creada mediante tecnología de inteligencia artificial. Las violaciones a esta norma de etiquetado fuera del período prohibitivo se castigan con multas de hasta 10 millones de wones. Estas regulaciones se han extendido también a las elecciones locales de superintendentes educativos, asegurando que todos los niveles del proceso democrático estén protegidos contra la manipulación digital.

4. La Ley de Redes y la responsabilidad de las plataformas

La cuestión más reciente del rompecabezas legislativo es la reforma de la Ley sobre la Promoción de la Utilización de Redes de Información y Comunicaciones y la Protección de la Información, conocida como la Ley de Redes. Aprobada a finales de 2025 y con efectos a partir de julio de 2026, esta ley traslada una carga de responsabilidad a los operadores de plataformas digitales.

Indemnizaciones agravadas y multiplicadores del daño

La reforma introduce un sistema de indemnizaciones agravadas en la legislación civil coreana para casos de desinformación. Los tribunales ahora tienen la facultad de imponer indemnizaciones de hasta cinco veces el monto de las pérdidas efectivamente probadas cuando una organización de noticias o un canal de YouTube de gran escala distribuya a sabiendas información falsa o manipulada, incluyendo deepfakes difamatorios.

Además de las indemnizaciones civiles, se puede imponer multas de hasta 1.000 millones de wones a las plataformas que no logren controlar la difusión de información manipulada que haya sido confirmada como falsa por un tribunal en más de dos ocasiones.

El sistema de respuesta rapida de 24 horas

Para abordar la velocidad con la que se viralizan los contenidos dañinos, el gobierno ha establecido un plan que exige a los operadores de plataformas actuar en un plazo de 24 horas tras recibir una solicitud de eliminación de la Comisión de Normas de Comunicaciones de Corea (KCSC). Este mandato se complementa con la introducción de sistemas basados en IA para la detección automática y en tiempo real de materiales de delitos sexuales digitales, lo que permite una respuesta proactiva sin esperar necesariamente a una denuncia individual.

5. Directrices tecnicas y transparencia algorítmica

El Ministerio de Ciencia y TIC ha publicado directrices detalladas para operativizar las leyes antes mencionadas, proporcionando un marco técnico que define cómo deben cumplirse las obligaciones de transparencia y seguridad.

Estandares de etiquetado diferenciados

Las Directrices de Transparencia de la IA de 2025 establecen una distincion clara entre la forma en que se presenta la información de IA segun el entorno del servicio:

1. Etiquetado flexible en el entorno del servicio: Para servicios interactivos como chatbots o entornos de metaverso, la transparencia puede satisfacerse mediante guías previas al uso o la visualización de un símbolo o logotipo en pantalla.
2. Etiquetado estricto para contenido exportable: Para cualquier contenido generado por IA que los usuarios puedan descargar o compartir (textos, imágenes, videos), los operadores deben proporcionar una indicación legible por humanos, como marcas de agua visibles o audibles. Si el contenido es un deepfake que podría confundirse con la realidad, el aviso debe ser inequívoco para evitar malentendidos.

Gestión de riesgos en modelos avanzados

Para los desarrolladores de sistemas de IA de vanguardia, las directrices introducen un umbral basado en la capacidad de cómputo. Los sistemas entrenados con más de 10^25 operaciones de punto flotante (FLOPs) están sujetos a programas de seguridad del ciclo de vida más estrictos, que incluyen la realización de pruebas de "red-teaming" (simulaciones de ataques) y la notificación de incidentes de seguridad al MSIT en plazos estrictos.

Estas empresas también deben mantener un "plan de explicación" que describa los criterios principales que determinan las salidas del modelo, las limitaciones del sistema y el origen de los datos de entrenamiento utilizados, permitiendo una trazabilidad que es fundamental en caso de disputas legales por difamación o infracción de derechos de autor.

6. Implicaciones geopoliticas y tensiones comerciales

La postura regulatoria de Corea ha generado una fricción notable con los Estados Unidos, especialmente en lo que respecta a la Ley de Redes y las obligaciones impuestas a las plataformas tecnologicas globales.

El conflicto con la administración estadounidense

El Departamento de Estado de los EE. UU. ha expresado una "grave preocupación" por las enmiendas a la Ley de Redes, calificándolas como barreras no arancelarias que discriminan a las empresas tecnológicas estadounidenses como Google, Meta y X. Las autoridades estadounidenses argumentan que las definiciones vagas de "información falsa" podrían otorgar a los reguladores coreanos licencias invasivas para la censura basada en puntos de vista, lo que pondría en peligro la cooperación tecnológica entre ambos países.

Corea ha defendido su legislación basándose en el modelo de la Ley de Servicios Digitales (DSA) de la Unión Europea, argumentando que la desinformación masiva en plataformas de vídeo jugó un papel desestabilizador en la política interna, citando eventos como el escándalo de la ley marcial de 2024.

Impacto en el ecosistema de innovación local

A nivel interno, las startups coreanas han manifestado su temor de que los estrictos requisitos de etiquetado y evaluación de riesgos sofoquen la innovación y ralenticen el lanzamiento de nuevos servicios en comparación con competidores globales menos regulados. En respuesta, el gobierno ha enfatizado que entre el 80% y el 90% de la legislación tiene como objetivo promover la industria de la IA, estableciendo un "Escritorio de Apoyo de IA" para ofrecer consultas legales confidenciales y ayudar a las pequeñas empresas a navegar por el nuevo paisaje regulatorio.

7. Identidad digital y derechos de publicidad

Más allá de la regulación administrativa y penal, Corea está avanzando en la protección de la identidad digital a través de reformas en el ámbito civil.

Evolucion del Derecho de Publicidad

Aunque tradicionalmente se basaba en los "derechos de retrato" dentro del derecho de daños, existe una tendencia clara hacia la codificación de un "Derecho de Publicidad" específico en la Ley Civil para abordar los deepfakes comerciales. Los tribunales coreanos ya han establecido precedentes, como la decisión del Tribunal del Distrito Central de Seúl de 2016, que castigó el uso comercial no autorizado de imágenes de redes sociales, sentando las bases para que el uso de réplicas de IA sea considerado una violación de los derechos de propiedad de la persona representada.

El plan del gobierno para erradicar anuncios falsos de IA, anunciado en 2025, refuerza esta tendencia al imponer multas punitivas de hasta cinco veces las pérdidas por el uso de imágenes sintéticas de celebridades o profesionales para promocionar productos de manera engañosa.

Protección post-mortem y Wallet Digital

Las discusiones legislativas también sugieren una extensión de la protección de la imagen hasta 50 años después de la muerte del individuo, permitiendo que las familias demanden la eliminación de réplicas digitales no autorizadas de sus seres queridos. Paralelamente, el Ministerio del Interior y Seguridad ha desplegado un sistema de identificación móvil (ID móvil) basado en blockchain que permite a los ciudadanos verificar su identidad o edad sin revelar datos personales innecesarios, lo que constituye una defensa técnica contra el fraude de identidad facilitado por deepfakes.

8. Conclusiones sobre el modelo regulatorio coreano

La República de Corea ha construido un régimen legal que trata a los deepfakes no como un fenómeno aislado, sino como una amenaza transversal que requiere respuestas en múltiples frentes. La combinación de penas de prisión para consumidores de pornografía sintética, prohibiciones absolutas durante períodos electorales, indemnizaciones agravadas para plataformas que propaguen desinformación y mandatos técnicos de transparencia configura un modelo de "gobernanza de alta intensidad".

Este enfoque coreano se caracteriza por tres ejes:

• Priorización de la víctima: Al criminalizar la posesión y el visionado, el estado busca erradicar la cultura de la impunidad en los delitos sexuales digitales.
• Responsabilidad compartida: Ni el creador ni la plataforma pueden eludir su responsabilidad; el sistema de 24 horas y las multas de 1.000 millones de wones obligan a los gigantes tecnológicos a ser actores activos en la moderación de contenidos.
• Transparencia como base: El etiquetado obligatorio y las directrices del MSIT intentan devolver al ciudadano la capacidad de distinguir lo real de lo artificial, protegiendo el orden del mercado y la confianza pública.

A medida que estas leyes entren en vigor plenamente en 2026, el éxito del modelo coreano dependerá de su capacidad para equilibrar la vigilancia estatal con la libertad de expresión y de su habilidad para gestionar las tensiones diplomáticas que surjan de su ambiciosa agenda regulatoria. Corea del Sur se presenta así como un laboratorio global cuya experiencia definirá los límites de la ley en la era de la síntesis digital.