Kim Se-ui, representante de Gaseyeon, acusado con prisión provisional por difamación a raíz de una emisión con «información falsa sobre Kim Soo-hyun»: ¿se definirán los criterios para imputar la difusión de noticias falsas en línea?

Este caso está suscitando atención porque la presunta conducta delictiva se produjo de forma reiterada mediante emisiones de YouTube y ruedas de prensa.

Durante los hechos, el Sr. Kim divulgó archivos de voz generados mediante IA, publicó fotografías privadas y realizó declaraciones en las que anunciaba nuevas revelaciones.

Por ello, el caso ha concentrado la atención social al mostrar que la difusión de información falsa en línea y los contenidos falsos creados mediante IA están comenzando a abordarse de manera efectiva como posibles conductas sujetas a sanción penal.

La difamación conforme a la Ley de Redes de Información y Comunicaciones puede constituir delito cuando, mediante internet, redes sociales, YouTube u otra red de información y comunicaciones, se divulgan hechos capaces de menoscabar la consideración social de otra persona.

La Ley de Disposiciones Especiales sobre la Sanción de los Delitos Sexuales sanciona la distribución o divulgación de grabaciones o copias contra la voluntad de la otra persona.

El acoso persistente y reiterado no se limita a seguir físicamente a otra persona.

Conforme al artículo 2 de la Ley sobre la Sanción del Acoso Persistente y Reiterado, también puede apreciarse cuando, mediante una red de información y comunicaciones, se transmiten o publican reiteradamente textos, fotografías, vídeos o grabaciones de voz dirigidos a una persona determinada y se le provoca ansiedad o temor.

Por tanto, las conductas realizadas en línea, como las emisiones de YouTube o las publicaciones en redes sociales de este caso, también pueden constituir un delito de acoso persistente y reiterado si se acredita su carácter repetido y continuado.

En la actualidad no existe una disposición penal independiente que sancione claramente por sí sola la manipulación de voces mediante IA generativa.

No obstante, si una voz creada mediante IA se utiliza para difundir información falsa o como instrumento para cometer otro delito, puede plantearse la responsabilidad penal por la conducta resultante.

Por tanto, la cuestión principal no es la propia tecnología de IA, sino el delito para cuya comisión se haya utilizado.

Ante el reciente aumento de la difusión de información falsa mediante IA generativa y de los delitos relacionados con ultrafalsificaciones o deepfakes, las autoridades investigadoras están reforzando el análisis de pruebas digitales y las investigaciones forenses.

En este proceso, las autoridades investigadoras comprueban, a partir de datos digitales objetivos, si una voz o un vídeo fueron manipulados, cómo se realizaron su creación y edición y si quien los publicó era consciente de su falsedad.

Por ello, si una persona es investigada por cargos relacionados con estos hechos, debe conservar los datos digitales objetivos y ordenar con precisión los hechos, en lugar de eliminar o modificar los materiales por iniciativa propia.

Cuando una persona es investigada por difundir información falsa mediante voces o vídeos creados con IA generativa, puede resultar esencial determinar si se trata de archivos originales o si fueron editados o sintetizados.

Desde la posición del investigado, es necesario obtener datos digitales objetivos, como la fecha de creación de los archivos de voz o vídeo, su historial de edición y los registros de almacenamiento y, cuando proceda, recurrir a un análisis forense digital para comprobar si existe el original y determinar las circunstancias en las que se realizó la edición.

Estas pruebas digitales objetivas pueden utilizarse como material relevante para determinar si se cumplen los elementos de los cargos y esclarecer los hechos.

Cuando una persona es investigada por difundir información falsa en línea, puede resultar esencial determinar en qué materiales se basó para elaborar la publicación o realizar la emisión.

Por ello, el investigado debe ordenar, junto con materiales objetivos, las circunstancias en las que obtuvo la información, el proceso seguido para comprobar los hechos y la finalidad de la publicación, a fin de respaldar sus alegaciones.

En los casos en los que se formulan simultáneamente varios cargos, deben examinarse por separado los elementos y las pruebas correspondientes a cada uno, en lugar de responder a todos del mismo modo.

Desde el inicio de la investigación, el investigado debe comprobar si su conducta reúne los elementos de cada cargo y qué materiales objetivos permiten refutarlo antes de comparecer para prestar declaración.

Asimismo, los materiales y declaraciones presentados durante la investigación pueden constituir elementos importantes para decidir si se ejerce la acción penal y para el posterior juicio, por lo que resulta importante mantener una posición coherente tras examinar debidamente las cuestiones jurídicas.