Tecnología y Delitos: Explorando el Impacto de la Inteligencia Artificial en la Era de los Deepfakes

Resumen ejecutivo: La Inteligencia Artificial (IA) se ha vuelto más accesible para organizaciones en todo el mundo, permitiendo generar contenido multimedia avanzado con herramientas en línea. Esto incluye la creación de videos animados y presentadores virtuales a partir de una foto y una descripción. Sin embargo, el uso de IA ha evolucionado hacia aplicaciones más sofisticadas, como los deepfakes, que pueden ser utilizados para cometer ciberdelitos y difundir desinformación. Los foros de la dark web son importantes fuentes de herramientas y servicios relacionados con deepfakes. Tanto el FBI como Google han tomado medidas para abordar los desafíos asociados con la proliferación de deepfakes. Además, la IA ha incursionado en el ámbito legal, con algoritmos utilizados en el derecho penal y en la Defensoría Penal Pública. Sin embargo, aún existen desafíos en la implementación efectiva de la IA en la persecución del delito.

Palabras claves: Inteligencia Artificial, IA, deepfakes, ciberdelitos, desinformación, foros de la dark web, FBI, Google, derecho penal, algoritmos predictivos, Defensoría Penal Pública . 

TECNOLOGÍA Y DELITOS: EXPLORANDO EL IMPACTO DE LA INTELIGENCIA ARTIFICIAL EN LA ERA DE LOS DEEPFAKES

La utilización de la Inteligencia Artificial (IA) es cada vez más accesible para las distintas organizaciones en distintos lugares del mundo. Funcionalidades como la de un mega-buscador han colocado a ChatGPT en el foco de la comunidad educativa, lo que ha impulsado a los docentes a detectar informes y tareas que han sido generados por IA, cambiando la forma tradicional de evaluar a los alumnos. En el área de la programación, se puede utilizar como el equipo de QA, detectando errores en programación y sugiriendo mecanismos más óptimos para desarrollar una función. También se puede alimentar con mis propios documentos y pedirle que realice resúmenes de ellos o que me busque aquellos que correspondan a algún tema, tal como lo hiciera hace algunas décadas una bibliotecaria. Un hito de la IA que nadie esperaba, al menos en Chile, fue en noviembre del 2023 cuando una canción creada con inteligencia artificial, imitando la voz de un famoso cantante, generó su furia hasta tal punto que solicitó quitar a nivel mundial todas las versiones de la canción desde distintas plataformas, tanto de música como en redes sociales (Retamal, 2023).

Existen herramientas en línea que colocan a disposición de cualquier usuario las ventajas del súper procesamiento de la IA, mostrando el gran abanico de posibilidades que ésta presenta.  Gracias a dichas herramientas, no es necesario tener mayores conocimientos en diseño audiovisual para generar un video animado, basta con la utilización de una página web y la descripción de lo que quiero que realice para tener, por ejemplo, un video de hackers aperados de sus notebooks corriendo por una ciudad desierta. También es posible generar presentadores para nuestros videos educativos utilizando una foto de una persona y voz, la herramienta es capaz de animarla generando un video donde la foto “cobra vida” y se puede ver como la persona va a gesticular en el idioma a elección, hablando en perfecta sincronía lo que dice el texto que hemos subido, ya sea con la voz que se ha configurado o con voces que por defecto tiene la herramienta.

“Así como el día, también es la noche” (anónimo).

Además de utilizar la IA para diversión y ser una gran ayuda en el trabajo escolar y diario, nos da pie también para la generación de DeepFake. Utilizando la foto de cualquier persona para que diga lo que quiera, sin mayores restricciones, podemos generar un video de Elvis cantando “Las Mañanitas”, o a un presidente declarando la guerra a otro país. De acuerdo con un informe de Insikt Group (INSIKT GROUP (2021), el Deep Fake o manipulación de contenido multimedia utilizanco inteligencia artificial, ha tenido un cambio significativo desde el desarrollo de contenido pornográfico a la creación de contenido más sofisticado con el fin de eludir la seguridad, difundir desinformación o cometer ciberdelitos. En foros de la darkweb se pueden encontrar las principales fuentes para el desarrollo de contenido ilícito, incluyen servicios para editar videos e imágenes, métodos y lecciones de cómo hacerlo, solicitudes de mejores prácticas, distribución software gratuito para descargar, generadores de fotos y anuncios sobre avances en las tecnologías de deepfake. Es por esto que el FBI en marzo de 2021 (FBI, Cyber Division, 2021), emitió un comunicado informando a la población cómo podían identificar y mitigar el contenido sintético, con el fin de disminuir el número de víctimas que han sido afectadas por este tipo de ciberdelitos. También Google en el 2023, se ha hecho parte en la detección de material generado por IA (Kite-Powell, 2023), con la creación de SynthID que en us versión beta colocará una marca de agua para reconocerla como falsa.

La IA también ha comenzado a utilizar en el mundo del derecho.  En 2018 en Canadá se crea el primer abogado robot, llamado Ross quien ayudaba a los abogados en detectar cualquier riesgo potencial en el caso, a través de un análisis de la jurisprudencia. Ross fue en el 2016 fue incluso contratado por una firma estadounidense (Legis.pe, 2018). María Sánchez en su artículo (Sánchez Vilanova, 2022), analiza el uso de algoritmos en el derecho penal, luego de que una Corte en Holanda, dictaminara que el algoritmo utilizado no respetaba la privacidad de la ciudadanía, limitando así el uso de algoritmos predictivos por parte del gobierno.

Desde el punto de vista jurídico, desde Argentina Catalina Serventich nos da luces respecto del uso de la “Inteligencia Artificial Judicial para la Valoración de Riesgo” (Serventich, 2022) y cómo desde la otra vereda, el algoritmo puede ayudar a un Juez en el procesamiento de la evidencia disponible para dictar una sentencia, que si bien técnicamente es viable, es en la jurisprudencia y en el secretismo del algoritmo donde existen reparos, ya que al ser los algoritmos creados por empresas privadas y por ende, un objeto de lucro, no publican los parámetros que considera el algoritmo (Serventich, 2022), por otro lado, el derecho a presunción de inocencia por parte del imputado puede ser vulnerado por el algoritmo y también se han dado casos en Estados Unidos donde se evidenció que el algoritmo utilizado tenía sesgos de diferente índole al momento de medir el riesgo de reincidencia.

En febrero de 2023 DoNotPay (Rodriguez, 2023) crea un abogado con inteligencia artificial y anuncia que tomará su primer caso, siendo el primer abogado virtual en Estados Unidos, pero en marzo (Espinoza, 2023) el bufete Edelson lo demanda por “ofrecer asesoría sin tener el título universitario de Derecho” (Miranda, 2023).

Qué tan expuestos y qué tan preparados estamos.

El sitio DataReportal, indica que a comienzos del 2024 un 66,2 % de la población mundial estaba usando internet y de ellas un 62,3% utiliza redes sociales. De acuerdo con un estudio realizado entre universidades, el Ministerio de Educación y UNICEF (UNICEF, 2023), un 58% de los Niños, niñas y adolescentes (NNA) tienen su primer teléfono antes de los 10 años, esto nos abre una brecha y nos explica por qué los menores de 14 años están más vulnerables a ser víctimas de delitos sexuales, como el grooming, ya que los contactan a través de redes sociales, aplicaciones de mensajería, derivados de plataformas de juego.

En Chile, estos últimos años se ha estado trabajando en la actualización de la legislatura que abarca los delitos informáticos, la ciberdelincuencia y la seguridad de la información, a través de la Ley 21180 de Transformación Digital del Estado, la Ley 21459 con el fin de acercar la legislación chilena al Convenio de Budapest, Decreto N° 83 de 2017 Convenio sobre ciberdelincuencia y una serie de decretos, instructivos y leyes (CSIRT CHILE). En ese marco, distintos investigadores han expuesto la compatibilidad de los algoritmos predictivos con el sistema penal chileno, dejando a la máquina como un ayudante en el procesamiento de la información, pero al juez como ejecutor de la sentencia, debido también a los mismos reparos que se advierten en otros países, además de los errores que se puedan cometer debido a una mala programación del algoritmo, ya que podría ser engañada con la manipulación de los datos que la alimentan (Vivar Vera, 2021). En el ámbito académico, el Laboratorio de Innovación Pública, adscrito a la Escuela de Gobierno de la Universidad Adolfo Ibáñez, GobLab UAI, ha estado creando el Repositorio de Algoritmos Públicos, con el fin de transparentar los sistemas de soporte o toma de decisiones automatizadas del sistema público, identificando entre otros datos el órgano público, el sistema, descripción, etc.

La Defensoría Penal Pública chilena en el año 2021 (GobLab, 2021) comenzó un proyecto con la utilización de IA que ayudará en acceso a jurisprudencia e información de imputados, permita la incorporación de IA en audiencias intermedias, apoyando a los abogados defensores a plantear estrategias y analizar las gestiones que se puedan realizar en la causa, con el fin de obtener mejores resultados.

Por parte del Ministerio Público, durante el año 2023 se ha implementado al Fiscal Heredia (Herramienta para el Estudio del Delito Usando Inteligencia Artificial) (Kerber S., 2023), un algoritmo predictivo cuya finalidad es buscar bandas criminales y la cual ya ha tenido éxito, logrando hacer match entre distintos imputados, utilizando distintas fuentes de información del Ministerio Público y distintas policías (Ministerio Público, 2023).

Otra iniciativa en se ha estado avanzando en un algoritmo que analice los relatos de las investigaciones penal en conjunto con la base de datos de la aplicación vecinal para reportar alertas, SOSAFE[1], con el fin de encontrar patrones que puedan ayudar a identificar delitos (Diario Estrategia, 2022).

En cuanto al uso de la IA en la percusión de los delitos, aún existe mucho camino que andar. Como se ha expuesto en la última cuenta pública (Villanova, 2024) realizada por el fiscal regional actual en la Región de O’Higgins, Emiliano Arias, la cantidad de ingresos en el año 2023 fue de 77.280 causas, lo que implica un 23% de incremento respecto de las 62.895 que fueron ingresadas el 2016. Estos ingresos deben ser absorbidos por 200 integrantes de la fiscalía regional, 34 de ellos Fiscales y 166 funcionarios. Siendo el Fiscal quien lidera la investigación, se puede deducir que tienen una carga aproximada de 2mil causas por cada uno, considerando solo los ingresos del año 2023 y sin contar las causas que mantienen vigentes desde años anteriores.

Debido a esta sobrecarga de trabajo, es imperativo mejorar la investigación de las causas incorporado algoritmos predictivos que sean un apoyo en el análisis de la información, en la búsqueda de patrones y de nuevos modus operandi, que permitan detectar a delincuentes frecuentes, ayuden en la agrupación de causas debido a características comunes que tengan, y que sean una herramienta para el hallazgo de evidencia clave para las investigaciones.

Referencias

Arias Cerón, M., Buendía Eisman, L., & Fernández Palomares, F. (27 de febrero de 2018). Revista Chilena de Pediatría. Grooming, Ciberbullying y Sexting en estudiantes en Chile según sexo y tipo de administración escolar. Santiago, Chile: iku. Obtenido de Revista Chilena de Pediatría.

CSIRT CHILE. (s.f.). Decretos de Ciberseguridad. Obtenido de https://www.csirt.gob.cl/decretos/

Dictionary Cambridge. (05 de 01 de 2022). Obtenido de https://dictionary.cambridge.org/dictionary/english/grooming

Espinoza, R. (1 de marzo de 2023). ABOGADOS IMPIDEN DEBUT JUDICIAL DEL PRIMER ABOGADO ROBOT EN EEUU. Obtenido de UniFranz: https://unifranz.edu.bo/blog/abogados-impiden-debut-judicial-del-primer-abogado-robot-en-eeuu/

FBI, Cyber Division. (2021, 10 de marzo). Private Industry Notification. Recuperado el 25 de marzo de 2024, de https://www.ic3.gov/Media/News/2021/210310-2.pdf

Fundación Amparo y Justicia. (3 de junio de 2021). Fundación Amparo y Justicia. Obtenido de Ley de Entrevistas Videograbadas entra en vigencia en otras seis regiones del país: https://amparoyjusticia.cl/ley-de-entrevistas-videograbadas-entra-en-vigencia-en-otras-seis-regiones-del-pais/

GobLab. (16 de septiembre de 2021). GobLab Universidad Adolfo Ibáñez. Obtenido de Defensoría Penal Pública incorporará inteligencia artificial para apoyar audiencias intermedias con asesoría UAI en ética de datos: https://goblab.uai.cl/dpp-incorporara-ia-para-apoyar-audiencias-intermedias-con-asesoria-uai-en-etica-de-datos/

GobLab Universidad Adolfo Ibañez. (09 de abril de 2021). ¿Cómo utilizar inteligencia artificial en el sistema judicial penal? Obtenido de https://www.youtube.com/watch?v=VY8U0Lpj8bQ

Hardt, M., & Recht, B. (2022). Patterns, predictions, and actions: Foundations of machine learning. Princeton University Press. Obtenido de https://mlstory.org/

INSIKT GROUP. (2021, 29 de abril). The Business of Fraud: Deepfakes, Fraud’s Next Frontier. Recorded Future. Recuperado el 25 de marzo de 2024, de https://www.recordedfuture.com/blog/deepfakes-frauds-next-frontier

Kerber S., C. (17 de octubre de 2023). Facultad de Ingeniería de la Universidad de Chile. Obtenido de Richard Weber, académico y creador del "Fiscal Heredia": "Nos hicimos cargo de la demanda de la sociedad por más seguridad": https://ingenieria.uchile.cl/noticias/210789/entrevista-a-richard-weber-academico-y-creador-del-fiscal-heredia

Kite-Powell, J. (2023, 4 de septiembre). Google lanzó una herramienta "anti deep fakes" que detecta imágenes con IA. Forbes Argentina. Recuperado el 25 de marzo de 2024, de https://www.forbesargentina.com/innovacion/google-lanzo-una-herramienta-anti-deep-fakes-detecta-imagenes-ia-n40110

Legis.pe. (19 de Septiembre de 2018). Pensamiento Civil. Obtenido de ROSS, EL PRIMER ABOGADO ROBOT QUE LITIGA USANDO INTELIGENCIA ARTIFICIAL: https://www.pensamientocivil.com.ar/3807-ross-primer-abogado-robot-que-litiga-usando-inteligencia-artificial

MINISTERIO DE JUSTICIA Y DERECHOS HUMANOS. (30 de diciembre de 2022). Biblioteca del Congreso Nacional de Chile. Obtenido de LEY 21057 Firma electrónica REGULA ENTREVISTAS GRABADAS EN VIDEO Y, OTRAS MEDIDAS DE RESGUARDO A MENORES DE EDAD, VÍCTIMAS DE DELITOS SEXUALES: https://www.bcn.cl/leychile/navegar?idNorma=1113932

Ministerio Público. (17 de mayo de 2023). Ministerio Público. Obtenido de “Operación Influencer”: Uso de IA permitió desarticular a banda de adolescentes que efectuó al menos 8 “encerronas” en Zona Occidente: http://www.fiscaliadechile.cl/Fiscalia/comunidad/noticias_det.do?id=22165

Ministerio Público de Chile. (2022). Informe SIAU 16027. Santiago.

Miranda, L. (13 de marzo de 2023). Un abogado robot impulsado por IA es demandado porque no tiene título universitario. Obtenido de Hipertextual: https://hipertextual.com/2023/03/un-abogado-robot-ia-demandado-por-no-tener-licencia

Montoya Morales, C., Vasques, P., Larrea Pedrosa, D., Cruces, F., & Carvajal, M. (22 de abril de 2020). PROTOCOLO DE ACTUACIÓN FRENTE A SITUACIONES DE CIBER ACOSO. Obtenido de Fundación Whilolab: https://www.whilolab.cl/wp-content/uploads/2020/04/PROTOCOLO-DE-ACTUACION-FRENTE-SITACIONES-DE-CIBERACOSO-V4.pdf

Ost, S. (2009). Child Pornography and Sexual Grooming. New York: Cambridge University Press.

Peris Hernández, M., & Maganto Mateo, C. (2018). Sexting, sextorsión y grooming. Vitoria: PIRÁMIDE.

Policía de Investigaciones de Chile. (2022). Informe N° AD010T0014707. Santiago.

Poveda García, D. (2021). Estadística y Machine Learning con R para principiantes. Kindle Edition.

Retamal, F. (11 de Noviembre de 2023). El chileno que hizo enfurecer a Bad Bunny: “Soy la próxima estrella mundial después de él”. Diario La Tercera, págs. https://www.latercera.com/culto/2023/11/11/el-chileno-que-hizo-enfurecer-a-bad-bunny-soy-la-proxima-estrella-mundial-despues-de-el/.

Rodriguez, J. (06 de enero de 2023). Expansión. Obtenido de Abogado robot toma su primer caso judicial: https://expansion.mx/tecnologia/2023/01/06/abogado-robot-toma-su-primer-caso-judicial

Russell, R. (2018). Machine Learning. Guía detallada para implementar algoritmos de machine learning con Python. Kindle Edition.

Sánchez Vilanova, M. (2022). EL USO DE ALGORITMOS PREDICTIVOS EN EL DERECHO PENAL. A PROPÓSITO DE LA SENTENCIA DE LA CORTE DE JUSTICIA DEL DISTRITO DE LA HAYA (PAÍSES BAJOS) SOBRE SyRI, DE 5 DE FEBRERO DE 2020. Teoría & Derecho. Revista De Pensamiento jurídico (33), 252–281.

Sepúlveda, P. (15 de junio de 2021). La angustiante desaparición de Nayareth, la niña de 13 años en Valparaíso: ¿Sabes con quién habla tu hijo en WhatsApp o Instagram? Diario La Tercera, pág. 1. Obtenido de https://www.latercera.com/que-pasa/noticia/la-angustiante-desparicion-de-nayareth-la-nina-de-13-anos-en-valparaiso-sabes-con-quien-habla-tu-hijo-en-whatsapp-o-instagram/PYKU35J6HBCI3BZOPR7YFJ2UGE/

Serventich, C. (2 de diciembre de 2022). Inteligencia Artificial en el Proceso Penal. ¿Más vale humano conocido o algoritmo por conocer? Revista Jurídica Austral, 869 - 880. Obtenido de https://ojs.austral.edu.ar/index.php/juridicaaustral/issue/view/62/18

Torrano, C., Recuero, P., Ramírez, F., Hernández, S., & Torres, J. (2019). Machine Learning aplicado a la Ciberseguridad. Técnicas y ejemplos en la detección de amenazas. Madrid: 0xWORD.

UNICEF. (25 de abril de 2023). UNICEF Chile. Obtenido de Se adelanta a los 8,9 años el acceso al celular con Internet y crece su uso para tareas escolares y aprender cosas que les gustan: https://www.unicef.org/chile/comunicados-prensa/se-adelanta-los-89-a%C3%B1os-el-acceso-al-celular-con-internet-y-crece-su-uso-para

Villanova, L. (11 de enero de 2024). El Tipógrafo. Obtenido de Última Cuenta Pública de Emiliano Arias en Fiscalía O'Higgins: https://eltipografo.cl/2024/01/el-tipo-c-se-vuelve-la-regla-que-significa-para-el-consumidor

Vivar Vera, j. (2021). La sentencia penal, el juez y el algoritmo: ¿Las nuevas tecnologías serán nuestros próximos jueces? Revista Chilena de Derecho y Tecnología, 231-269.

[1] SOSAFE: Aplicación disponible en Google Play con el fin de generar una red ciudadana de vecinos para informar y comunicarse en casos de delincuencia. https://es.sosafeapp.com/ 

Autor(es)