Los delitos con inteligencia artificial ya incluyen malware más sofisticado, fraudes con deepfakes, clonación de voz, manipulación de imágenes y nuevas formas de violencia digital. Pero el problema no es solo tecnológico: todavía no sabemos medir con precisión su alcance real.
Marie-Helen Maras, autora de este artículo, es catedrática titular en el Departamento de Sociología y el Departamento de Matemáticas e Informática, y directora del Centro de Estudios sobre Delitos Cibernéticos del John Jay College of Criminal Justice de la City University of New York.
Los delincuentes han aprovechado las tecnologías de la información y la comunicación (TIC) para cometer delitos, y sus objetivos, tácticas y métodos operativos han evolucionado para adaptarse a las medidas tomadas por la justicia penal. Por lo tanto, no sorprende que hayan utilizado tecnologías emergentes como la inteligencia artificial (IA) para mejorar la eficiencia de sus operaciones, ampliar su alcance e impacto, ocultar su actividad ilícita, superar las barreras de entrada a los mercados ilícitos y cometer diversos delitos. La IA es (o puede ser) utilizada por los delincuentes para cometer delitos contra la máquina (es decir, delitos contra la confidencialidad, la integridad y la disponibilidad de datos, sistemas y redes; delitos cibernéticos); delitos que utilizan la máquina (es decir, delitos informáticos; delitos cibernéticos); delitos en la máquina (es decir, delitos relacionados con el contenido; delitos cibernéticos); y delitos cometidos por la máquina (es decir, delitos cometidos por la IA)
Delitos contra la máquina
La IA ha servido como herramienta para cometer delitos cibernéticos, como el pirateo informático y la creación y distribución de malware. La IA se utiliza para desarrollar y mejorar el malware, permitiéndole operar rápidamente identificando vulnerabilidades del sistema y formas de explotarlas. La IA también se utiliza para crear formas avanzadas de malware que se adaptan y evaden la detección del software de seguridad. Los delincuentes han cometido ciberataques contra la IA corrompiendo o envenenando datos utilizados para entrenar grandes modelos de lenguaje y la IA y manipulando las entradas de datos de la IA. Versiones pirateadas de modelos legítimos de IA, conocidas como IA oscura, se han utilizado con fines delictivos y también con fines de seguridad. Si bien las capacidades de las aplicaciones de DarkAI se consideraban limitadas en 2023, en 2025 surgieron variantes de DarkAI supuestamente diseñadas para superar dichas limitaciones. En concreto, las nuevas evoluciones de DarkAI (por ejemplo, Xanthorox), diseñadas para el cibercrimen, son modelos de lenguaje autosostenibles y personalizados que se alojan en servidores privados controlados por el desarrollador; este diseño, junto con su funcionalidad sin conexión, dificulta su rastreo, detección y, en última instancia, su eliminación.
Delitos que se valen de la la IA
Ha servido como herramienta para cometer delitos cibernéticos, como el fraude y la violencia facilitada por la tecnología. El jailbreaking (es decir, la desactivación de las limitaciones de software) y la ingeniería de instrucciones (es decir, instrucciones diseñadas para lograr los resultados deseados) se han utilizado para hacer que las aplicaciones comerciales de IA (por ejemplo, ChatGPT) actúen de formas imprevistas y perjudiciales.
En los casos de fraude cibernético, estas tácticas se han utilizado para crear sitios web falsos
(sitios web de pharming o phishing) diseñados para robar la información personal de las víctimas, o para crear scripts que faciliten diversas formas de fraude cibernético, como el fraude de inversión híbrido, “mediante el cual los delincuentes se ganan la confianza de las víctimas al establecer conexiones y relaciones, y luego explotar esta confianza para lograr que las víctimas inviertan en valores o materias primas”. Además, ha habido varios casos de deepfakes, medios hiperrealistas que muestran a una persona diciendo o haciendo algo que no dijo ni hizo, se han utilizado para facilitar diversas formas de ciberdelincuencia. Los deepfakes se han utilizado para crear identidades sintéticas para facilitar otras formas de fraude, incluso el inmobiliario. Se ha informado de audio (o clonación de voz) y/o vídeo manipulados por IA en ciertos casos de fraude cibernético. En los casos en los que se sospechaba de audio manipulado por IA, las víctimas de diversas formas de fraude cibernético afirmaron haber oído la voz de sus seres queridos en actos de coacción, gritando o pidiendo ayuda. Por ejemplo, en los llamados fraudes de abuelos. una víctima (un abuelo) supuestamente recibe una llamada telefónica angustiosa de o relacionada con su nieto, solicitando dinero para ayudarlo en una situación en la que se encuentra (accidente, cárcel, secuestro, etc.). Además, se han utilizado deepfakes para crear identidades sintéticas con el fin de facilitar otras formas de fraude, incluso fraude inmobiliario, haciéndose pasar por propietarios para vender propiedades que en realidad no pertenecen a los impostores. Finalmente, los delincuentes han utilizado IA, específicamente la IA generativa, para manipular medios (imagen, audio y video) con el fin de facilitar numerosas formas de violencia facilitada por la tecnología, incluido el acoso cibernético, la sextorsión y el abuso sexual basado en imágenes (o la difusión no consentida de imágenes íntimas).
Delitos en la máquina
El contenido desarrollado por IA, como los deepfakes, podría ser delictivo si lo que se muestra se considera ilegal. Por ejemplo, los delincuentes han utilizado la IA para generar material de explotación sexual infantil y material de abuso sexual infantil. En 2025, en la Operación Cumberland, en la que participaron 19 países, se identificaron y arrestaron a numerosas personas vinculadas a una plataforma en línea dedicada a la creación y distribución de pornografía infantil generada por IA. En las jurisdicciones donde el abuso sexual basado en imágenes —una forma de violencia facilitada por la tecnología que se dirige predominantemente a las mujeres— se considera ilegal, los deepfakes de desnudos y contenido sexual explícito no consensuales, u otras formas de medios manipulados, se considerarían ilegales.
Delitos cometidos por la máquina
Esta última categoría de delitos de IA es una evolución prevista de los delitos cometidos por sistemas autónomos de IA. La comisión de estas formas de delito plantea desafíos particulares para el sistema de justicia penal, incluida la determinación de rendición de cuentas y responsabilidad por estos delitos y remedios efectivos.
¿Hasta que punto está extendido esto?
En resumen: no lo sabemos con certeza. Grupos delictivos cibernéticos organizados y otros delincuentes han utilizado la IA para cometer diversos ciberdelitos. Si bien estos incidentes arrojan luz sobre los tipos de ciberdelitos cometidos con IA y cómo se utilizó para cometerlos (incluyendo, cuando hay información disponible, las víctimas y los autores, así como los tipos de herramientas utilizadas), no proporcionan información sobre la verdadera naturaleza y el alcance de los delitos con IA a nivel mundial. No existen mecanismos estandarizados de recopilación y reporte de datos sobre los delitos con IA a nivel mundial. Tampoco existen categorías de delitos con IA, tipos de datos recopilados sobre estos delitos ni criterios para medirlos. En resumen, aparte de los casos e incidentes criminales informados en comunicados de prensa gubernamentales, se necesitan prácticas integrales y armonizadas de recopilación y registro de datos sobre delitos de IA para identificar la naturaleza y el alcance de los delitos de IA. Además, en los informes de prensa, no se dispone de información sobre delitos de IA.
Se necesitan prácticas integrales y armonizadas de recopilación y registro de datos sobre delitos de IA para identificar la naturaleza y el alcance de los delitos de IA. Estos datos también son necesarios para informar al público, las políticas y las medidas para controlar, reducir, mitigar y prevenir los delitos de IA. Para obtener estos datos, un primer paso inicial implica la comprensión mutua de los delitos de IA dentro y entre países, mediante la estandarización de las definiciones y categorías de delitos de IA. La falta de estandarización y armonización dificulta la obtención precisa de información sobre delitos de IA (incluida la información sobre los delincuentes y las víctimas de estos delitos) y genera una escasez de datos disponibles (y precisos) sobre delitos de IA. Estos datos, si se recopilan de forma uniforme y se ponen a disposición para su análisis, podrían revelar la prevalencia, los patrones y las tendencias de los delitos relacionados con la IA (como el modus operandi de los delincuentes, los delitos emergentes y los tipos específicos de delitos que se producen con mayor frecuencia), que pueden utilizarse para orientar el desarrollo de intervenciones específicas y crear políticas y medidas basadas en la evidencia para contrarrestar los delitos relacionados con la IA.
