Europol advierte sobre uso de ChatGPT para cometer delitos

La Europol ha emitido una advertencia sobre el uso delictivo de ChatGPT, un modelo de lenguaje de gran escala desarrollado por OpenAI, que ha ganado fama por su capacidad para generar texto convincente y natural. Según la Europol, este modelo de lenguaje ha sido utilizado por delincuentes para crear contenido falso y engañoso en línea.

La declaración de la entidad se enmarca dentro de su primer reporte sobre los modelos de lenguaje titulado “The criminal use of ChatGPT – a cautionary tale about large language models”. Paradójicamente, la organización también mencionó la posibilidad de emplear ChatGPT para ayudar a los investigadores y criminólogos en su trabajo diario.

“En respuesta a la creciente atención pública prestada a ChatGPT, el Laboratorio de Innovación de Europol organizó una serie de talleres con expertos en la materia de toda Europol, para explorar cómo los delincuentes pueden abusar de los modelos de lenguaje extenso (LLM) como ChatGPT, así como también cómo puede ayudar a los investigadores en su trabajo diario.”

ChatGPT se basa en la inteligencia artificial para generar texto que imita el lenguaje humano. A través del entrenamiento con grandes cantidades de datos, el modelo aprende a reconocer patrones en el lenguaje y a generar respuestas coherentes a partir de las entradas de texto. Este tipo de tecnología ha sido utilizada en una amplia variedad de aplicaciones, desde asistentes virtuales hasta sistemas de chat en línea.

Sin embargo, la Europol ha destacado la preocupación por el uso en delitos de ChatGPT. Según el informe, los delincuentes están utilizando el modelo para crear contenido falso y engañoso, incluyendo noticias falsas, estafas, correos electrónicos fraudulentos y mensajes de phishing. Estos mensajes pueden parecer auténticos y persuasivos, lo que hace que sea más difícil para las personas detectar el engaño.

“El objetivo de este informe es generar conciencia sobre el posible uso indebido de los LLM, abrir un diálogo con las empresas de inteligencia artificial (IA) para ayudarlas a construir mejores salvaguardas y promover el desarrollo de sistemas de IA seguros y confiables.”

Europol revela el lado oscuro de ChatGPT: puede ser usado para delitos

La Europol también ha señalado que el uso criminal de ChatGPT es una prueba más del creciente papel de la tecnología en la delincuencia. Con la capacidad de crear contenido falso y engañoso a gran escala, los delincuentes pueden aprovechar la tecnología para obtener beneficios financieros o políticos. Esto puede incluir la difusión de propaganda o la manipulación de los mercados financieros.

En concreto, la organización internacional destaca 3 principales áreas en las que ChatGPT podría emplearse para actividades delictivas:

• Fraude e ingeniería social: La habilidad de ChatGPT para crear textos muy realistas lo hace útil para el phishing. Los LLM pueden imitar patrones de lenguaje para suplantar el estilo de habla de personas o grupos específicos. Esta habilidad puede ser abusada para engañar a gran escala a posibles víctimas y hacer que confíen en los delincuentes.
• Desinformación: ChatGPT sobresale en la producción de texto con sonido auténtico a gran velocidad y escala. Esto hace que el modelo sea ideal para propósitos de propaganda y desinformación, ya que permite a los usuarios generar y difundir mensajes que reflejen una narrativa específica con relativamente poco esfuerzo.
• Ciberdelincuencia: Además de imitar el lenguaje humano, ChatGPT también puede crear código en varios lenguajes de programación. Esto es muy útil para un criminal que no tenga muchos conocimientos técnicos y quiera crear código malicioso.

La Europol también ha destacado la importancia de la colaboración internacional en la lucha contra el uso criminal de la tecnología. Dado que los delincuentes pueden operar a nivel mundial, la cooperación entre agencias de aplicación de la ley y empresas de tecnología puede ser crucial para identificar y detener a los infractores.