Investigadores en ciberseguridad han identificado la primera familia conocida de ransomware que utiliza inteligencia artificial (IA) para ejecutar operaciones localmente. Apodado PromptLock, este malware demuestra cómo la IA puede integrarse en flujos de trabajo tradicionales de ransomware, aunque actualmente solo se trata de un proof-of-concept (PoC).

Desarrollado en GoLang y utilizando GPT-OSS:20b de OpenAI, un modelo de IA de código abierto, PromptLock genera dinámicamente scripts de ataque. Estos scripts, escritos en Lua, permiten al malware realizar enumeración de archivos, inspección de sistemas, exfiltración de datos y cifrado de archivos. Se han observado variantes tanto para Windows como Linux, y los scripts en Lua son compatibles entre plataformas. Para el cifrado, PromptLock emplea el algoritmo SPECK de 128 bits.

ESET, la firma de ciberseguridad que descubrió el malware, explica que aunque PromptLock podría exfiltrar, cifrar o incluso destruir archivos, la funcionalidad destructiva aún no está completamente implementada.

Cómo Funciona PromptLock

PromptLock se basa en prompts de IA codificados para generar scripts de ataque al instante. El modelo de IA se ejecuta localmente a través de la API de Ollama, lo que requiere que el servicio Ollama esté activo en el sistema de la víctima. Esto hace que un ataque a gran escala sea complicado en entornos típicos, ya que la mayoría de los sistemas no cuentan con los recursos necesarios.

Se ha observado que el malware envía solicitudes dentro de la red local, probablemente interactuando con un servidor Ollama local o mediante un proxy interno que redirige las solicitudes a un servicio de IA externo. El éxito del ataque también depende de una segmentación de red deficiente y de la falta de medidas que limiten prompts automáticos de IA o tráfico saliente hacia puertos y protocolos de LLM.

Implicaciones para la Ciberseguridad

Aunque PromptLock aún no se ha desplegado en entornos reales, su aparición marca una nueva frontera en las amenazas cibernéticas: ransomware que utiliza IA para adaptar sus operaciones en tiempo real. Según ESET, es crucial que la comunidad de ciberseguridad tome conciencia de estas amenazas potenciadas por IA para poder prepararse, investigar y discutir estrategias de mitigación.

El desarrollo de PromptLock demuestra cómo la IA puede automatizar partes del ciclo de ataque que antes requerían intervención humana, lo que podría reducir la barrera para ataques sofisticados en el futuro. A medida que los modelos de IA continúan evolucionando, el riesgo de malware asistido por IA podría crecer, haciendo que las defensas proactivas y la preparación sean esenciales.

Fuente: https://www.securityweek.com/promptlock-first-ai-powered-ransomware-emerges