Cómo usan la IA los ciberdelincuentes
Phishing sin faltas de ortografía
Durante años, las faltas y las traducciones torpes delataban los correos fraudulentos. Con los modelos de lenguaje, los atacantes generan mensajes perfectamente redactados, personalizados con datos públicos de la víctima y en cualquier idioma. Hay que fijarse en otras señales: consulta cómo detectar un correo de phishing.
Clonación de voz y deepfakes
Con unos segundos de audio, por ejemplo de un vídeo o de un mensaje de voz, ya es posible imitar la voz de una persona. Se han documentado fraudes en los que un empleado recibe la llamada de su «director» pidiendo una transferencia urgente, e incluso videollamadas falsas con varios participantes generados por IA.
Defensa práctica: acordar una palabra clave o un procedimiento de verificación por un segundo canal para cualquier petición de pago urgente, venga de quien venga.
Automatización de ataques
La IA facilita buscar vulnerabilidades, generar variantes de malware o adaptar campañas a cada objetivo. No crea superhackers, pero sí abarata y acelera ataques que antes requerían más trabajo.
Riesgos de usar IA dentro de la empresa
Fugas de información
Pegar en un chatbot público un contrato, una base de datos de clientes o código fuente puede suponer revelar información confidencial a un tercero. Según el servicio y la configuración, esos datos pueden almacenarse o usarse para mejorar el modelo. Si hay datos personales, además hay implicaciones de RGPD.
Inyección de instrucciones (prompt injection)
Cuando una IA lee contenido externo (correos, webs, documentos), un atacante puede esconder instrucciones en ese contenido para que la IA haga algo indebido, como revelar datos o ejecutar acciones. Es el riesgo número uno en el OWASP Top 10 para aplicaciones con modelos de lenguaje, la referencia de la comunidad de seguridad.
Respuestas incorrectas
Los modelos pueden inventar datos con total seguridad. Tomar decisiones legales, médicas o de seguridad basándose solo en una respuesta de IA, sin verificarla, es un riesgo.
Shadow AI
Empleados que usan herramientas de IA por su cuenta, sin que la empresa sepa qué datos están compartiendo ni con quién.
Cómo usar la IA de forma segura
- Define una política de uso: qué herramientas están permitidas y qué datos no se pueden introducir nunca.
- Usa versiones empresariales que garanticen que tus datos no se usan para entrenar y que ofrezcan control de acceso.
- Anonimiza los datos antes de usarlos con una IA cuando sea posible.
- Limita los permisos de los agentes de IA: que no puedan enviar correos, pagar o borrar datos sin supervisión humana.
- Forma al equipo en los riesgos, incluidos los deepfakes de voz.
- Revisa el marco legal: el Reglamento Europeo de Inteligencia Artificial (Reglamento (UE) 2024/1689) establece obligaciones según el nivel de riesgo de cada sistema.
La IA como aliada en la defensa
La misma tecnología ayuda a protegerse: sistemas que detectan comportamientos anómalos en la red, filtros de correo que identifican phishing nuevo, análisis automático de miles de alertas para destacar las importantes y asistentes que ayudan a investigar incidentes. En el centro de operaciones de seguridad que gestiono para clientes, la automatización permite revisar volúmenes de eventos que serían imposibles de forma manual, aunque la decisión final la sigue tomando una persona.
Conclusión
La IA no es buena ni mala para la seguridad: es un multiplicador. Las empresas que la adopten con reglas claras ganarán productividad y capacidad de defensa; las que la usen sin control abrirán nuevas puertas. Si quieres implantarla de forma segura en tu negocio, puedes hablar conmigo.
Preguntas frecuentes
¿Cómo usan los ciberdelincuentes la inteligencia artificial?
Para redactar correos de phishing convincentes, clonar voces y crear vídeos falsos con los que suplantar a directivos, y para automatizar la búsqueda de vulnerabilidades y la creación de malware.
¿Es seguro usar ChatGPT u otras IA en la empresa?
Puede serlo con reglas claras: usar versiones empresariales, no introducir datos confidenciales o personales sin anonimizar, limitar los permisos de los agentes y formar al equipo.
¿Qué es la inyección de instrucciones o prompt injection?
Es un ataque en el que se esconden instrucciones en un contenido que la IA va a leer, como un correo o una web, para que actúe de forma indebida, por ejemplo revelando información.
Manuel Marco Sánchez
Arquitecto de ciberseguridad con más de 15 años de experiencia en hacking ético, redes, blockchain e IA. Ponente en el Congreso Internacional Blockchain (CIBTC).