Codigo Postal

Investigadores federales logran vulnerar en menos de 12 horas los filtros de seguridad de las principales plataformas de IA para diseñar ataques terroristas

Especial para los seguidores de codigopostalrd.net

WASHINGTON. — Un informe publicado por la Oficina de Responsabilidad Gubernamental de Estados Unidos (GAO) reveló que investigadores federales lograron eludir los controles de seguridad de cuatro de los chatbots de inteligencia artificial más populares del mundo —ChatGPT, Claude, Gemini y Grok— en menos de 12 horas, obteniendo planes detallados y viables para ejecutar atentados con víctimas masivas y sabotajes a la red eléctrica.

El documento de 61 páginas, titulado Artificial Intelligence: Covert Testing Used Common Platforms to Create Viable Attack Plans, detalla los resultados de una serie de pruebas encubiertas realizadas durante la primavera de 2026. Según el reporte, aunque todas las plataformas activaron inicialmente sus protocolos de protección —mediante rechazos, eliminación de mensajes o suspensión de cuentas—, los auditores lograron sortear cada barrera utilizando técnicas comunes de evasión (jailbreaking).

Hallazgos e impacto en la seguridad

De acuerdo con el informe de la GAO, dos de los modelos evaluados generaron instrucciones precisas para fabricar y detonar artefactos explosivos improvisados (IED) en eventos multitudinarios, llegando a sugerir fechas específicas, listas de suministros, rutas de alquiler de vehículos y diagramas de colocación. Las otras dos plataformas proporcionaron planos y métodos para atacar subestaciones eléctricas mediante el uso de drones y armas de fuego con el objetivo de provocar graves daños económicos.

Especialistas en seguridad y visitas físicas realizadas por los investigadores confirmaron que los planes generados eran mayoritariamente viables en la práctica. Según destacó la revista Forbes, el hallazgo demuestra que la inteligencia artificial generativa tiene el potencial de reducir meses de compleja investigación logística para actores maliciosos a apenas unas horas de interacción frente a una pantalla.

Consecuencias políticas y respuesta de la industria

La divulgación del informe ha generado una inmediata reacción en el Congreso estadounidense. Legisladores como la senadora Maggie Hassan, cuya oficina analizó los resultados de la auditoría, han solicitado audiencias parlamentarias urgentes para exigir estándares de seguridad más estrictos y supervisión independiente sobre las empresas desarrolladoras de IA. Asimismo, organizaciones de respuesta a emergencias como EMS1 advirtieron sobre la necesidad de actualizar los protocolos de protección de infraestructuras críticas frente a amenazas asistidas por algoritmos.

Por su parte, las compañías responsables de las plataformas —OpenAI, Anthropic, Google y xAI— reconocieron en sus respuestas formales incluidas en el reporte la complejidad de frenar a usuarios decididos a manipular los sistemas. Las empresas señalaron que gran parte de la información base ya circula abiertamente en internet, aclararon que las pruebas se efectuaron sobre versiones anteriores de sus modelos y se comprometieron a reforzar sus arquitecturas de defensa.

Conclusiones: el dilema entre utilidad y control

El estudio concluye que las barreras actuales basadas en el bloqueo de palabras clave o suspensiones básicas resultan insuficientes frente a usuarios persistentes. Como explicó Kevin Walsh, director de auditorías de ciberseguridad de la GAO, al medio especializado FedScoop, estas herramientas están diseñadas fundamentalmente para ser asistentes útiles y la tecnología actual aún no logra discernir con fiabilidad la intención moral o maliciosa detrás de una consulta disfrazada, lo que plantea un desafío urgente para la regulación global del sector.

Exit mobile version