La Agencia de Protección de Datos detecta el primer posible ataque perpetrado por un agente de IA en España

La Agencia de Protección de Datos (AEPD) ha recibido la primera notificación sobre un posible ciberataque perpetrado por un agente de inteligencia artificial autónomo. En pleno pánico sobre el alcance de esta tecnología y las implicaciones de su desarrollo sin control, la AEPD recibió una notificación en la que se acusa a un agente autónomo de acceder de forma ilícita a datos de terceros provocando uana brecha de datos. Según el relato de la Agencia, un atacante habría usado este agente para encadenar de forma exitosa "distintas fases de ataque". "El agente atacante inició una búsqueda de vulnerabilidades en archivos genéricos, y realizó un login correcto. Una vez accedió al sistema, comenzó a buscar, de forma autónoma, vulnerabilidades en la aplicación, lo que, una vez conseguido, le permitió modificar datos personales y acceder a facturas", detalla el organismo público. No hay pistas sobre las empresas involucradas o el modelo utilizado, al que se tilda como un "conocido modelo de lenguaje", lo que hace que previsiblemente sea uno de los chatbots comerciales. A raíz de este incidente, la entidad ha pedido extremar precauciones y revisar los protocolos de actuación de las empresas, ya que el uso de agentes hace necesario que se aceleren los procedimientos de respuesta. "Esta primera notificación no permite afirmar una tendencia estadística, aunque sí constituye una señal significativa de que los ataques apoyados en inteligencia artificial han dejado de ser un riesgo teórico y empiezan a materializarse en incidentes que afectan a tratamientos reales de datos personales", apunta la institución.