Diseño e implementación de un sistema de detección y defensa frente a ataques de Prompt Injection en aplicaciones basadas en Large Language Models, con estudio de casos en navegadores agénticos con IA integrada.

Abstract

[Resumen]: En los últimos años han aparecido navegadores con inteligencia artificial integrada que incorporan modelos de lenguaje de gran escala (Large Language Models, LLMs) como agentes autónomos capaces de interpretar contenido web, generar prompts de forma automática, interactuar con páginas, ejecutar acciones y acceder a herramientas externas. En este tipo de navegadores agénticos, el LLM no actúa como un simple asistente conversacional, sino como un componente central de la arquitectura, responsable de tomar decisiones a partir del contenido visitado. Este paradigma introduce una nueva superficie de ataque, ya que el contenido web visitado por el navegador puede influir directamente en los prompts generados por el sistema y, por tanto, en el comportamiento del agente. En este contexto, los ataques de prompt injection permiten que una página web maliciosa manipule las instrucciones internas del LLM, altere su objetivo original, provoque la ejecución de acciones no deseadas o induzca la filtración de información sensible. El presente Trabajo Fin de Máster propone el diseño e implementación de un sistema de detección y defensa frente a ataques de prompt injection en navegadores agénticos basados en LLMs. El sistema se sitúa como una capa de seguridad entre el contenido web, el gestor de contexto y el modelo de lenguaje, analizando de forma multi-capa tanto los datos extraídos del contexto web como los prompts generados enviados al modelo y sus respuestas. La propuesta se valida mediante estudios de caso representativos de navegadores con IA integrada, donde el LLM actúa como agente dentro de arquitecturas similares a Retrieval-Augmented Generation y ejecución de acciones. El trabajo está orientado a un público profesional y académico interesado en seguridad de sistemas basados en IA, diseño de agentes autónomos y mitigación de amenazas emergentes en aplicaciones con LLMs.

[Abstract]: In recent years, web browsers with integrated artificial intelligence have emerged, incorporating Large Language Models (LLMs) as autonomous agents capable of interpreting web content, automatically generating prompts, interacting with pages, executing actions, and accessing external tools. In this type of agentic browsers, the LLM does not act as a mere conversational assistant, but rather as a core component of the architecture, responsible for making decisions based on the visited content. This paradigm introduces anew attack surface, as the web content visited by the browser can directly influence the prompts generated by the system and, consequently, the agent’s behavior. In this context, prompt injection attacks allow a malicious web page to manipulate the LLM’s internal instructions, alter its original objective, trigger unintended actions, or induce the exfiltration of sensitive information. This Master’s Thesis proposes the design and implementation of a detection and defense system against prompt injection attacks in LLM-based agentic browsers. The system operates as a security layer between the web content, the context manager, and the language model, performing a multi-layered analysis of both the data extracted from the web context and the directives sent to the model and its responses. The proposal is validated through representative case studies of AI-integrated browsers, where the LLM acts as an agent within architectures similar to Retrieval-Augmented Generation (RAG) and action execution. This work is oriented toward a professional and academic audience interested in the security of AI-based systems, autonomous agent design, and the mitigation of emerging threats in LLM applications.