Prompt Injections
inyección de prompts
Las Prompt Injections son textos pensados para que un modelo de inteligencia artificial ignore sus reglas y haga otra cosa: revelar datos, cambiar el tono o saltarse un límite. En español, inyección de instrucciones. El ataque entra por lo que el modelo lee como consigna.
Un chatbot de tienda que traga lo que pega el visitante puede acabar prometiendo un descuento que nadie autorizó, o soltando un dato interno si se le ha dado acceso. El riesgo sube cuando el asistente lee páginas web o correos de extraños. La defensa es no mezclar secretos en el mismo turno, filtrar lo que entra y no dejar al modelo ejecutar pagos ni borrados sin un humano.
Una clínica de Irun desconectó del asistente público la carpeta de historiales tras un recado extraño en el chat. No hubo fuga, y sí un susto. La inyección no es un fallo de marketing. Es un fallo de permiso. Si el modelo puede verlo, alguien puede pedirle que lo cuente.
