Seguridad de la IA
Cómo se atacan los sistemas de IA, y cómo defenderlos.
Siete capítulos sobre la seguridad de los sistemas de IA: la nueva superficie de ataque, las amenazas que residen en ella, las defensas en capas que funcionan, y la gobernanza que lo demuestra. Cada uno combina una explicación en lenguaje claro con profundizaciones opcionales en la investigación y el código.
Escrito para ingenieros, profesionales de la seguridad y líderes técnicos que construyen o adquieren sistemas de IA. El enfoque es defensivo de principio a fin: entender los ataques para detenerlos. Prueba solo los sistemas que poseas o que estés autorizado a probar.
Capítulos
- Capítulo 01 · 10 min
La nueva superficie de ataque
“Has contratado a un ayudante brillante que se cree todo lo que lee, y le has dado las llaves.”
Leer → - Capítulo 02 · 13 min
Inyección de prompt
“Una nota deslizada entre los documentos que le entregaste a tu ayudante, redactada como si viniera de ti.”
Leer → - Capítulo 03 · 11 min
Fuga de datos y privacidad
“Todo lo que pones en el prompt lo has dicho en voz alta en una sala que no controlas.”
Leer → - Capítulo 04 · 10 min
Jailbreaks y abuso
“El portero sigue un guion. Encuentra una frase que el guion no cubra, y ya estás dentro.”
Leer → - Capítulo 05 · 11 min
La cadena de suministro de la IA
“No cultivaste los ingredientes. Confías en cada granja, camión y almacén que nunca has visto.”
Leer → - Capítulo 06 · 12 min
Defender los sistemas de IA
“Construye un castillo, no un muro. Los muros caen; las capas te dan tiempo para detectar y reaccionar.”
Leer → - Capítulo 07 · 11 min
Gobernanza y garantía
“Las cerraduras hacen que la gente honrada siga siendo honrada. La gobernanza es el papeleo que demuestra que pusiste bien las cerraduras.”
Leer →