El blog chileno oficial de la Seguridad en Inteligencia Artificial
Análisis para quien decide sobre IA
Escribimos sobre lo que después tenemos que implementar: qué controlar primero, con qué evidencia y en qué orden. Sin cifras inventadas y con la incertidumbre a la vista.
Prompt injection: por qué tus guardrails no bastan
La inyección de prompts no es un bug que se parchea, es consecuencia de cómo funciona un modelo de lenguaje. Qué controlar cuando el filtro de entrada falla.
Leer el análisisAnatomía de un ataque a un sistema de IA
Dónde empieza y dónde termina la superficie de ataque de una aplicación con modelos: datos, modelo, contexto, herramientas y personas.
Leer análisisEl OWASP Top 10 para LLM explicado sin jerga
Los diez riesgos del estándar traducidos a decisiones concretas de arquitectura, con el control que corresponde a cada uno.
Leer análisisMITRE ATLAS: cómo leer las tácticas de ataque contra IA
Qué es ATLAS, en qué se diferencia de ATT&CK y cómo usarlo para ordenar tu propio modelado de amenazas.
Leer análisisShadow AI: cómo inventariar en dos semanas lo que ya se está usando
Un plan de diez días para levantar el uso real de IA en tu organización, clasificarlo por sensibilidad del dato y decidir qué formalizar, acotar o sustituir.
Leer análisisEnvenenamiento de datos: el ataque que ocurre antes del despliegue
Cómo se contamina un conjunto de entrenamiento o una base vectorial, por qué es difícil de detectar y qué controles aplican en la práctica.
Leer análisisExtracción de modelos y fuga de datos de entrenamiento
Qué puede reconstruir un atacante consultando tu modelo, qué revela sin querer y cómo limitar la exposición sin romper el producto.
Leer análisisAgentes con herramientas: el modelo de permisos que casi nadie diseña
Por qué heredar los permisos del usuario es el error más común en agentes corporativos y cómo se ve un diseño de autorización correcto.
Leer análisisSeis controles de seguridad de IA que puedes implementar este trimestre
Los marcos describen el destino pero no el orden del camino. Seis controles concretos, priorizados por reducción de riesgo sobre esfuerzo, y cómo repartirlos en 90 días.
Leer análisisModel Context Protocol: qué expone y cómo acotarlo
MCP conecta modelos con sistemas internos. Revisamos qué superficie nueva abre cada servidor y qué revisar antes de habilitarlo.
Leer análisisConfused deputy: cuando tu agente ejecuta órdenes ajenas
Un patrón de abuso clásico que reaparece en los agentes de IA, con ejemplos de cómo se manifiesta y cómo se corta de raíz.
Leer análisisSandboxing para agentes que escriben y ejecutan código
Aislamiento, red, sistema de archivos y secretos: el mínimo razonable antes de dejar que un modelo ejecute lo que acaba de escribir.
Leer análisisMemoria persistente de agentes: el riesgo que se acumula
Lo que un agente recuerda entre sesiones se vuelve un almacén de datos sin política. Cómo gobernar la memoria antes de que sea un problema.
Leer análisisISO/IEC 42001 en la práctica: qué pide de verdad
Más allá del índice de la norma: qué evidencia hay que producir, qué roles hay que nombrar y por dónde empieza una implementación realista.
Leer análisisNIST AI RMF aplicado a una organización mediana
Las cuatro funciones del marco (gobernar, mapear, medir, gestionar) traducidas a tareas concretas para equipos sin oficina de riesgo.
Leer análisisComité de IA: a quién sentar y qué decide realmente
Composición, atribuciones y ritmo de un comité que no sea un trámite. Con los tres tipos de decisión que no puede delegar.
Leer análisisCómo escribir una política de uso de IA que la gente lea
Las políticas largas no se cumplen porque no se leen. Estructura, extensión y lenguaje de una que sí funciona en el día a día.
Leer análisisEvaluación de impacto algorítmico, paso a paso
Cuándo corresponde hacerla, qué preguntas incluye y cómo documentar el resultado para que sirva ante un auditor o un regulador.
Leer análisisLey IA en Chile: qué se puede hacer hoy sin esperar el texto final
El proyecto sigue en tramitación, pero las obligaciones probables ya se pueden anticipar. Qué preparar ahora para no llegar tarde.
Leer análisisAI Act europeo: qué le aplica a una empresa chilena
El reglamento europeo alcanza a proveedores fuera de la UE. Cuándo te aplica, qué categoría de riesgo te toca y qué exige.
Leer análisisDatos personales e IA en Chile: lo que cambia con la nueva ley
La modernización del régimen de datos personales redefine el terreno para cualquier proyecto de IA. Qué implica en términos operativos.
Leer análisisTransferencia internacional de datos en servicios de IA
Cuando el modelo está en otro país, tus datos también viajan. Cómo evaluar el trayecto, el contrato y las alternativas.
Leer análisisObservabilidad de sistemas de IA: qué medir y por qué
Trazas, costos, latencia, tasa de rechazo y deriva de comportamiento. La instrumentación mínima para operar con criterio.
Leer análisisRed teaming de LLM: cómo montar tu primer ejercicio
Alcance, equipo, reglas de enfrentamiento y entregables de un ejercicio adversarial que produzca hallazgos accionables.
Leer análisisConstruir tu suite de evaluaciones adversariales
Cómo pasar del red teaming manual a un conjunto de pruebas versionado que se ejecute en cada cambio del sistema.
Leer análisisRespuesta a incidentes en sistemas de IA
Qué cambia respecto a un incidente clásico: la evidencia es distinta, la contención también y la causa raíz rara vez es un exploit.
Leer análisisMétricas de seguridad de IA para el directorio
Cinco indicadores que un directorio entiende y que de verdad reflejan el estado del programa, sin caer en métricas de vanidad.
Leer análisisRAG seguro: el control de acceso que falta en la recuperación
La mayoría de las implementaciones de RAG filtran documentos después de recuperarlos, o no los filtran. Cómo hacerlo bien.
Leer análisisDeepfakes y fraude por voz: controles que sí funcionan
La detección técnica va por detrás de la generación. Por eso los controles que funcionan son de proceso, no de modelo.
Leer análisisIA en la cadena de suministro de software
Modelos descargados, dependencias generadas y paquetes alucinados: tres vectores nuevos en un problema que ya conocíamos.
Leer análisisSesgo algorítmico: del principio ético al control técnico
Declarar que un sistema debe ser justo no lo hace justo. Qué se mide, con qué datos y quién firma el resultado.
Leer análisisLos costos ocultos de desplegar IA sin controles
Retrabajo, proyectos detenidos en revisión legal y pérdida de confianza interna. El costo de la inseguridad rara vez aparece como incidente.
Leer análisisAdopción de IA en el sector público chileno: riesgos propios
Transparencia, decisiones que afectan derechos y contratación pública. Por qué el sector público necesita un estándar más alto.
Leer análisisÚltimas noticias
El radar revisa cada hora las fuentes de referencia del sector. 68 titulares nuevos en las últimas 24 horas, 956 en seguimiento.
¿Y esto qué significa para ti?
Traducimos el ruido en un plan de control
Armemos el diagnóstico de tu exposición real y una hoja de ruta de 90 días con responsables y evidencia.