Existe un viejo dicho en informática que se remonta a los primeros ordenadores centrales: «Si introduces basura, obtendrás basura». Significa que una máquina solo puede trabajar con la información que se le proporciona, y si se le suministra información errónea, dará respuestas erróneas con total seguridad. Este principio nunca ha sido tan importante como ahora, a medida que la inteligencia artificial comienza a integrarse en las herramientas que utilizamos para diseñar, instalar e inspeccionar sistemas de protección contra incendios. La tecnología es impresionante. Los datos que la sustentan lo deciden todo.

Por qué la calidad de los datos es importante en la protección contra incendios.

La protección contra incendios es una disciplina que se basa en cuidar los detalles. Un profesional del diseño que dimensiona un sistema según la norma NFPA 13 trabaja con un conjunto de conocimientos probados en incendios reales, con fallos reales y con pérdidas de vidas reales. Cuando solicitamos la ayuda de una herramienta de IA para este trabajo, le pedimos que utilice la información con la que fue entrenada. Si esa información es actual, precisa y se basa en los códigos que utilizamos, la herramienta puede ser de gran utilidad. Si está desactualizada, incompleta o proviene de fuentes no verificadas de internet, se convierte en una fuente de errores silenciosos y persistentes. Y los errores persistentes son los más peligrosos en una aplicación de seguridad vital.

Qué significa la calidad de los datos para la IA en los sistemas de seguridad vital

Consideremos qué significa realmente la "calidad de los datos" en nuestro mundo. Significa que la edición de la norma importa. Un modelo entrenado con una edición obsoleta de la NFPA 13 puede citar reglas de espaciamiento o clasificaciones de riesgo que ya no son aplicables. Significa que la fuente importa. La información extraída de un manual de instalación del fabricante tiene diferente peso que un comentario en un foro, pero un sistema de IA que no puede distinguir la diferencia tratará ambas como igualmente ciertas. Significa que el contexto importa. Una regla que es correcta para una ocupación de bajo riesgo puede ser errónea, incluso peligrosa, cuando se aplica a una disposición de almacenamiento para la que nunca fue diseñada. La máquina no conoce la diferencia a menos que los datos se la hayan enseñado.

Cómo la NFPA y la NFSA están desarrollando la IA basándose en fuentes autorizadas.

Aquí es donde la industria comienza a hacer algo digno de mención. La NFPA y la NFSA han comenzado a desarrollar herramientas de IA basadas en fuentes autorizadas en lugar de la web abierta. La NFPA describe su asistente CASI, lanzado dentro de NFPA LiNK, como una respuesta confiable para los usuarios porque se basa en contenido oficial de la NFPA y devuelve citas a los pasajes fuente en los que se apoyó (NFPA, 2026). La NFSA ha seguido un camino similar con su herramienta Chat EOD para preguntas de ingeniería y diseño. Cuando una herramienta obtiene sus respuestas del cuerpo real de códigos y estándares, la calidad de la entrada aumenta considerablemente y el resultado se convierte en algo con lo que un profesional puede comenzar a trabajar. Esa base es la clave. Es la diferencia entre una herramienta que adivina y una herramienta que razona a partir de los mismos documentos que uno consultaría. El valor de estos esfuerzos no radica en que estén impulsados por IA, sino en que alguien se esmeró en su elaboración.

El problema de las alucinaciones cuando los datos son deficientes.

Compárese esto con lo que sucede cuando los datos son deficientes. Un modelo de propósito general, al ser consultado sobre protección contra incendios, a menudo producirá una respuesta que suena autorizada y se lee bien. Puede que haga referencia a una norma por su nombre. Puede que utilice el vocabulario adecuado. Y puede que contenga errores que solo un profesional experimentado detectaría. Este es el problema de la alucinación, y no es un fallo aislado. Es el resultado predecible de pedirle a un sistema que se exprese más allá de lo que sus datos pueden respaldar. El sistema no miente. No tiene concepto de verdad. Está construyendo una respuesta plausible a partir de patrones, y cuando los patrones subyacentes son débiles o defectuosos, la respuesta también lo es, disfrazada con un lenguaje fluido que oculta la deficiencia. La profesión legal lo aprendió públicamente cuando dos abogados presentaron un escrito judicial basado en casos inventados por una herramienta de IA, y el juez los sancionó por ello (Mata v. Avianca). Las citas fabricadas parecían reales. Simplemente no existían.

Responsabilidad profesional y estándar de atención

Lo que está en juego hace que esto sea más que una simple curiosidad técnica. En nuestro campo, un error no se queda en la pantalla. Se convierte en un diseño que se aprueba, un sistema que se instala, un edificio que se ocupa. El ingeniero profesional responsable que aprueba un plano asume la responsabilidad profesional, y ninguna herramienta de IA comparte esa responsabilidad. Si los datos que alimentan la herramienta son erróneos, el profesional sigue siendo responsable del resultado. Es una reflexión que invita a la reflexión y que debería influir en cómo todos abordamos estas herramientas. Somos responsables de lo que producimos, independientemente de lo que haya contribuido a ello.

Buenas prácticas para el uso de herramientas de IA en la protección contra incendios.

Entonces, ¿cómo se manifiestan las buenas prácticas con la llegada de estas herramientas? Comienza por saber de dónde proviene la respuesta. Una herramienta que puede mostrar sus fuentes, citar el estándar real e indicar el pasaje en el que se basó es mucho más útil que una que simplemente afirma. Continúa con la verificación. Cada resultado de un sistema de IA debe cotejarse con el código rector del mismo modo que se revisaría el trabajo de un colega junior, porque eso es esencialmente lo que se está haciendo. Y depende del criterio, el que se adquiere con años de experiencia, que permite a un diseñador experimentado intuir cuándo una respuesta parece errónea incluso antes de poder explicar por qué. Ese instinto no es algo que la máquina pueda reemplazar. Es la última línea de defensa cuando los datos nos fallan.

La calidad de los datos determina si la IA protege vidas.

Nada de esto justifica el rechazo a la tecnología. Las herramientas basadas en fuentes autorizadas ya demuestran el potencial de los datos precisos, y seguirán mejorando. La idea principal es más simple y antigua que cualquier otra: una herramienta es tan buena como la información que se le proporciona. En la mayoría de los campos, una respuesta deficiente es un inconveniente. En el nuestro, puede poner en riesgo a las personas. Por eso, la calidad de los datos no es una preocupación secundaria para nuestra profesión. Es la preocupación que determina si estas herramientas nos ayudan a proteger vidas o si, silenciosamente, socavan el estándar de atención que hemos construido durante décadas.

Las máquinas seguirán mejorando. Nuestra obligación permanece inalterable. La comunidad de ingeniería contra incendios ya ha dejado claro dónde debe centrar su atención. En la Cumbre de IA en Ingeniería contra Incendios de la SFPE a la que asistí en Berkeley en 2025, la verificación y la validación destacaron como una prioridad compartida entre los profesionales presentes. Las personas que ocupan los edificios que protegemos confían en un trabajo que hemos revisado personalmente, no en respuestas que una máquina nos ha proporcionado sin más. El dicho «si introduces basura, obtienes basura» era cierto para los operadores de mainframes que acuñaron la frase. Sigue siendo igual de cierto hoy en día, y el coste de olvidarlo nunca ha sido tan alto.

 Referencias

Chat EOD: Desarrollado por la industria, para la industria. https://nfsa.org/2025/11/06/chat-eod-developed-by-the-industry-for-the-industry/

La NFPA presenta NFPA LiNK 3.0, impulsando la transformación digital en la seguridad contra incendios y la protección de la vida. https://www.nfpa.org/about-nfpa/press-room/news-releases/2026/nfpa-unveils-nfpa-link-3-0-advancing-digital-transformation-in-fire-and-life-safety

Lecciones prácticas extraídas de los errores cometidos por la IA en el caso Mata contra Avianca. https://www.acc.com/resource-library/practical-lessons-attorney-ai-missteps-mata-v-avianca

Reflexiones sobre la Cumbre de IA en Ingeniería contra Incendios de 2025. https://www.sfpe.org/blogs/amanda-tarbet/2025/08/01/2025-ai-in-fire-engineering-summ