컴퓨터 업계에는 초기 메인프레임 시절부터 전해 내려오는 오래된 격언이 있습니다. 바로 "쓰레기를 넣으면 쓰레기가 나온다(Garbage in, garbage out)"는 것입니다. 이는 기계는 입력된 정보만을 가지고 작동할 수 있으며, 만약 결함 있는 정보를 입력한다면 기계 역시 결함 있는 결과를 확신 있게 내놓을 것이라는 의미입니다. 인공지능이 소방 시스템 설계, 설치, 검사 도구에 등장하기 시작하면서 이 원칙은 그 어느 때보다 중요해졌습니다. 이 기술은 놀랍습니다. 하지만 그 기반이 되는 데이터가 모든 것을 결정합니다.
화재 예방에서 데이터 품질이 중요한 이유
화재 방호는 세부 사항을 정확하게 파악하는 데 기반을 둔 분야입니다. NFPA 13에 따라 시스템 규모를 산정하는 설계 전문가는 실제 화재, 실제 고장, 그리고 실제 인명 손실을 통해 검증된 지식을 바탕으로 작업합니다. 인공지능 도구에 이러한 작업을 도와달라고 요청할 때, 우리는 그 도구가 학습한 정보에 의존하도록 요청하는 것입니다. 만약 그 정보가 최신이고 정확하며 우리가 실제로 사용하는 규정에 근거한다면, 그 도구는 진정한 도움이 될 수 있습니다. 하지만 정보가 오래되었거나 불완전하거나 검증되지 않은 인터넷 출처에서 가져온 것이라면, 그 도구는 조용하지만 확신에 찬 오류의 원인이 될 수 있습니다. 그리고 확신에 찬 오류는 인명 안전과 관련된 분야에서 가장 위험한 유형입니다.
생명 안전 시스템에서 AI를 위한 데이터 품질의 의미는 무엇일까요?
우리가 사는 세상에서 "데이터 품질"이 실제로 무엇을 의미하는지 생각해 봅시다. 이는 표준의 개정판이 중요하다는 것을 의미합니다. NFPA 13의 이전 개정판으로 학습된 모델은 더 이상 적용되지 않는 간격 규칙이나 위험 분류를 인용할 수 있습니다. 출처가 중요하다는 뜻입니다. 제조업체의 설치 설명서에서 가져온 지침은 포럼의 댓글과는 다른 중요성을 지니지만, 이를 구분하지 못하는 AI 시스템은 둘 다 똑같이 사실로 취급할 것입니다. 맥락이 중요하다는 뜻입니다. 위험도가 낮은 용도에는 맞는 규칙이라도, 원래 의도와는 전혀 다른 보관 방식에 적용될 경우 잘못되었거나 심지어 위험할 수 있습니다. 기계는 데이터가 그 차이를 학습하지 않으면 알 수 없습니다.
NFPA와 NFSA는 어떻게 공신력 있는 자료를 기반으로 AI를 구축하고 있을까요?
바로 이 지점에서 업계가 주목할 만한 움직임을 보이기 시작했습니다. NFPA와 NFSA는 공개 웹이 아닌 권위 있는 자료에 기반한 AI 도구를 개발하기 시작했습니다. NFPA는 NFPA LiNK 내에 출시된 CASI 어시스턴트를 공식 NFPA 콘텐츠에 기반하고 있으며, 참고 문헌을 제시하기 때문에 사용자가 신뢰할 수 있는 답변을 제공한다고 설명합니다(NFPA, 2026). NFPA 또한 엔지니어링 및 설계 관련 질문에 대한 Chat EOD 도구를 통해 유사한 접근 방식을 취하고 있습니다. 도구가 실제 코드 및 표준 문서에서 답변을 도출할 때 입력의 품질이 크게 향상되고, 출력 결과는 전문가가 바로 활용할 수 있는 수준이 됩니다. 바로 이러한 근거 마련이 핵심입니다. 추측에 그치는 도구와 사용자가 실제로 참고하는 문서를 바탕으로 추론하는 도구의 차이가 바로 여기에 있습니다. 이러한 노력의 가치는 AI 기술 자체에 있는 것이 아닙니다. 진정한 가치는 누군가가 그 개발 과정에 심혈을 기울였다는 데 있습니다.
데이터가 불량할 때 발생하는 환각 문제
데이터가 부실할 때 발생하는 상황과 대조해 봅시다. 범용 모델에 화재 예방 관련 질문을 하면, 권위 있어 보이고 읽기 쉬운 답변을 내놓는 경우가 많습니다. 표준을 명시적으로 언급하고, 적절한 용어를 사용할 수도 있습니다. 하지만 경험이 풍부한 전문가만이 알아챌 수 있는 오류가 있을 수 있습니다. 이것이 바로 '환각' 문제이며, 드문 오류가 아닙니다. 시스템이 보유한 데이터가 뒷받침할 수 있는 범위를 넘어서는 답변을 요구할 때 발생하는 예측 가능한 결과입니다. 시스템이 거짓말을 하는 것은 아닙니다. 시스템에는 진실이라는 개념이 없습니다. 시스템은 패턴을 기반으로 그럴듯한 답변을 구성하는 것인데, 근본적인 패턴이 빈약하거나 결함이 있을 경우, 답변 또한 빈약하거나 결함이 있으며, 그 결함을 감추기 위해 유창한 언어로 포장될 뿐입니다. 법조계는 두 변호사가 AI 도구가 만들어낸 사례를 바탕으로 법원에 서류를 제출했다가 판사로부터 제재를 받은 사건(Mata v. Avianca)을 통해 이 사실을 알게 되었습니다. 조작된 인용문은 진짜처럼 보였지만, 실제로는 존재하지 않았습니다.
전문가의 책임과 진료 기준
이 문제는 단순한 기술적 호기심을 넘어 중대한 사안입니다. 우리 분야에서 실수는 화면에만 머무르지 않습니다. 도면에 날인을 하고, 시스템을 설치하고, 건물을 완공하는 데 직접적인 영향을 미칩니다. 도면에 날인을 하는 책임 엔지니어는 그에 대한 전문적인 책임을 지는 것이며, 어떤 AI 도구도 그 책임을 대신 져주지 않습니다. 도구에 입력된 데이터가 엉터리였다 하더라도, 결과에 대한 책임은 여전히 전문가에게 있습니다. 이는 매우 심각한 문제이며, 우리 모두가 이러한 도구를 어떻게 접근해야 하는지에 대한 중요한 교훈이 되어야 합니다. 우리는 결과물에 대해 책임을 져야 하며, 그 결과물을 만들어내는 데 어떤 도구가 사용되었든 간에 책임을 져야 합니다.
화재 예방에 AI 도구를 활용하기 위한 모범 사례
그렇다면 이러한 도구들이 등장하면서 좋은 관행이란 무엇일까요? 우선 답의 출처를 아는 것부터 시작합니다. 출처를 보여주고, 실제 표준을 인용하며, 참고한 조항을 알려줄 수 있는 도구는 단순히 주장만 하는 도구보다 훨씬 유용합니다. 그다음은 검증입니다. AI 시스템의 모든 출력은 마치 신입 직원의 작업을 검토하듯이 관련 코드와 대조하여 확인해야 합니다. 사실상 그것이 바로 여러분이 하고 있는 일이기 때문입니다. 그리고 이는 수년간의 실무 경험에서 비롯된 판단력에 달려 있습니다. 숙련된 설계자는 이유를 설명하기도 전에 답이 잘못되었다는 것을 직감적으로 느낄 수 있습니다. 이러한 직감은 기계가 대체할 수 있는 것이 아닙니다. 데이터가 우리를 실망시킬 때, 그것이 바로 최후의 방어선입니다.
데이터 품질은 AI가 생명을 보호하는지 여부를 결정합니다.
이 모든 것이 기술을 외면할 이유는 아닙니다. 권위 있는 출처에 기반한 도구들은 이미 신중한 데이터의 중요성을 보여주고 있으며, 앞으로 더욱 발전할 것입니다. 핵심은 그 어떤 도구보다도 단순하고 오래된 진리입니다. 도구는 사용자가 얼마나 잘 활용하느냐에 따라 그 가치가 결정됩니다. 대부분의 분야에서 잘못된 결과는 불편함을 초래할 뿐이지만, 우리 분야에서는 사람들의 생명을 위협할 수 있습니다. 그렇기 때문에 데이터 품질은 우리 직종에서 결코 부차적인 문제가 아닙니다. 데이터 품질은 이러한 도구들이 생명을 보호하는 데 도움이 될지, 아니면 우리가 수십 년간 쌓아온 의료 서비스 수준을 조용히 훼손할지를 결정짓는 핵심적인 문제입니다.
기계는 계속해서 발전할 것입니다. 하지만 우리의 의무는 변함없이 중요합니다. 소방공학계는 이미 어디에 집중해야 할지 분명히 밝혔습니다. 제가 2025년 버클리에서 참석했던 SFPE AI in Fire Engineering Summit에서, 검증과 확인은 참석한 전문가들 사이에서 가장 중요한 우선순위로 꼽혔습니다. 우리가 보호하는 건물에 거주하는 사람들은 기계가 맹목적으로 내놓은 답이 아니라, 우리가 직접 검증한 결과를 믿고 있습니다. "쓰레기를 넣으면 쓰레기가 나온다"라는 말은 메인프레임 운영자들이 처음 사용했을 때처럼 오늘날에도 여전히 유효하며, 이를 잊었을 때의 대가는 그 어느 때보다 큽니다.
참고 자료
Chat EOD: 업계가 업계를 위해 개발했습니다. https://nfsa.org/2025/11/06/chat-eod-developed-by-the-industry-for-the-industry/
NFPA는 화재 및 인명 안전 분야의 디지털 전환을 앞당기는 NFPA LiNK 3.0을 공개했습니다. https://www.nfpa.org/about-nfpa/press-room/news-releases/2026/nfpa-unveils-nfpa-link-3-0-advancing-digital-transformation-in-fire-and-life-safety
마타 대 아비앙카 소송에서 변호사가 저지른 AI 관련 실수에서 얻을 수 있는 실질적인 교훈. https://www.acc.com/resource-library/practical-lessons-attorney-ai-missteps-mata-v-avianca
2025년 AI 소방공학 서밋을 되돌아보며. https://www.sfpe.org/blogs/amanda-tarbet/2025/08/01/2025-ai-in-fire-engineering-summ