W informatyce istnieje stare powiedzenie, sięgające początków komputerów mainframe: „Garbage in, garbage out”. Oznacza ono, że maszyna może pracować tylko z tym, co jej dostarczysz, a jeśli dostarczysz jej błędne informacje, z pełnym przekonaniem udzieli ci błędnych odpowiedzi. Zasada ta nigdy nie miała większego znaczenia niż teraz, gdy sztuczna inteligencja zaczyna pojawiać się w narzędziach, których używamy do projektowania, instalacji i kontroli systemów przeciwpożarowych. Technologia ta jest imponująca. Dane, na których się opiera, decydują o wszystkim.

Dlaczego jakość danych ma znaczenie w ochronie przeciwpożarowej

Ochrona przeciwpożarowa to dyscyplina oparta na dbałości o szczegóły. Projektant, dostosowując system do normy NFPA 13, opiera się na wiedzy sprawdzonej w rzeczywistych pożarach, awariach i ofiarach śmiertelnych. Kiedy prosimy narzędzie AI o pomoc w tym zadaniu, prosimy je o wykorzystanie wszelkich informacji, na których zostało wyszkolone. Jeśli te informacje są aktualne, dokładne i oparte na kodach, których faktycznie używamy, narzędzie może okazać się naprawdę pomocne. Jeśli są nieaktualne, niekompletne lub zaczerpnięte z niezweryfikowanych źródeł w internecie, narzędzie staje się źródłem ukrytych, pewnych błędów. A pewne błędy są najgroźniejszym rodzajem błędów w aplikacjach związanych z bezpieczeństwem życia.

Co jakość danych oznacza dla sztucznej inteligencji w systemach bezpieczeństwa życia

Zastanówmy się, co tak naprawdę oznacza „jakość danych” w naszym świecie. Oznacza to, że wydanie normy ma znaczenie. Model trenowany na zastąpionej wersji normy NFPA 13 może powoływać się na zasady dotyczące rozmieszczenia lub klasyfikacje zagrożeń, które już nie obowiązują. Oznacza to, że źródło ma znaczenie. Wskazówki zaczerpnięte z instrukcji instalacji producenta mają inną wagę niż wątek komentarzy na forum, jednak system sztucznej inteligencji, który nie potrafi odróżnić tych dwóch kwestii, potraktuje je jako równie prawdziwe. Oznacza to, że kontekst ma znaczenie. Reguła, która jest prawidłowa dla lekkiego zagrożenia, może być błędna, a nawet niebezpieczna, jeśli zostanie zastosowana do układu magazynowego, którego nigdy nie miała obejmować. Maszyna nie rozpoznaje różnicy, dopóki dane jej jej nie uświadomią.

W jaki sposób NFPA i NFSA budują sztuczną inteligencję w oparciu o wiarygodne źródła

To właśnie tutaj branża zaczyna robić coś godnego uwagi. NFPA i NFSA zaczęły tworzyć narzędzia AI oparte na autorytatywnych źródłach, a nie na otwartej sieci. NFPA opisuje swojego asystenta CASI, uruchomionego w NFPA LiNK, jako odpowiedź, której użytkownicy mogą zaufać, ponieważ jest on oparty na oficjalnej treści NFPA i zwraca odnośniki do fragmentów źródłowych, na których się opierał (NFPA, 2026). NFSA obrała podobną ścieżkę ze swoim narzędziem Chat EOD do pytań inżynieryjnych i projektowych. Kiedy narzędzie czerpie odpowiedzi z rzeczywistego zbioru kodów i norm, jakość danych wejściowych gwałtownie wzrasta, a dane wyjściowe stają się czymś, z czym profesjonalista może zacząć pracować. To właśnie to ugruntowanie jest sednem sprawy. To różnica między narzędziem, które zgaduje, a narzędziem, które rozumuje na podstawie tych samych dokumentów, po które sięgnąłbyś na półce. Wartość tych wysiłków nie polega na tym, że są one wspierane przez AI. Wartość polega na tym, że ktoś zadbał o to, co w nie włożył.

Problem halucynacji w przypadku niedostatecznej ilości danych

Porównajmy to z tym, co się dzieje, gdy dane są słabe. Model ogólnego przeznaczenia, któremu zadano pytanie dotyczące ochrony przeciwpożarowej, często generuje odpowiedź, która brzmi autorytatywnie i dobrze się czyta. Może odwoływać się do standardu z nazwy. Może używać odpowiedniego słownictwa. I może być błędna w sposób, który wychwyci tylko doświadczony specjalista. To jest problem halucynacji i nie jest to rzadki błąd. Jest to przewidywalny rezultat proszenia systemu o wypowiedź wykraczającą poza to, co mogą potwierdzić jego dane. System nie kłamie. Nie ma pojęcia o prawdzie. Tworzy wiarygodną odpowiedź na podstawie wzorców, a gdy podstawowe wzorce są słabe lub wadliwe, odpowiedź również jest słaba lub wadliwa, ubrana w płynny język, który ukrywa lukę. Środowisko prawnicze przekonało się o tym publicznie, gdy dwóch adwokatów złożyło wniosek do sądu oparty na sprawach wymyślonych przez narzędzie sztucznej inteligencji, a sędzia ukarał ich za to (Mata przeciwko Avianca). Sfabrykowane cytaty wyglądały na prawdziwe. Po prostu nie istniały.

Odpowiedzialność zawodowa i standard opieki

Stawka sprawia, że to coś więcej niż techniczna ciekawostka. W naszej dziedzinie błąd nie pozostaje na ekranie. Staje się projektem, który zostaje ostemplowany, systemem, który zostaje zainstalowany, budynkiem, który zostaje zajęty. Osoba odpowiedzialna za projekt, która pieczętuje rysunek, przyjmuje za niego odpowiedzialność zawodową, a żadne narzędzie AI nie podziela tej odpowiedzialności. Nawet jeśli dane zasilające narzędzie były bezużyteczne, profesjonalista nadal jest odpowiedzialny za wynik. To trzeźwiąca myśl, która powinna ukształtować sposób, w jaki każdy z nas podchodzi do tych narzędzi. Jesteśmy odpowiedzialni za to, co stworzymy, cokolwiek nam w tym pomogło.

Dobre praktyki w zakresie wykorzystania narzędzi AI w ochronie przeciwpożarowej

Jak więc wyglądają dobre praktyki, gdy pojawiają się te narzędzia? Zaczyna się od wiedzy, skąd pochodzi odpowiedź. Narzędzie, które potrafi wskazać źródła, zacytować właściwy standard i wskazać fragment, na którym się opiera, jest o wiele bardziej przydatne niż takie, które po prostu twierdzi. Kontynuuje weryfikację. Każdy wynik działania systemu AI powinien być sprawdzany pod kątem kodu źródłowego w taki sam sposób, w jaki sprawdza się pracę młodszego kolegi, ponieważ w zasadzie to właśnie się robi. I to zależy od osądu, takiego, który wynika z lat pracy, który pozwala doświadczonemu projektantowi wyczuć, kiedy odpowiedź wydaje się błędna, zanim jeszcze będzie w stanie powiedzieć dlaczego. Tego instynktu maszyna nie może zastąpić. To ostatnia linia obrony, gdy dane nas zawodzą.

Jakość danych decyduje o tym, czy sztuczna inteligencja chroni życie

Nic z tego nie jest powodem, by odwrócić się od tej technologii. Narzędzia oparte na autorytatywnych źródłach już pokazują, co potrafią zdziałać starannie dobrane dane, i będą się rozwijać. Chodzi o coś prostszego i starszego niż jakiekolwiek inne. Narzędzie jest tak dobre, jak to, co w nie włożysz. W większości dziedzin zła odpowiedź to niedogodność. W naszej może narazić ludzi na ryzyko. Dlatego jakość danych nie jest kwestią drugoplanową w naszym zawodzie. To właśnie ta kwestia decyduje, czy narzędzia te pomogą nam chronić życie, czy też po cichu podważą standard opieki, który budowaliśmy przez dekady.

Maszyny będą się stale udoskonalać. Nasze zobowiązanie pozostaje niezmienne. Społeczność inżynierii pożarnictwa już zasygnalizowała, na czym należy skupić swoją uwagę. Podczas szczytu SFPE AI in Fire Engineering Summit, w którym uczestniczyłem w Berkeley w 2025 roku, weryfikacja i walidacja wyróżniały się jako wspólny priorytet wśród obecnych na sali specjalistów. Osoby przebywające w budynkach, które chronimy, liczą na pracę, którą sami sprawdziliśmy, a nie na odpowiedzi, które maszyna podała nam na wiarę. Zasada „śmieci na wejściu, śmieci na wyjściu” była prawdziwa dla operatorów komputerów mainframe, którzy ukuli to powiedzenie. Jest ona równie prawdziwa dzisiaj, a koszt zapomnienia o niej nigdy nie był wyższy.

 Odniesienia

Czat EOD: Opracowany przez branżę, dla branży. https://nfsa.org/2025/11/06/chat-eod-developed-by-the-industry-for-the-industry/

NFPA przedstawia NFPA LiNK 3.0, przyspieszając cyfrową transformację w dziedzinie bezpieczeństwa pożarowego i życia. https://www.nfpa.org/about-nfpa/press-room/news-releases/2026/nfpa-unveils-nfpa-link-3-0-advancing-digital-transformation-in-fire-and-life-safety

Praktyczne wnioski z błędów adwokata w sprawie Mata v. Avianca. https://www.acc.com/resource-library/practical-lessons-attorney-ai-missteps-mata-v-avianca

Refleksje na temat szczytu poświęconego sztucznej inteligencji w inżynierii pożarniczej w 2025 r. https://www.sfpe.org/blogs/amanda-tarbet/2025/08/01/2025-ai-in-fire-engineering-summ