Przejdź do treści
Podróże małe i duże

Zapiski z podróży

Rejestr incydentów i decyzji AI w organizacji

Rate this post

Ostatnia aktualizacja: 2026-11-16

W dużej organizacji rejestr nie powinien być zbiorem samych odpowiedzi AI. Powinien pozwalać odtworzyć, co system zaproponował, kto i na jakiej podstawie podjął decyzję, co zostało wykonane oraz jaki był skutek.

  • Oddziel odpowiedź lub rekomendację AI od decyzji człowieka i działania wykonanego w procesie.
  • Dopasuj zakres wpisu do ryzyka. Nie każdy błąd wymaga pełnego pakietu danych.
  • Połącz wpis z systemem, jego wersją, oceną ryzyka i działaniem naprawczym.
  • Ustal progi eskalacji oraz ogranicz dostęp do danych wrażliwych.
Rejestr incydentów i decyzji dotyczących odpowiedzi AI ma wspierać analizę zdarzeń, przypisywanie odpowiedzialności, eskalację oraz poprawę procesu. Nie powinien natomiast automatycznie przechowywać każdej rozmowy z narzędziem ani zastępować technicznych logów systemowych.Najbardziej użyteczny model obejmuje cały łańcuch: odpowiedź lub rekomendację AI, ocenę człowieka, podjętą decyzję, wykonane działanie i jego skutek. Szczegółowość zapisu trzeba dopasować do ryzyka procesu, a obowiązki regulacyjne oceniać z uwzględnieniem rodzaju systemu i roli organizacji.

Rejestruj cały łańcuch: odpowiedź, decyzję, działanie i skutek

Rejestr powinien umożliwiać odtworzenie przebiegu zdarzenia i decyzji w zakresie adekwatnym do ryzyka. Sama treść wygenerowana przez model nie pokazuje jeszcze, czy została użyta, kto ją zatwierdził ani jaki wywołała skutek.[3][4]

W praktyce należy zachować rozróżnienie między czterema elementami:

  • odpowiedzią lub rekomendacją AI — propozycją wygenerowaną przez system;
  • decyzją człowieka — zatwierdzeniem, odrzuceniem albo zmianą propozycji;
  • działaniem wykonanym — operacją przeprowadzoną w procesie;
  • skutkiem — rezultatem, który trzeba ocenić i ewentualnie naprawić.

Takie rozdzielenie pomaga ustalić, czy źródłem problemu była odpowiedź systemu, decyzja osoby zatwierdzającej, sposób wykonania czy brak odpowiedniej kontroli. Nie oznacza jednak, że każdy wpis musi zawierać pełną historię rozmowy i wszystkie dane techniczne. Zakres dokumentacji zależy od rodzaju procesu oraz jego ryzyka.[5][11]

Czym różnią się logi, rejestr incydentów i rejestr decyzji?

ElementGłówny celZakresZastosowanie
Log technicznyZapis zdarzeń generowanych przez systemDane techniczne dostępne dla danego systemuAnaliza działania i materiał dowodowy
Rejestr incydentówUdokumentowanie zdarzenia, wpływu i reakcjiOpis problemu, klasyfikacja, odpowiedzialność, działania i statusObsługa incydentu oraz eskalacja
Rejestr decyzjiOdtworzenie sposobu podjęcia i wykonania decyzjiRekomendacja, zatwierdzenie, podstawa decyzji, działanie i skutekRozliczalność i ścieżka audytowa

Log może być dowodem powiązanym z wpisem, ale nie zastępuje opisu wpływu, decyzji człowieka i sposobu zamknięcia sprawy. Rejestr incydentów oraz rejestr decyzji mogą działać jako powiązane rekordy albo jako części jednego procesu, pod warunkiem że ich funkcje pozostaną rozróżnialne.

Jakie pola powinien zawierać wpis w rejestrze

Wpis powinien identyfikować zdarzenie i system, opisywać kontekst oraz wpływ, wskazywać właściciela, a także dokumentować decyzję, reakcję, komunikację i bieżący stan sprawy. Jest to rekomendowany model operacyjny, nie jeden obowiązkowy formularz dla każdej organizacji.[5][8][9][10]

Pola podstawowe

Grupa informacjiCo zapisaćPo co jest potrzebneKiedy rozszerzyć zakres
IdentyfikacjaIdentyfikator wpisu, czas, system, wersja i procesPowiązanie zdarzenia z właściwym wdrożeniemGdy w procesie działa kilka systemów lub wersji
KontekstOpis odpowiedzi, zdarzenia i warunków jego wykryciaOdtworzenie przebiegu bez automatycznego kopiowania całej rozmowyGdy kontekst wpływa na ocenę ryzyka
WpływRodzaj i zakres zaobserwowanego albo potencjalnego skutkuKlasyfikacja oraz wybór ścieżki reakcjiGdy potrzebna jest eskalacja
OdpowiedzialnośćWłaściciel wpisu i funkcje uczestniczące w oceniePrzypisanie zadań i kontrola obsługiGdy sprawa przechodzi między zespołami
Decyzja i reakcjaDecyzja, podjęte działania, komunikacja i statusOdtworzenie sposobu obsługi oraz zamknięciaGdy wymagane są działania naprawcze
PowiązaniaOdwołania do oceny ryzyka, dowodów, zmiany i zadania naprawczegoZachowanie ścieżki audytowejPrzy istotnych zdarzeniach i zmianach systemu

Nazwa produktu lub dostawcy nie powinna być jedynym oznaczeniem wpisu. Także w przypadku narzędzia takiego jak SALLAS.AI potrzebne jest powiązanie z konkretnym procesem, wdrożeniem i wersją używaną w chwili zdarzenia.

Pola uruchamiane przy wyższym ryzyku lub eskalacji

W sprawach wymagających pogłębionej oceny wpis można rozszerzyć o materiał dowodowy, historię komunikacji, powiązanie z oceną ryzyka, plan działania naprawczego oraz informację o weryfikacji jego skuteczności. Nie każdy system wymaga jednak takiego samego poziomu integracji.[3][5]

Zamiast umieszczać wszystkie dane w jednym rekordzie, można przechowywać dowody techniczne oddzielnie i łączyć je z wpisem za pomocą identyfikatora. Pozwala to zachować czytelną warstwę operacyjną bez utraty możliwości odtworzenia zdarzenia.

Klasyfikacja i eskalacja: kiedy błąd staje się incydentem

Klasyfikacja powinna opierać się na skutku i ryzyku, a nie na samym fakcie, że odpowiedź AI była błędna. Innej reakcji wymaga problem jakościowy bez dalszych konsekwencji, innej zdarzenie dotyczące bezpieczeństwa lub danych, a jeszcze innej sytuacja mogąca spełniać przesłanki poważnego incydentu regulacyjnego.

Błąd jakościowy, near-miss, incydent bezpieczeństwa i problem regulacyjny

Błąd jakościowy
Odpowiedź jest nieprawidłowa lub nieprzydatna, ale ocena nie wskazuje jeszcze na szkodę ani potrzebę specjalistycznej ścieżki. Wpis może prowadzić do korekty procesu, testów albo kontroli jakości.
Near-miss
Zdarzenie nie spowodowało materialnej szkody, ale mogło do niej doprowadzić. Może trafić do rejestru, jeśli służy to uczeniu organizacji i nie przeciąża procesu.
Incydent bezpieczeństwa lub danych
Zdarzenie wymaga oceny przez właściwą funkcję ze względu na charakter informacji, sposób użycia systemu albo potencjalny wpływ.
Potencjalny poważny incydent regulacyjny
Wymaga sprawdzenia pełnej definicji, skutków, kategorii systemu i roli organizacji. Nie każdy błąd AI jest poważnym incydentem w rozumieniu Aktu o AI.[1][6]

Praktyczna kwalifikacja może uwzględniać wpływ, skalę, odwracalność skutku, rodzaj danych, odbiorców skutku oraz status systemu. Wynik powinien wskazywać właściciela sprawy i ścieżkę reakcji, zamiast ograniczać się do ogólnego oznaczenia wysokiego lub niskiego ryzyka.

Kiedy sprawdzić obowiązki dotyczące systemu wysokiego ryzyka

Jeżeli system należy do kategorii wysokiego ryzyka objętej Aktem o AI, konieczne jest sprawdzenie obowiązków dotyczących automatycznego rejestrowania zdarzeń. Nie jest to ogólny obowiązek odnoszący się do każdego narzędzia AI. Szczegółowe wymagania zależą między innymi od kategorii systemu i roli organizacji.[1][7]

Dla systemów objętych art. 73 trzeba również ustalić właściwy termin raportowania. Ogólna reguła przewiduje maksymalnie 15 dni, ale istnieją wyjątki. Tego terminu nie należy stosować bez sprawdzenia rodzaju incydentu, roli podmiotu i aktualnego tekstu regulacji.[6]

Macierz eskalacji powinna więc odpowiadać na trzy pytania: jaki jest skutek, jaka funkcja musi ocenić zdarzenie oraz czy występuje warunek uruchamiający zewnętrzne zgłoszenie. Pozwala to uniknąć zarówno automatycznej eskalacji każdego błędu, jak i przeoczenia spraw wymagających szybkiej reakcji.

Dostęp, retencja i dane wrażliwe w rejestrze

Rejestr nie powinien być ogólnodostępną tabelą. Wpisy mogą obejmować dane osobowe, informacje klientów, treści poufne lub informacje o zabezpieczeniach, dlatego trzeba ustalić role dostępu, zakres przechowywanych danych, retencję i zasady anonimizacji.[8][10]

Okres retencji oraz podstawa przetwarzania zależą od konkretnego procesu. Sam wymóg zachowania ścieżki audytowej nie oznacza konieczności przechowywania wszystkich promptów, odpowiedzi i załączników bez ograniczenia.

Co umieszczać we wpisie, a co przechowywać jako odrębny dowód

Warstwa operacyjna powinna zawierać informacje potrzebne do klasyfikacji, przypisania odpowiedzialności i prowadzenia sprawy. Rozbudowane logi, kopie danych wejściowych lub inne materiały dowodowe można przechowywać w kontrolowanym repozytorium i wiązać z rekordem za pomocą identyfikatora.

  • Określ, kto może utworzyć, odczytać, zmienić i zamknąć wpis.
  • Ogranicz zakres danych do informacji potrzebnych do obsługi i odtworzenia zdarzenia.
  • Rozdziel opis operacyjny od dowodów zawierających dane wrażliwe.
  • Ustal zasady anonimizacji oraz udostępniania wpisów innym zespołom.
  • Przypisz regułę retencji do konkretnego procesu i rodzaju danych.
  • Zachowaj powiązanie między wpisem a dowodami bez kopiowania ich do wielu miejsc.

Taki układ pozwala utrzymać użyteczność dowodową rejestru, a jednocześnie ograniczyć ryzyko utworzenia niekontrolowanego repozytorium treści wrażliwych.

Połącz rejestr z ryzykiem, zmianami i monitoringiem systemu

Istotny wpis powinien być powiązany z konkretnym systemem AI, jego wersją, procesem biznesowym, oceną ryzyka i działaniem korygującym. Dzięki temu zdarzenie nie kończy się na zmianie statusu zgłoszenia, lecz może prowadzić do poprawy systemu lub kontroli.[3][5]

Model procesu można oprzeć na monitorowaniu po wdrożeniu, reakcji, odzyskiwaniu i ciągłym doskonaleniu. NIST AI RMF wspiera takie podejście, ale jest dobrowolnym frameworkiem, a nie polskim obowiązkiem prawnym.[2][4]

Powiązania, które powinien mieć istotny wpis

  • identyfikator systemu AI i używanej wersji;
  • proces biznesowy, w którym doszło do zdarzenia;
  • odpowiednia ocena ryzyka;
  • materiał dowodowy lub log techniczny;
  • zadanie naprawcze albo zgłoszenie zmiany;
  • wynik weryfikacji po wdrożeniu działania.

Poziom integracji należy dopasować do skali wdrożenia i ryzyka. W procesach o mniejszym znaczeniu mogą wystarczyć identyfikatory referencyjne, natomiast bardziej złożone środowisko może wymagać powiązań między kilkoma repozytoriami.

Weryfikacja skuteczności działania naprawczego

  1. Zarejestruj i zaklasyfikuj zdarzenie. Zapisz kontekst, wpływ oraz właściciela sprawy.
  2. Udokumentuj decyzję. Wskaż, jaka reakcja została zatwierdzona i kto odpowiada za jej wykonanie.
  3. Powiąż działanie z systemem i ryzykiem. Dodaj odniesienia do wersji systemu, oceny ryzyka oraz zadania naprawczego.
  4. Wykonaj zmianę lub inną reakcję. Zachowaj stan sprawy i potrzebną komunikację.
  5. Zweryfikuj rezultat. Udokumentuj, czy przyjęte działanie zostało wykonane i czy wymaga dalszej korekty.
  6. Zamknij wpis. Zamknięcie powinno obejmować reakcję, odpowiedzialność i wynik weryfikacji odpowiedni do ryzyka.

Tak prowadzony obieg pozwala analizować nie tylko pojedyncze wpisy, lecz także ich powiązanie ze zmianami systemu i kontrolami. Nie każdy system wymaga jednak identycznego poziomu dokumentacji.

Czy uwzględniać near-misses i shadow AI

Rejestr może obejmować near-misses, czyli zdarzenia, które mogły spowodować szkodę, oraz sygnały dotyczące shadow AI, czyli używania narzędzi poza formalnym katalogiem. Ma to sens wtedy, gdy organizacja potrafi konsekwentnie kwalifikować takie zgłoszenia i wykorzystać je do poprawy kontroli.

Zdarzenia bez materialnej szkody mogą służyć uczeniu organizacji, ale zakres ich rejestrowania powinien wynikać z tolerancji ryzyka i możliwości operacyjnych. Jest to rekomendacja dotycząca dojrzałego monitorowania, a nie obowiązek obejmowania pełnym procesem każdego sygnału.[3][7][9]

Shadow AI nie jest automatycznie incydentem. Takie zgłoszenie wymaga najpierw oceny użytego narzędzia, procesu, danych i możliwego skutku. Pomocna może być osobna kategoria sygnału ryzyka oraz krótki etap kwalifikacji poprzedzający utworzenie pełnego wpisu.

Granica powinna być praktyczna: rejestr ma ujawniać wzorce i wspierać decyzje, a nie gromadzić nieselektywnie wszystkie nieprawidłowości. Jeżeli liczba zgłoszeń utrudnia ich ocenę i zamykanie, kryteria przyjęcia wpisu wymagają zawężenia.

Najczęstsze pytania

Czy trzeba rejestrować każdą odpowiedź generowaną przez AI?

Nie. Zakres zapisu należy dopasować do ryzyka i celu procesu. Szczegółowy wpis powinien służyć odtworzeniu istotnego zdarzenia lub decyzji, a nie automatycznemu archiwizowaniu każdej rozmowy.

Czy logi systemowe mogą zastąpić rejestr incydentów?

Nie. Logi techniczne mogą stanowić dowód, ale same nie dokumentują wpływu, decyzji człowieka, reakcji i zamknięcia sprawy.

Czy każdy błąd AI trzeba zgłaszać na zewnątrz?

Nie. Obowiązek zależy od skutku, rodzaju systemu, roli organizacji i właściwych przepisów. Każdy przypadek wymagający oceny regulacyjnej trzeba rozpatrywać w jego konkretnym kontekście.

Kto powinien zamykać wpis?

Wpis powinien mieć wskazanego właściciela. Zamknięcie powinno następować po udokumentowaniu decyzji, wykonanych działań i weryfikacji odpowiedniej do ryzyka.

Źródła

  1. Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 — Akt w sprawie sztucznej inteligencji, EUR-Lex / Unia Europejska.
  2. AI RMF Core, National Institute of Standards and Technology.
  3. AI RMF Playbook — Manage, National Institute of Standards and Technology.
  4. Artificial Intelligence Risk Management Framework (AI RMF 1.0), National Institute of Standards and Technology.
  5. NIST AI RMF Traffic Sign Recognition Use Case Profile, National Institute of Standards and Technology.
  6. Regulation (EU) 2024/1689 — Article 73 Reporting of serious incidents, EUR-Lex / Unia Europejska.
  7. Consolidated text of Regulation (EU) 2024/1689, EUR-Lex / Unia Europejska.
  8. Narodowy Standard Cyberbezpieczeństwa — Podręcznik postępowania z incydentami naruszenia bezpieczeństwa komputerowego, Pełnomocnik Rządu ds. Cyberbezpieczeństwa / gov.pl.
  9. Od wymagań do działania: zgłaszanie incydentów i obowiązki organizacji, gov.pl.
  10. AI w pracy radcy prawnego — rekomendacje dotyczące incydentów związanych z AI, Krajowa Izba Radców Prawnych.
  11. Jak prowadzić rejestr decyzji agenta AI?, Krzysztof Majchrzycki.

+Artykuł Sponsorowany+