AI może wspierać zespoły compliance w analizie zgłoszeń, klasyfikacji dokumentów oraz przygotowywaniu materiałów do dalszej oceny. Odpowiedzialność za analizę przypadków nietypowych, weryfikację istotnych ustaleń i podejmowanie ostatecznych decyzji powinna jednak nadal pozostawać po stronie wykwalifikowanych specjalistów.
Jednocześnie organizacja musi nadzorować systemy AI wykorzystywane w tych procesach. Jednym z podejść, które może pomóc uporządkować działania związane z nadzorem i zarządzaniem ryzykiem, jest NIST AI Risk Management Framework (AI RMF).
Dobrym punktem wyjścia jest wybór jednego procesu compliance. Warto określić, jakie podpowiedzi może generować AI, które materiały źródłowe powinny być sprawdzane przez osoby weryfikujące wyniki oraz kto odpowiada za kontrolę rezultatów przed wykorzystaniem ich w procesie podejmowania decyzji związanych z compliance.

1. W których miejscach AI może wspierać procesy compliance?
Proces compliance zwykle obejmuje kilka etapów: identyfikację właściwych materiałów, ich analizę, wyjaśnienie pojawiających się wątpliwości oraz udokumentowanie podjętej decyzji. AI może wspierać część tych działań, jednak odpowiedzialność za wynik procesu nadal powinna spoczywać na wyznaczonej osobie dokonującej przeglądu i oceny sprawy. Dobrym punktem wyjścia jest wskazanie zadań, w których AI może przygotować wstępną propozycję lub analizę podlegającą późniejszej weryfikacji przez człowieka.
Przykładowo nowy dokument może wymagać przypisania numeru sprawy oraz osoby odpowiedzialnej za dalszą obsługę jeszcze przed analizą jego treści. Klasyfikacja przygotowana przez AI przynosi wartość tylko wtedy, gdy osoba prowadząca sprawę może sprawdzić dokument źródłowy i skorygować ewentualne błędy. W kolejnych etapach, takich jak przygotowanie materiałów dowodowych czy obsługa wyjątków, użytkownicy powinni mieć możliwość prześledzenia wcześniejszych klasyfikacji i decyzji.
Artykuł koncentruje się na procesach compliance wspieranych przez AI, czyli sytuacjach, w których AI pomaga obsługiwać sprawy i dokumenty. Nie dotyczy natomiast trenowania modeli AI na danych organizacji. Przed rozpoczęciem testowania takiego procesu warto jasno określić, do jakich informacji system AI może mieć dostęp i w jaki sposób jego odpowiedzi będą weryfikowane.
Ten sam poziom kontroli powinien obowiązywać zarówno w przypadku rutynowych rekomendacji, jak i sytuacji, w których AI wskazuje potencjalny wyjątek lub nieprawidłowość wymagającą dalszej analizy.
2. Jak AI zmienia procesy compliance w branżach regulowanych?
Najłatwiej zrozumieć wpływ AI na procesy compliance, analizując pojedynczą sprawę przechodzącą przez kolejne etapy istniejącego procesu. Na każdym z nich warto określić, jakie działania może wspierać AI, co powinien zweryfikować człowiek oraz jakie informacje należy udokumentować po zakończeniu danego etapu. Są to przykłady możliwych rozwiązań, które organizacje mogą ocenić pod kątem własnych potrzeb. Nie stanowią one dowodu na poprawę efektywności ani uniwersalnego modelu postępowania dla wszystkich firm.
2.1 Zacznij od rejestracji sprawy i klasyfikacji dokumentów
Na etapie rejestracji sprawy system AI może proponować kategorię dokumentu, temat sprawy lub właściwą ścieżkę obsługi. Pracownik odpowiedzialny za compliance powinien jednak zweryfikować tę klasyfikację na podstawie oryginalnego dokumentu i potwierdzić, kto odpowiada za dalszą obsługę sprawy. Warto zachować zarówno dokument źródłowy, jak i ostatecznie zatwierdzoną klasyfikację, aby na późniejszych etapach można było odtworzyć przebieg procesu.
AI może również wspierać grupowanie dokumentów przeznaczonych do analizy. Ostateczna ocena nadal powinna jednak należeć do specjalisty, który ma dostęp do wszystkich dokumentów źródłowych i może wychwycić brakujące lub błędnie sklasyfikowane materiały. Każde grupowanie przygotowane przez AI warto traktować jako wersję roboczą do czasu zakończenia weryfikacji.
Przekazywanie spraw pomiędzy zespołami oraz procesy akceptacyjne mogą być dodatkowo wspierane przez automatyzację procesów biznesowych. W ofercie TTMS jest to jeden z obszarów realizowanych w ramach usług Process Automation. Warto jednak rozróżniać automatyzację workflow od analizy wspieranej przez AI. Sam fakt automatyzacji procesu nie oznacza jeszcze, że AI analizuje dokumenty lub wspiera podejmowanie decyzji.
2.2 Przygotowanie materiałów dowodowych i obsługa wyjątków
Na etapie przygotowywania materiałów dowodowych AI może tworzyć wstępne zestawienia dokumentów lub generować podsumowania powiązane ze źródłami. Zanim takie informacje zostaną wykorzystane podczas oceny sprawy lub podejmowania decyzji, ekspert powinien porównać każdą pozycję z dokumentem źródłowym. Zweryfikowana wersja powinna być przechowywana razem z materiałami, do których się odnosi, a nie funkcjonować jako samodzielny dowód.
Nietypowe dokumenty, sprzeczne informacje lub nieoczekiwane wyniki powinny uruchamiać dodatkową ścieżkę weryfikacji. AI może pomóc wskazać potencjalny problem, ale to człowiek musi przeanalizować dokumenty źródłowe i ocenić znaczenie wykrytej niezgodności. Jeżeli sprawa zostaje przekazana innej osobie, warto udokumentować zarówno przyczynę eskalacji, jak i historię wcześniejszych działań.
W TTMS rozwiązanie AI4Legal wspiera analizę dokumentów prawnych i procesy compliance. Samo wykorzystanie takiego rozwiązania nie oznacza jednak automatycznie spełnienia konkretnych wymagań regulacyjnych ani rozwiązania wszystkich przypadków wyjątkowych. Każde zastosowanie AI wymaga jasno określonego zakresu wykorzystania oraz udziału ekspertów odpowiedzialnych za weryfikację rezultatów.
Poniższa tabela przedstawia przykładowy model procesu compliance. Pokazane działania i dokumenty mają charakter ilustracyjny i służą ocenie możliwych zastosowań AI. Nie stanowią listy obowiązków prawnych ani dowodu na poprawę wyników compliance dzięki wykorzystaniu AI.
| Etap procesu compliance | Możliwe wsparcie AI | Weryfikacja po stronie człowieka | Dokumentacja do zachowania |
|---|---|---|---|
| Rejestracja sprawy | Propozycja kategorii lub ścieżki obsługi | Potwierdzenie przypisania sprawy i właściciela | Oryginalne zgłoszenie i zatwierdzona klasyfikacja |
| Klasyfikacja dokumentów | Grupowanie dokumentów do analizy | Sprawdzenie dokumentów źródłowych i korekta grupowania | Dokumenty źródłowe oraz zweryfikowane grupowanie |
| Przygotowanie materiałów dowodowych | Wstępna lista dokumentów lub podsumowanie powiązane ze źródłami | Porównanie każdej pozycji z dokumentem źródłowym | Zweryfikowana lista wraz z odniesieniami do źródeł |
| Obsługa wyjątków | Wskazanie potencjalnej niezgodności do dalszej analizy | Wyjaśnienie problemu lub eskalacja sprawy | Powód eskalacji oraz informacja o osobie odpowiedzialnej za przegląd |
| Zatwierdzenie sprawy | Prezentacja zweryfikowanych materiałów do oceny | Ostateczną decyzję podejmuje upoważniona osoba | Decyzja oraz potwierdzenie jej zatwierdzenia |
3. Zachowaj powiązanie pomiędzy materiałami dowodowymi a decyzją eksperta
Osoba weryfikująca sprawę potrzebuje czegoś więcej niż odpowiedzi wygenerowanej przez AI. Dla każdego wniosku lub ustalenia warto sprawdzić, na jakich dokumentach źródłowych został oparty oraz czy przygotowane podsumowanie rzeczywiście odzwierciedla ich treść. Jeżeli brakuje dokumentów albo informacje pochodzące z różnych źródeł są ze sobą sprzeczne, problem powinien zostać wyjaśniony przed zatwierdzeniem sprawy.
W praktyce oznacza to konieczność wyraźnego rozdzielenia pomiędzy sugestią przygotowaną przez AI a oceną eksperta. Dokumentacja sprawy powinna pokazywać: jakie ustalenia lub rekomendacje przedstawił system AI, jakie zmiany wprowadziła osoba dokonująca przeglądu, które dokumenty źródłowe stanowiły podstawę ostatecznej decyzji. Zakres takiej dokumentacji może różnić się w zależności od procesu i wymagań organizacji.
Obsługa wyjątków wymaga równie dokładnej analizy. Wskazana przez AI niezgodność może sygnalizować potrzebę dodatkowej weryfikacji, ale sama w sobie nie wyjaśnia przyczyny problemu ani nie wskazuje właściwego sposobu postępowania. Zespół powinien mieć możliwość ustalenia, kto analizował daną sprawę, z jakich materiałów korzystał oraz w jaki sposób doszedł do ostatecznego rozstrzygnięcia.
Przed zatwierdzeniem sprawy osoba uprawniona do podjęcia decyzji powinna mieć dostęp zarówno do zweryfikowanych materiałów dowodowych, jak i do wszystkich kwestii, które nadal pozostają niewyjaśnione. Jeżeli nie ma możliwości sprawdzenia dokumentu źródłowego, ustalenie przygotowane przez AI powinno pozostać w trakcie weryfikacji zamiast zostać uznane za potwierdzone. Jeżeli sprawa wymaga przekazania do dodatkowej analizy, wraz z nią należy przekazać komplet materiałów źródłowych oraz informację wyjaśniającą, dlaczego konieczna jest dalsza ocena.
4. Zarządzaj systemem AI niezależnie od sprawy, którą wspiera
Dokumentacja sprawy pokazuje, w jaki sposób podjęto konkretną decyzję związaną z compliance. Sam system AI wykorzystywany w tym procesie powinien jednak podlegać odrębnym zasadom nadzoru. Organizacja powinna wiedzieć, które zastosowania AI są dopuszczone, kto odpowiada za nadzór nad systemem oraz w jakich sytuacjach sposób jego wykorzystania wymaga ponownej oceny. Bez takiego rozróżnienia nawet kompletna dokumentacja sprawy może nie odpowiadać na pytanie, kto zatwierdził wykorzystanie AI do realizacji danego zadania.
Jednym z narzędzi pomagających uporządkować te zagadnienia jest NIST AI Risk Management Framework (AI RMF). To dobrowolne ramy zarządzania ryzykiem AI oparte na czterech obszarach: Govern, Map, Measure i Manage. Organizacje mogą wykorzystywać je do prowadzenia rozmów dotyczących rejestru systemów AI, odpowiedzialności za nadzór, udziału dostawców zewnętrznych oraz oceny ryzyka. Warto jednak pamiętać, że NIST AI RMF jest frameworkiem służącym do zarządzania ryzykiem związanym z AI, a nie wymogiem prawnym ani potwierdzeniem zgodności konkretnego procesu compliance z obowiązującymi regulacjami.
Organizacje analizujące wymagania dotyczące AI w Unii Europejskiej powinny również zapoznać się z wytycznymi dotyczącymi EU AI Act. Regulacja ta opiera się na podejściu uwzględniającym poziom ryzyka. Oznacza to, że wymagania zależą od konkretnego zastosowania AI oraz roli pełnionej przez organizację. Sam fakt działania w branży regulowanej nie oznacza automatycznie, że każde wykorzystanie AI będzie traktowane jako zastosowanie wysokiego ryzyka. Każdy przypadek wymaga odrębnej oceny.
Pomocnym punktem odniesienia może być również ISO/IEC 42001:2023, czyli norma dotycząca systemów zarządzania AI. Opisuje ona wymagania dla organizacji tworzących lub wykorzystujących rozwiązania oparte na sztucznej inteligencji i może pomóc uporządkować kwestie związane z nadzorem, odpowiedzialnością i zarządzaniem systemami AI. Należy jednak pamiętać, że standard zarządzania nie jest tym samym co obowiązujące przepisy prawa, a zgodność z ISO/IEC 42001 sama w sobie nie stanowi dowodu spełnienia wymagań regulacyjnych.
W praktyce wiele ryzyk związanych z AI wynika z bardzo konkretnych pytań dotyczących dostępu i odpowiedzialności. Organizacja powinna być w stanie wskazać właściciela każdego zatwierdzonego przypadku użycia, określić, kto może korzystać z systemu oraz ustalić sposób postępowania w sytuacji zmiany procesu lub zakresu wykorzystania AI. Takie decyzje są częścią modelu zarządzania organizacji i powinny podlegać regularnym przeglądom zgodnie z przyjętym podejściem do zarządzania ryzykiem.
Osoby zainteresowane tematyką governance oraz wyboru narzędzi wspierających zarządzanie AI mogą zapoznać się z naszym artykułem dotyczącym AI governance w branżach regulowanych. W tym artykule koncentrujemy się jednak na innym zagadnieniu: roli AI w procesie obsługi spraw compliance, materiałach stanowiących podstawę decyzji oraz odpowiedzialności osoby zatwierdzającej wynik procesu.
Jeżeli interesuje Cię perspektywa systemów zarządzania AI, warto również przeczytać nasz artykuł ISO/IEC 42001 explained. Pokazuje on, jak organizacje mogą budować skuteczny nadzór nad systemami AI, zachowując jednocześnie odpowiedzialność za indywidualne decyzje compliance po stronie osób dokonujących ich przeglądu i zatwierdzenia.
5. Wybierz pierwszy proces z jasno określonym etapem weryfikacji
Na początek warto wybrać taki proces compliance, w którym łatwo wskazać dokumenty wejściowe, osobę odpowiedzialną za ich ocenę oraz osobę podejmującą ostateczną decyzję. Następnie należy określić, jakie podpowiedzi może generować AI, które materiały źródłowe muszą zostać zweryfikowane przez ekspertów oraz w jaki sposób będą obsługiwane wyjątki i sytuacje wymagające dodatkowej analizy. Takie ustalenia powinny zostać podjęte jeszcze zanim odpowiedzi generowane przez AI staną się częścią procesu oceny spraw.
Kolejnym krokiem jest określenie zakresu danych dostępnych dla systemu AI oraz wskazanie osób odpowiedzialnych za zarządzanie tym dostępem. Zespół powinien mieć możliwość odrzucenia błędnej lub nieodpowiedniej rekomendacji AI przy jednoczesnym zachowaniu dostępu do materiałów źródłowych. Zarówno zakres danych dostępnych dla systemu, jak i sposób weryfikacji odpowiedzi powinny zostać opisane w sposób zrozumiały dla zespołów compliance i zespołów technicznych.
Dla wybranego procesu warto również zdefiniować jednoznaczną ścieżkę zatwierdzania decyzji. Osoba odpowiedzialna za akceptację powinna przeanalizować materiały źródłowe, rozstrzygnąć wszystkie wyjątki i udokumentować ostateczną decyzję. Odpowiedzi przygotowane przez AI powinny być traktowane wyłącznie jako rekomendacje do momentu zakończenia tej weryfikacji. Dzięki temu odpowiedzialność za decyzję pozostaje po stronie osoby prowadzącej sprawę, a nie systemu AI.
Jeżeli analizujesz możliwość wykorzystania AI w procesach compliance, zapoznaj się z naszymi usługami AI dla firm i określ, jaki proces weryfikacji będzie potrzebny w Twojej organizacji.
Najczęściej zadawane pytania dotyczące AI i procesów compliance
W jaki sposób AI może wspierać specjalistów compliance bez podejmowania decyzji za nich?
AI może pomagać w porządkowaniu dokumentów, klasyfikacji spraw oraz przygotowywaniu materiałów do dalszej analizy. Ostateczna odpowiedzialność pozostaje jednak po stronie specjalisty compliance, który powinien zweryfikować dokumenty źródłowe, ocenić wszystkie wyjątki i podjąć decyzję przed zamknięciem lub zatwierdzeniem sprawy.
Jaką dokumentację warto zachować po wykorzystaniu AI w procesie compliance?
Warto przechowywać dokumenty źródłowe wykorzystane podczas oceny sprawy, rekomendacje lub klasyfikacje wygenerowane przez AI, informacje o wykrytych wyjątkach oraz dane osoby odpowiedzialnej za ostateczną decyzję. Zakres dokumentacji powinien być dostosowany do charakteru procesu i obowiązujących wymagań compliance.
Czym różni się zarządzanie systemem AI od wykorzystania AI w procesach compliance?
Wykorzystanie AI w procesach compliance dotyczy konkretnej sprawy oraz weryfikacji odpowiedzi lub rekomendacji przygotowanych przez system. Zarządzanie AI koncentruje się natomiast na samym rozwiązaniu: określeniu dopuszczalnych zastosowań, przypisaniu odpowiedzialności, kontroli dostępu, nadzorze nad działaniem systemu oraz bieżącym zarządzaniu ryzykiem związanym z jego wykorzystaniem.