AI w środowisku GxP: od pilotażu do zwalidowanego wdrożenia

13 października 2026 roku uczestniczyliśmy w webinarze „Deploying AI in the GxP World”, zorganizowanym przez ISPE Poland wspólnie z ProductLife Group (PLG). Podczas spotkania wystąpiły Naomi Ofili i Gabrièle Piaton z PLG. Omówiły ocenę ryzyka, walidację i zabezpieczenia potrzebne do przejścia od pilotażu AI do wdrożenia, którego działanie można udokumentować i poddać ocenie podczas inspekcji. Webinar był częścią cyklu związanego z konferencją AI in Pharma 2026.

1. Czym jest GxP i jak wpływa na wdrażanie AI w farmacji?

GxP to zbiorcze określenie dobrych praktyk dotyczących m.in. wytwarzania produktów leczniczych, badań klinicznych i nadzoru nad bezpieczeństwem farmakoterapii. Jedną z głównych tez webinaru było to, że ocenę zastosowania AI należy rozpocząć od jego przeznaczenia i wpływu na konkretny proces. Ten sam model może wspierać zadania o bardzo różnym znaczeniu dla jakości produktu, bezpieczeństwa pacjenta i dokumentacji.

Prelegentki wyjaśniły to na przykładzie tłumaczeń. Tłumaczenie korespondencji wewnętrznej oraz informacji o produkcie przekazywanych organom regulacyjnym wymagają odrębnej oceny. Podobnie jest z analizą literatury: zakres wymagań zależy od tego, czy wyszukiwanie służy obserwacji rynku, czy identyfikowaniu informacji o bezpieczeństwie leków.

Znaczenie ma także dalsze wykorzystanie wyniku AI. Tekst, klasyfikacja lub metadane mogą stać się częścią dokumentacji regulowanej. Dlatego ocena powinna uwzględniać rolę rozwiązania w procesie, jego wpływ na zapisy GxP oraz konsekwencje błędu. Prelegentki zalecały przeprowadzenie tej analizy już przy opracowywaniu uzasadnienia biznesowego projektu, aby wcześniej określić zakres walidacji, potrzebne zasoby i koszty.

2. Walidację AI trzeba zaplanować na cały okres użytkowania

Walidacja służy udokumentowanemu potwierdzeniu, że system nadaje się do zamierzonego zastosowania. Podczas webinaru wielokrotnie wracało pytanie, jak wykazać tę przydatność w przypadku AI. Prelegentki odwoływały się m.in. do podejścia opartego na ryzyku opisanego w GAMP 5 oraz wytycznych dotyczących sztucznej inteligencji.

Wśród przywołanych materiałów znalazł się opublikowany w 2025 roku ISPE GAMP Guide: Artificial Intelligence, poświęcony systemom wykorzystującym AI w obszarach GxP. Punktem odniesienia był również dokument refleksyjny Europejskiej Agencji Leków dotyczący AI w cyklu życia produktu leczniczego.

Praktyczne pytania dotyczyły danych i kryteriów oceny. Czy przykłady testowe odpowiadają rzeczywistym dokumentom i produktom? Czy zbiór testowy był niezależny od danych używanych do dostrajania rozwiązania? Jakie wyniki uznamy za akceptowalne i czy ustaliliśmy te kryteria przed rozpoczęciem testów?

W przedstawionym podejściu uwzględniono również ograniczanie odpowiedzi bez oparcia w źródłach, ocenę stabilności zachowania, monitorowanie działania, odporność na nieprawidłowe dane wejściowe i wykrywanie stronniczości. Testy przed uruchomieniem łączyły się z kontrolą podczas użytkowania oraz oceną skutków zmian modelu.

Pomocą są zestawy referencyjnych przypadków testowych przygotowane z ekspertami dziedzinowymi, określane podczas prezentacji jako golden sets. Powrót do tych samych przypadków przy kolejnych wersjach rozwiązania pozwala sprawdzić, czy zmiana nie pogorszyła wyników w ważnych dla organizacji zadaniach. Praktyczne możliwości wsparcia testów i dokumentacji jakościowej opisujemy w naszym porównaniu narzędzi AI dla QA w farmacji.

3. Nadzór człowieka obejmuje więcej niż zatwierdzenie odpowiedzi

Naomi Ofili rozróżniła dwa poziomy udziału człowieka. Pierwszy to human-in-the-loop, czyli etap procesu, na którym ekspert zatwierdza, poprawia lub odrzuca wynik AI. Drugi to nadzór nad całym cyklem życia rozwiązania: monitorowanie, przeciwdziałanie bezkrytycznemu przyjmowaniu wyników automatyzacji oraz możliwość zatrzymania systemu.

W opisanym przebiegu pracy wynik AI przechodził automatyczne kontrole, a następnie ocenę wskazanego eksperta. Zachowywano przy tym informacje o źródłach, instrukcjach przekazanych modelowi, jego wersji i zatwierdzeniu. Taki zapis pozwalał później odtworzyć, w jakich warunkach powstał wynik i kto zaakceptował jego wykorzystanie.

Ekspert uczestniczył również w ustalaniu kryteriów akceptacji i tworzeniu przypadków testowych. Jego wiedza wpływała więc na projekt rozwiązania oraz sposób oceny jakości. Dla firmy planującej wdrożenie oznacza to potrzebę określenia odpowiedzialności i zapewnienia czasu na udział ekspertów już na początku projektu.

4. Co pokazały przykłady monitorowania literatury, tłumaczeń i migracji danych?

Prelegentki zilustrowały omawiane zasady trzema przykładami z projektów zespołu PLG. Każdy z nich pokazywał inne wymagania dotyczące oceny wyników AI i ich dalszego wykorzystania.

4.1. Monitorowanie literatury w nadzorze nad bezpieczeństwem leków

W pierwszym przykładzie AI wspierała przegląd publikacji naukowych na potrzeby farmakowigilancji. System proponował kategorię artykułu i uzasadnienie, które weryfikował ekspert. Gabrièle Piaton podkreśliła, że szczególnie wymagającym etapem było przełożenie sposobu oceny stosowanego przez specjalistów na uporządkowane drzewo decyzji. Ten przykład pokazał, jak istotne jest opisanie wiedzy eksperckiej i kryteriów klasyfikacji przed automatyzacją zadania.

4.2. Tłumaczenie dokumentacji regulowanej

Drugi przykład dotyczył tłumaczeń z wykorzystaniem AI, weryfikowanych przez człowieka według kryteriów jakości dostosowanych do ryzyka związanego z dokumentem. Uwzględniono również odtwarzanie formatowania, aby ułatwić dalszą pracę tłumaczy. Ocena rozwiązania obejmowała więc jakość treści, sposób jej sprawdzania i przydatność dokumentu w dalszym obiegu.

4.3. Migracja danych i klasyfikacja dokumentów

W trzecim przykładzie AI wspierała przypisywanie dokumentów do kategorii, wydobywanie metadanych i dopasowywanie danych do struktury systemu docelowego. Prelegentki wskazały na trudność rozróżniania podobnych klas dokumentów oraz konsekwencje błędnego przypisania. Podkreśliły potrzebę prześledzenia pochodzenia danych, wykonanych przekształceń i zatwierdzeń, a także weryfikacji ilościowej i jakościowej przed rozpoczęciem użytkowania danych po migracji.

5. Hosting i koszty warto uwzględnić przed pilotażem

Osobną część webinaru poświęcono architekturze rozwiązania. Prelegentki proponowały, aby przed pilotażem ustalić, gdzie będą przetwarzane dane, jakie informacje trafią do rejestrów zdarzeń i czy można kontrolować wersję modelu. Wśród kryteriów wyboru środowiska wymieniły poufność, miejsce przetwarzania danych, zasady aktualizacji, możliwość odtworzenia działania systemu oraz koszt zmiany dostawcy.

Poruszono również dobór modeli do poszczególnych zadań. Mniejsze, wyspecjalizowane modele mogą pomagać ograniczać koszty, jeśli spełniają ustalone wymagania jakościowe. Proponowana ocena ekonomiczna koncentrowała się na koszcie wykonania zadania i uzyskania oczekiwanego wyniku. Wskazano też możliwość ponownego wykorzystania komponentów odpowiedzialnych za wyszukiwanie informacji, testowanie, monitorowanie i zatwierdzanie wyników. Podział odpowiedzialności między firmę farmaceutyczną a dostawcę oraz kontrolę aktualizacji szerzej omawiamy w artykule o walidacji SaaS w farmacji i wymaganiach GxP.

6. Co pomaga przejść od pilotażu AI do codziennej pracy?

W końcowej części spotkania prelegentki wskazały na współpracę zespołów technicznych, ekspertów dziedzinowych i klienta przy wspólnie uzgodnionej liście zadań. Istotne było również wskazanie właściciela biznesowego odpowiedzialnego za wykorzystanie rozwiązania i mierzenie jego efektów.

Z przedstawionych doświadczeń wynikała kolejność działań: określenie zastosowania i odpowiedzialności, ocena ryzyka, zaprojektowanie kontroli, budowa i walidacja, a następnie utrzymanie rozwiązania. Decyzje dotyczące jakości danych, nadzoru człowieka i zarządzania zmianami wpływają na każdy z tych etapów.

Dla firm przygotowujących wdrożenie oznacza to kilka ustaleń, które warto poczynić przed pilotażem: jakie zadanie ma wykonywać AI, kto będzie zatwierdzał wyniki, jak sprawdzimy ich jakość i co zrobimy, gdy zmieni się model lub źródło danych. Odpowiedzi pomagają zaplanować zarówno prace techniczne, jak i wymagania walidacyjne oraz późniejsze utrzymanie.

7. Jak TTMS wspiera wdrożenia w środowisku farmaceutycznym?

Przełożenie tych ustaleń na wymagania, testy i dokumentację wymaga współpracy osób rozumiejących proces biznesowy, technologię oraz jakość. W TTMS łączymy rozwój i utrzymanie oprogramowania dla farmacji z kompetencjami TTMS Quality w zakresie walidacji systemów skomputeryzowanych.

Nasze usługi walidacyjne obejmują przygotowanie planu walidacji, specyfikację i przegląd wymagań, opracowanie oraz realizację testów, a także ocenę wyników i raportowanie. Wykorzystujemy podejście oparte na ryzyku i przewodnik GAMP 5. Zakres prac dobieramy do przeznaczenia systemu i wymagań konkretnego procesu.

Jeśli planujesz wykorzystanie AI w procesie farmaceutycznym lub przygotowujesz się do rozwinięcia pilotażu, porozmawiaj z naszymi specjalistami o wymaganiach, ryzyku i zakresie walidacji Twojego rozwiązania.