Ograniczenia AI w oprogramowaniu dla prawników: ryzyko błędnej porady, pisma i terminu

• najczęstszych błędach AI w pracy prawników,
• halucynacjach dotyczących przepisów, orzeczeń i sygnatur,
• konsekwencjach wykorzystania błędnych treści w piśmie procesowym,
• odpowiedzialności prawnika za poradę przygotowaną z pomocą AI,
• zasadach bezpiecznego wdrażania oprogramowania AI w kancelarii.

Prawdziwa sygnatura, fałszywa teza: czego uczy postanowienie NSA I FZ 104/26

W postanowieniu z 23 czerwca 2026 r., I FZ 104/26, NSA rozpoznawał zażalenie na postanowienie odmawiające wstrzymania wykonania decyzji podatkowej. Skarżący powinien był uprawdopodobnić przesłanki określone w art. 61 § 3 p.p.s.a., w szczególności niebezpieczeństwo wyrządzenia znacznej szkody lub spowodowania trudnych do odwrócenia skutków. Pełnomocnik wskazał trzy orzeczenia wraz z rzekomymi tezami. Sąd ustalił, że wskazane orzeczenia dotyczyły innych zagadnień, a ich uzasadnienia nie zawierały przypisanych im tez. Nieprawidłowe były również daty wydania tych rozstrzygnięć. NSA zwrócił też uwagę na inny problem: pismo miało ogólnikowy charakter i nie zawierało konkretnych danych ani dokumentów, które pozwoliłyby ocenić sytuację majątkową strony. Zażalenie zostało oddalone. Sąd krytycznie ocenił bezrefleksyjne użycie AI przez zawodowego pełnomocnika i podkreślił, że klient ma prawo oczekiwać profesjonalizmu.

Rozstrzygnięcie pokazuje trzy realne skutki wadliwego procesu pracy:

• argument prawny może stracić oparcie w źródle,
• w piśmie może zabraknąć faktów i dowodów decydujących dla rozstrzygnięcia,
• sąd może zakwestionować rzetelność pracy zawodowego pełnomocnika.

Rzetelna weryfikacja orzeczenia obejmuje sprawdzenie sądu, daty, sygnatury i rodzaju rozstrzygnięcia, a następnie lekturę pełnej treści uzasadnienia. Prawnik powinien ocenić kontekst faktyczny, podstawę prawną, znaczenie przywołanego fragmentu, dostępne informacje o prawomocności oraz późniejsze orzecznictwo dotyczące tej samej kwestii.

Siedem ograniczeń AI, które mogą zmienić wynik sprawy

1. Prawdziwemu źródłu można przypisać zmyśloną tezę

Model może podać prawdziwą sygnaturę sprawy, artykuł ustawy albo tytuł publikacji, a następnie przypisać źródłu treść, której ono nie zawiera. Taki błąd jest groźniejszy od całkowicie zmyślonej sygnatury, ponieważ może pozostać niewykryty podczas pobieżnej kontroli.

System powinien prowadzić użytkownika bezpośrednio do konkretnego fragmentu źródła. Nadal konieczna jest weryfikacja przez prawnika. Badanie Stanford RegLab dotyczące amerykańskich narzędzi prawniczych łączących wyszukiwanie w bazach z generowaniem odpowiedzi wykazało halucynacje w 17-33% odpowiedzi. Badanie obejmowało produkty i pytania z rynku USA, więc nie mierzy jakości polskich systemów. Podłączenie modelu do bazy prawnej ogranicza ryzyko. Dalsza kontrola poprawności wymaga dodatkowych zabezpieczeń.

2. Model może zastosować nieaktualny lub niewłaściwy przepis

Odpowiedź może brzmieć sensownie i opierać się na przepisie, który został zmieniony, jeszcze nie obowiązuje albo dotyczy innej jurysdykcji. W sprawie transgranicznej model może pomylić prawo właściwe, właściwość sądu i zasady postępowania.

System AI dla prawników powinien przy każdym wniosku wskazywać właściwy porządek prawny oraz datę, na którą ustalono stan prawny. Użytkownik musi widzieć wersję aktu, datę wejścia w życie zmiany i źródło urzędowe. Sam napis „aktualne” w interfejsie ma niewielką wartość bez informacji, kiedy i na podstawie czego aktualność została sprawdzona.

3. Model analizuje ograniczony zakres akt

Akta mogą być niekompletne, załącznik może nie zostać poprawnie odczytany, a istotny fakt może znajdować się w tabeli, skanie lub wiadomości, której nie dodano do analizy. Model formułuje odpowiedź na podstawie otrzymanego materiału i nie ma pełnej wiedzy o dokumentach, których nie przekazano do analizy. W efekcie stanowczo brzmiąca odpowiedź może powstać na podstawie niepełnego obrazu sprawy.

Przed analizą system powinien pokazać listę wykorzystanych plików, błędy odczytu i zakres pominiętego materiału. W sprawach wymagających ustalenia faktów przydatne jest osobne zestawienie twierdzeń, dowodów i brakujących materiałów. Dzięki temu prawnik może zauważyć, że wniosek powstał bez kluczowego dokumentu.

4. Obliczanie terminów procesowych wymaga zdefiniowanych reguł

Obliczenie terminu zależy między innymi od rodzaju postępowania, sposobu doręczenia, daty zdarzenia, przepisów przejściowych, dni wolnych oraz wyjątków dotyczących konkretnej czynności. Model językowy może pominąć jeden z warunków albo błędnie odczytać datę ze skanu.

Do obliczania terminów należy wykorzystywać kontrolowany mechanizm regułowy z jawnymi danymi wejściowymi. Model może odczytać daty z dokumentów i zasugerować ich znaczenie. Ostateczne wyliczenie wymaga wskazania podstawy prawnej, pokazania sposobu obliczenia oraz zatwierdzenia wyniku przez prawnika prowadzącego sprawę. Terminy, których uchybienie może wywołać skutki procesowe, wymagają niezależnego obliczenia i ponownej weryfikacji.

5. Twierdzenia faktyczne w piśmie przygotowanym z pomocą AI wymagają właściwych dowodów

Według prasowych omówień wyroku Sądu Okręgowego we Wrocławiu z 27 listopada 2025 r., X GC 455/25, powód posłużył się ChatGPT przy przygotowaniu pozwu. Podstawą oddalenia powództwa było niespełnienie warunków formalnych zapytania ofertowego. Sąd odniósł się również do treści przygotowanych przy użyciu AI i do wartości przedstawionych materiałów. Wydruki obejmujące wygenerowaną argumentację, analizę prawną i ocenę szans powodzenia nie stanowiły dowodu na fakty istotne dla rozstrzygnięcia sprawy. Mogły zostać potraktowane jako element argumentacji strony.

System dla prawników powinien wyraźnie oddzielać twierdzenia, podstawy prawne i materiał dowodowy. Brakująca umowa, korespondencja, potwierdzenie doręczenia lub dokument finansowy pozostają luką dowodową niezależnie od jakości wygenerowanego uzasadnienia.

6. Model może utwierdzać klienta w jego ocenie sprawy

Klient często opisuje sprawę jednostronnie i oczekuje potwierdzenia swojej oceny. Model może przyjąć założenia klienta i pominąć argumenty drugiej strony. W poradzie prawnej powstaje wtedy ryzyko, że klient podejmie decyzję bez poznania słabych punktów sprawy.

Analiza powinna uwzględniać perspektywę drugiej strony: brakujące fakty, możliwe zarzuty drugiej strony, przeszkody procesowe, alternatywne kwalifikacje prawne i poziom pewności. W komunikacji kierowanej bezpośrednio do klienta użytkownik powinien mieć możliwość przekazania pytania prawnikowi, szczególnie gdy pytanie dotyczy terminu, roszczenia, odpowiedzialności karnej, zwolnienia pracownika albo istotnej decyzji finansowej.

7. Przekonujący styl może ukrywać błędy i niepewność

Model generuje odpowiedź słowo po słowie i może zachować ten sam profesjonalny ton przy wniosku trafnym oraz błędnym. Ocena użytkownika oparta na stylu jest więc zawodna. Wskaźnik pewności wyrażony w procentach również może tworzyć pozór precyzji, jeśli wynik nie został skalibrowany dla danego zastosowania.

Dobrze zaprojektowany system wskazuje źródła, braki danych, warunki zmieniające odpowiedź i sytuacje, w których system powstrzymuje się od sformułowania jednoznacznej odpowiedzi. System powinien również przewidywać odmowę udzielenia odpowiedzi oraz przekazanie sprawy prawnikowi.

Czy klient może twierdzić, że przegrał przez AI?

Klient może podnieść taki zarzut. Ocena odpowiedzialności zależy jednak od sposobu wykonania usługi i okoliczności konkretnej sprawy. W relacji umownej zastosowanie znajdują przede wszystkim zasady określone w Kodeksie cywilnym. Zgodnie z art. 355 § 2 k.c. przy ocenie należytej staranności uwzględnia się zawodowy charakter działalności dłużnika. Art. 471 k.c. określa natomiast zasady odpowiedzialności za niewykonanie lub nienależyte wykonanie zobowiązania.

Niekorzystne rozstrzygnięcie nie przesądza o nienależytym wykonaniu umowy o świadczenie pomocy prawnej. Ocenie podlega dochowanie należytej staranności zawodowej, prawidłowość ustalenia stanu faktycznego i prawnego oraz adekwatność podjętych czynności.

W sporze dotyczącym odpowiedzialności kontraktowej klient powinien wykazać:

1. istnienie i treść zobowiązania,
2. niewykonanie albo nienależyte wykonanie zobowiązania,
3. powstanie szkody,
4. adekwatny związek przyczynowy między uchybieniem a szkodą.

Art. 471 k.c. przewiduje domniemanie, że niewykonanie lub nienależyte wykonanie zobowiązania wynika z okoliczności, za które odpowiada dłużnik. Możliwość uwolnienia się od odpowiedzialności wymaga oceny okoliczności konkretnej sprawy. Na ocenę odpowiedzialności może wpływać sposób wykorzystania AI, w szczególności weryfikacja źródeł, uwzględnienie kompletu akt, zastosowanie aktualnego prawa oraz zachowanie kontroli nad ostateczną treścią porady. Znaczenie awarii lub błędu po stronie dostawcy będzie oceniane łącznie z wyborem narzędzia, warunkami umowy, zakresem przeprowadzonych testów oraz sposobem weryfikacji wyników przez prawnika.

Przykładowe sytuacje obejmują:

• uchybienie terminowi wskutek błędnego ustalenia daty doręczenia,
• odradzenie środka prawnego na podstawie nieaktualnego przepisu,
• złożenie pisma z cytatem, który nie występuje w powołanym orzeczeniu,
• zalecenie zawarcia ugody oparte na niepełnych aktach lub błędnym obliczeniu skutków finansowych,
• udzielenie klientowi stanowczej odpowiedzi przez chatbot bez przekazania sprawy prawnikowi.

Opisane sytuacje mają charakter przykładowy. Ocena odpowiedzialności wymaga każdorazowo ustalenia zakresu zlecenia, standardu należytej staranności, szkody oraz związku przyczynowego. Odrębnie mogą zostać ocenione przesłanki odpowiedzialności dyscyplinarnej. Prawo o adwokaturze i ustawa o radcach prawnych przewidują również obowiązek posiadania ubezpieczenia odpowiedzialności cywilnej.

Obowiązkowe ubezpieczenie OC nie przesądza o objęciu ochroną każdej szkody związanej z użyciem AI. Zakres odpowiedzialności ubezpieczyciela zależy od warunków ubezpieczenia oraz okoliczności konkretnego zdarzenia.

Jakie skutki procesowe może wywołać błędne pismo przygotowane przy użyciu AI?

Skutki zależą od rodzaju uchybienia oraz przepisów właściwej procedury. Błąd wynikający z użycia AI jest oceniany tak samo jak każdy inny błąd w piśmie procesowym. Znaczenie ma jego wpływ na spełnienie wymogów formalnych, wykazanie faktów, uzasadnienie żądania oraz dochowanie terminu.

W zależności od rodzaju uchybienia konsekwencją może być w szczególności:

• zwrot pisma, jeżeli nie uzupełniono jego braków formalnych,
• odrzucenie pozwu lub środka zaskarżenia, gdy zachodzą przesłanki określone we właściwej procedurze,
• pominięcie wniosku dowodowego albo dowodu,
• uznanie istotnego faktu za niewykazany,
• nieuwzględnienie argumentacji opartej na źródle, które nie potwierdza przywołanej tezy,
• oddalenie wniosku, środka zaskarżenia lub powództwa z powodu niewykazania wymaganych przesłanek,
• obciążenie strony kosztami postępowania lub zastosowanie sankcji procesowej, jeżeli przewidują ją właściwe przepisy.

W sprawie I FZ 104/26 NSA oddalił zażalenie, ponieważ skarżący nie uprawdopodobnił przesłanek wstrzymania wykonania decyzji określonych w art. 61 § 3 p.p.s.a. Ogólnikowa argumentacja i brak dokumentów miały znaczenie dla tej oceny. Błędne odwołania do orzecznictwa były dodatkowym elementem krytycznej oceny sposobu sporządzenia pisma.

Ewentualna odpowiedzialność odszkodowawcza pełnomocnika jest rozpatrywana w odrębnym postępowaniu. Odpowiedzialność dyscyplinarna podlega ocenie właściwych organów samorządu zawodowego.

Co w 2026 roku wynika z zasad zawodowych i AI Act?

15 czerwca 2026 r. Naczelna Rada Adwokacka poinformowała o podjęciu uchwały zmieniającej Zbiór Zasad Etyki Adwokackiej i Godności Zawodu poprzez dodanie § 23e. Zgodnie z informacją NRA, narzędzia technologiczne powinny pełnić funkcję pomocniczą. Korzystanie z takich narzędzi musi respektować tajemnicę zawodową, samodzielność adwokata i jego osobistą rolę w prowadzeniu sprawy. Rezultat działania narzędzia wymaga własnej oceny i weryfikacji przez adwokata.

W odniesieniu do radców prawnych punktem odniesienia są między innymi rekomendacje Krajowej Izby Radców Prawnych dotyczące korzystania z AI. Mają one charakter praktycznych wytycznych i obejmują między innymi odpowiedzialność zawodową, poufność, weryfikację wyników oraz nadzór człowieka.

Na poziomie europejskim od 2 lutego 2025 r. stosuje się art. 4 AI Act. Przepis zobowiązuje dostawców i podmioty stosujące systemy AI do podejmowania działań wspierających rozwój kompetencji personelu w zakresie AI. Dobór tych działań powinien uwzględniać wiedzę techniczną, doświadczenie, wykształcenie i szkolenie personelu, a także kontekst, w którym system jest wykorzystywany, oraz osoby, wobec których ma być stosowany. Komisja Europejska wyjaśnia, że sposób wykonania tego obowiązku zależy od roli organizacji i ryzyka związanego z konkretnym zastosowaniem AI. Od 2 sierpnia 2026 r. właściwe organy sprawują nadzór nad wykonywaniem tego obowiązku.

Klasyfikacja systemu AI zależy od jego zamierzonego zastosowania. Do systemów wysokiego ryzyka mogą należeć rozwiązania przeznaczone do stosowania przez organ wymiaru sprawiedliwości lub w jego imieniu w celu wspierania tego organu w badaniu i interpretacji faktów i prawa oraz stosowaniu prawa do konkretnego stanu faktycznego. Ocena obejmuje rzeczywistą funkcję systemu, jego przeznaczenie określone przez dostawcę oraz sposób wykorzystania przez podmiot stosujący.

Narzędzia kancelaryjne służące do wyszukiwania dokumentów, redagowania tekstu lub przygotowywania streszczeń wymagają indywidualnej klasyfikacji. Samo wykorzystanie systemu w kancelarii lub dziale prawnym nie przesądza o zaliczeniu go do kategorii wysokiego ryzyka. Po zmianach przyjętych w 2026 r. obowiązki dotyczące systemów wymienionych w załączniku III mają być stosowane od 2 grudnia 2027 r.

W zależności od funkcji systemu, rodzaju danych i sposobu jego wykorzystania zastosowanie mogą mieć również RODO, przepisy chroniące tajemnicę zawodową, przepisy właściwej procedury oraz zasady odpowiedzialności cywilnej i dyscyplinarnej.

Jak projektować system AI dla prawników, aby ograniczać ryzyko?

Dobre wdrożenie powinno ułatwiać wykrywanie pomyłek, ograniczać ich wpływ na prowadzoną sprawę i dokumentować wykonanie wymaganej kontroli.

Zakres dokumentowania powinien być proporcjonalny do ryzyka. Rejestry audytowe, w tym historia promptów i wyników, mogą zawierać informacje objęte tajemnicą zawodową. Organizacja powinna określić zakres zapisywanych danych, krąg osób uprawnionych do dostępu, okres przechowywania, zasady usuwania oraz sposób zabezpieczenia rejestrów. Pełna historia pracy z systemem nie musi być przechowywana, jeżeli do wykazania wykonanej kontroli wystarczy węższy zakres informacji.

Bezpieczny podział pracy między systemem a prawnikiem

Przydział zadań warto uzależnić od możliwej szkody oraz łatwości wykrycia błędu.

Takie podejście jest zgodne z praktycznym kierunkiem wskazanym przez CCBE w przewodniku dla prawników: prawnik pozostaje odpowiedzialny za swoją pracę, poradę i oświadczenia, a wynik działania generatywnej AI wymaga kontroli przed wykorzystaniem.

Bezpieczne wdrożenie AI w kancelarii zaczyna się od analizy procesu

Pierwszym krokiem jest wskazanie, gdzie wynik wygenerowany przez AI może wpłynąć na poradę dla klienta, pismo procesowe, ocenę dokumentu lub obliczenie terminu. Na tej podstawie można określić właściwe źródła danych, zakres uprawnień, zasady weryfikacji oraz osoby odpowiedzialne za zatwierdzanie wyników.

Jeżeli planujesz wykorzystać AI do analizy akt, pracy z dokumentami lub przygotowywania umów, poznaj rozwiązanie AI4Legal. Pomagamy kancelariom i działom prawnym zaprojektować narzędzia dopasowane do ich sposobu pracy, wymagań bezpieczeństwa i zakresu odpowiedzialności prawników.

FAQ: ograniczenia AI w oprogramowaniu prawniczym