Takie wnioski płyną z niedawnego orzeczenia Krajowej Izby Odwoławczej, która nakazała wykluczyć z przetargu firmę, która wyjaśniając swoją cenę, posługiwała się nieprawdziwymi informacjami, jakie wygenerowała jej sztuczna inteligencja.

Halucynacje AI

W sprawie chodziło o przetarg na utrzymanie stanu dróg w województwie małopolskim. Zamawiający wezwał wszystkich wykonawców do przedstawienia prawnego uzasadnienia w kontekście kalkulacji ceny, w szczególności zastosowanych stawek podatku VAT.

Jedna z firm startujących w przetargu podała w tym zakresie nieprawdziwe informacje, powołując się na nieistniejące (nigdy niewydane) interpretacje podatkowe.

Radca prawny Jarosław Sroka, partner z kancelarii BSJP, działając na zlecenie konkurencyjnego wykonawcy, zauważył, że wyjaśnienia tego wykonawcy budzą wątpliwości i podejrzenie, że zawierają one tzw. halucynacje AI.

- Wykonawca ten w swoich wyjaśnieniach, zawartych na 200 stronach, podał nieprawdziwe informacje i rzekome interpretacje podatkowe, które były wytworem AI. Niektóre stwierdzenia były nielogiczne i mylące, a niektóre wskazane przez tę firmę sygnatury nie istniały. Potwierdziliśmy to w Krajowej Informacji Skarbowej – mówi Sroka.

To właśnie mec. Sroka zakwestionował tę ofertę. Jak dodaje, w odwołaniu do KIO zwrócił uwagę na kilka aspektów, ale najciekawszy był właśnie ten dotyczący nowoczesnych technologii.

KIO zdecydowała, że zamawiający będzie musiał tę firmę wykluczyć, bo wprowadzanie w błąd dyskwalifikuje danego wykonawcę.

Zgodnie z art. 109 ust. 1 pkt 10 prawa zamówień publicznych (t.j. Dz.U. z 2024 r. poz. 1320 ze zm.; dalej: p.z.p.), z postępowania o udzielenie zamówienia zamawiający może wykluczyć wykonawcę, który w wyniku lekkomyślności lub niedbalstwa przedstawił informacje wprowadzające w błąd, co mogło mieć istotny wpływ na decyzje podejmowane przez zamawiającego w postępowaniu o udzielenie zamówienia (patrz: infografika).

Izba w ustnych motywach rozstrzygnięcia uzasadniała, że wykonawca używający nowoczesnych technologii musi wziąć za nie odpowiedzialność. Musi też mieć świadomość, że chociaż narzędzia AI mogą być pomocne, to korzystający z nich ponoszą ryzyko związane z ich używaniem, więc powinien te treści dokładnie sprawdzać.

Decyzja KIO może zostać jeszcze zaskarżona do Sądu Okręgowego w Warszawie.

Wymóg profesjonalnego działania

Eksperci, z którymi rozmawiał DGP, co do zasady zgadzają się z rozstrzygnięciem KIO.

- Uzasadnianie cech oferty w zamówieniach publicznych, np. ceny, fałszywymi danymi to podanie nieprawdziwych informacji. Te w procedurach zamówień publicznych winny skutkować właśnie wykluczeniem wykonawcy – mówi Piotr Trębicki, radca prawny, wspólnik w Kancelarii Trębicki Hołowińska. Jak zauważa, w omawianym przypadku nieprawdziwe dane miały uzasadnić niską cenę oferty.

- A przecież procedura wyjaśniania zarzutu rażąco niskiej ceny służy konkretnym celom. Jeśli pozwolimy na podawanie wymyślonych powodów zastosowania niskich cen, podważymy całą istotę i cel badania ofert pod kątem zaoferowania cen zbyt niskich względem rynku – tłumaczy mec. Trębicki. Dodaje przy tym, że w praktyce jego kancelarii nie spotkano się z podobnym przypadkiem. Zna jednak doniesienia z rynku amerykańskiego czy angielskiego, gdzie tego typu „błędy” zdarzały się bardzo renomowanym prawnikom sądowym.

Z kolei Aldona Kowalczyk, radca prawny, partner w kancelarii 4K Legal, zwraca uwagę, że od podmiotów gospodarczych wymaga się działania profesjonalnego, z zachowaniem podwyższonego miernika staranności.

- W przypadku jakichkolwiek wezwań wystosowanych przez zamawiających dotyczących wyjaśnienia elementów oferty, uzupełnienia dokumentów czy przedstawienia wyjaśnień w zakresie kalkulacji cenowych, należy dołożyć najwyższej staranności – mówi mec. Kowalczyk.

Krajowa Izba Odwoławcza: źródło błędu nie ma znaczenia

Zarówno z ustnych motywów orzeczenia KIO, jak i wypowiedzi rozmówców DGP wynika, że AI jest tylko narzędziem, nie ma więc znaczenia, skąd wykonawca startujący w przetargu powziął błędne informacje, przedstawione w ofercie.

Sylwester Kuchnio, radca prawny, partner w 4K Legal Kowalczyk Kuchnio Królak sp.k., przez dziewięć lat orzekał w KIO.

- Izba rozpatruje wiele spraw o podanie przez wykonawcę nieprawdziwych informacji/wprowadzenie w błąd. W tej konkretnej ciekawa jest geneza wprowadzenia w błąd, czyli użycie AI – podkreśla nasz rozmówca.

Mec. Kuchnio mówi, że w kontekście wynikających z przepisów prawa zamówień publicznych przesłanek wykluczenia – z zastrzeżeniem pewnego minimalnego, wynikającego z tych przepisów miernika staranności odnoszonego do działalności i informacji danego rodzaju – geneza ta nie ma jednak żadnego znaczenia.

- Jest absolutnie obojętne, skąd pochodzą wprowadzające w błąd informacje, przy pomocy których wykonawca usiłuje wygrać publiczny przetarg, w szczególności nie jest istotne, czy wytworzył je bot czy człowiek. Wykonawca w obu przypadkach powinien ponieść negatywne konsekwencje ich wykorzystania. Innymi słowy, gdyby nieprawdziwe informacje, za które został wykluczony wykonawca, spreparował nie chatbot, ale człowiek, rezultat sprawy winien być – w mojej ocenie – taki sam – podkreśla.

W ocenie mec. Kowalczyk, o ile trudno uznać za naganny sam fakt wykorzystywania sztucznej inteligencji (jak wiadomo, jest to w obecnych czasach powszechne narzędzie, również w działalności zawodowej), o tyle w tej sprawie, nieprawidłowy był brak starannej weryfikacji informacji zgromadzonych z wykorzystaniem AI, przed ich wykorzystaniem przez wykonawcę w wyjaśnieniach cenowych. Zwłaszcza że postępowania prowadzone w reżimie p.z.p. mają swoją specyfikę – nie wystarczy złożyć dobrą ofertę w wyznaczonym przez zamawiającego terminie.

Z takim podejściem zgadza się też mec. Trębicki, który zauważa, że narzędzia AI są udogodnieniem.

– Tak, jak szybciej piszemy na komputerze niż na maszynie, tak szybciej szukamy np. orzeczeń w systemach informatycznych. Ale orzeczenia te w imieniu wykonawcy, przedkłada konkretny człowiek, działający w imieniu konkretnej strony. Wyniki wyszukiwań AI należy sprawdzić. Nie można powiedzieć: niech sobie zamawiający sprawdza, czy komputer nie nazmyślał – uważa.

Dodaje, że czy przed zamawiającym, czy przed KIO, a wreszcie przed sądem, wykonawcę reprezentuje człowiek. Może to być wspólnik, członek zarządu czy wreszcie prawnik.

Sztuczna inteligencja: zasada ograniczonego zaufania

W przypadku użycia sztucznej inteligencji należy kierować się zasadą ograniczonego zaufania. Ślepe zaufanie AI może bezpowrotnie wykluczyć nas z przetargu.

Mec. Kowalczyk mówi, że odpowiedź wykonawcy na wezwanie musi być kompletna i rzetelna, gdyż wszelkie jej błędy czy inne niedostatki mogą bezpowrotnie spowodować utratę szansy na zdobycie zamówienia. Bezrefleksyjne opieranie się na sztucznej inteligencji przy przygotowaniu odpowiedzi na takie wezwanie ze strony zamawiającego jest więc działaniem obciążonym wysokim ryzykiem niedokładności, błędu, przeinaczenia czy wręcz konfabulacji, a w konsekwencji - ryzykiem wykluczenia wykonawcy i odrzucenia jego oferty.

Mec. Trębicki dodaje, że niezależnie czy zmyśloną podstawą uzasadnimy cenę oferty, czy cechę produktu (np. poziom spalania paliwa przez samochód, szybkość druku drukarki), zawsze jest to wprowadzenie w błąd.

- Od strony prawa zamówień skutkujące wykluczeniem, ale mogące przecież stanowić także naruszenie karne (wpływ na wynik postępowania publicznego) – mówi.

Jaka więc będzie przyszłość użycia sztucznej inteligencji w postępowaniach dotyczących zamówień publicznych i jakie „zabezpieczenia” można wprowadzić w jej używaniu?

Mec. Kuchnio ocenia, że biorąc pod uwagę coraz częstsze używanie AI w każdej dziedzinie życia, plus notoryjny fakt, że dostępne na rynku narzędzia AI mają tendencję do „zmyślania” całych przepisów, procedur, orzeczeń, cytatów czy źródeł, a w naturze ludzkiej leży lenistwo czy chęć „podróżowania na skróty”, to tego rodzaju spraw będzie coraz więcej.

Z kolei mec. Trębicki zwraca uwagę, że ten przypadek może być też przyczynkiem do dyskusji o obowiązkowym reprezentowaniu stron przed KIO przez radców prawnych i adwokatów.

- Pełnomocnicy w swoją profesję mają wbudowane mechanizmy odpowiedzialności dyscyplinarnej. I podanie zmyślonych wyroków w piśmie profesjonalnego pełnomocnika, byłoby też zapewne karane przez organy dyscyplinarne samorządu – mówi nasz rozmówca.

Orzecznictwo:

Wyrok Krajowej Izby Odwoławczej z 17 października 2025 r., sygn. akt 3342/25