Kto podpisze się pod błędem AI? Odpowiedzialność w projektach wspieranych przez sztuczną inteligencję

About
Latest Posts

Chief Operating Officer at eVolpe Consulting Group

Od 2009 roku zasiadam w zarządzie eVolpe Consulting Group. Do moich zadań należą: analiza procesów biznesowych oraz doradztwo w zakresie odpowiedniej metodyki prowadzenia projektów. Moja przygoda z systemami informatycznymi zaczęła się jeszcze na studiach. Przez lata rozwoju naszej firmy miałam okazję współpracować z największymi polskimi przedsiębiorstwami. Koordynowałam też kilkanaście międzynarodowych projektów. Każdy z nich buduje moje doświadczenie jako eksperta do spraw optymalizacji procesów biznesowych w systemach IT. Jeżeli aplikacja, z której korzystasz, nie odpowiada realiom Twojego biznesu – porozmawiajmy o tym, jak mogę Ci pomóc!

Latest posts by Magdalena Ziębińska (see all)

Jak wpisać CRM do budżetu na 2027, zanim pojawi się oferta? - 3 listopada 2026
„Za bardzo z CRM nie korzystamy” — skąd się bierze niska adopcja? - 1 października 2026
Czy zakup licencji na Copilota to już wdrożenie AI? - 10 września 2026

Za błąd AI w projekcie wdrożeniowym odpowiada zawsze człowiek lub firma, nigdy sam system, bo AI nie ma osobowości prawnej. Odpowiedzialność dzieli się między trzy strony. Dostawca modelu odpowiada za jakość algorytmu i danych treningowych. Firma wdrożeniowa odpowiada za osadzenie AI w procesach klienta i testy. Klient odpowiada za dane, które dostarcza, i za nadzór nad decyzjami podejmowanymi na podstawie wyników AI. Jeśli umowa nie opisuje tego podziału, po każdym incydencie strony wskazują na siebie nawzajem.

Przykład: system rekomendacyjny w CRM podpowiada handlowcowi ofertę dla klienta premium, która nie uwzględnia aktualnych warunków kontraktu. Klient rezygnuje, a firma traci kilkaset tysięcy złotych przychodu. Poniżej pokazujemy, jak w takich sytuacjach przebiega granica odpowiedzialności, czym różni się ryzyko w modelu SaaS i we wdrożeniu custom oraz co powinno znaleźć się w umowie, zanim system trafi na produkcję.

Jakie przepisy regulują odpowiedzialność za błędy AI?

W UE nie ma dziś odrębnych przepisów o odpowiedzialności cywilnej za szkody wyrządzone przez AI. Komisja Europejska zapowiedziała 11 lutego 2025 roku wycofanie projektu dyrektywy o odpowiedzialności za sztuczną inteligencję (AILD), wskazując na brak perspektyw porozumienia (Bird & Bird, 2025). Odpowiedzialność za błędy AI wynika więc z trzech źródeł:

Umowy między stronami. W relacjach B2B to najważniejsze źródło: to umowa określa, kto odpowiada za jakość danych, testy, nadzór i ile wynosi limit odszkodowania.
AI Act (rozporządzenie (UE) 2024/1689). Nie reguluje odszkodowań, ale nakłada obowiązki na dostawców systemów AI (podmioty, które je tworzą i wprowadzają do obrotu) oraz na podmioty stosujące (firmy, które używają AI w swojej działalności). Naruszenie tych obowiązków grozi karami administracyjnymi.
Nowa dyrektywa o odpowiedzialności za produkty wadliwe (UE) 2024/2853. Wprost obejmuje oprogramowanie, w tym systemy AI, i ma zastosowanie do produktów wprowadzonych na rynek od 9 grudnia 2026 roku (Gibson Dunn, 2026). Chroni jednak przede wszystkim osoby poszkodowane, a nie straty biznesowe między firmami.

W praktyce projektów CRM i HCM oznacza to, że straconego przychodu czy kosztów błędnej decyzji handlowej nie odzyska się na podstawie przepisów o AI. O tym, kto za nie zapłaci, decyduje umowa.

Jak dzieli się odpowiedzialność w projekcie z komponentem AI?

Odpowiedzialność w projekcie z komponentem AI dzieli się między trzy strony, z których każda odpowiada za inny fragment całości:

Dostawca modelu lub platformy (vendor) odpowiada za jakość algorytmu, poprawność danych treningowych, dokumentację techniczną i spełnienie wymogów regulacyjnych po stronie produktu. Jeśli model był stronniczy, źle wytrenowany albo podatny na znany typ błędu, to jego obszar.
Firma wdrożeniowa (implementer) odpowiada za to, jak technologia została osadzona w procesach klienta: mapowanie wymagań, konfigurację, integrację z istniejącymi systemami i testy akceptacyjne. Jeśli model działa poprawnie, ale wdrożono go w kontekście, do którego nie był przeznaczony, odpowiedzialność przesuwa się w tę stronę.
Klient (operator) odpowiada za dane, których dostarcza systemowi, za sposób korzystania z rekomendacji AI i za nadzór człowieka nad decyzjami o wysokiej stawce. Jeśli pracownicy zatwierdzają wyniki modelu bez weryfikacji albo firma zasila system nieaktualnymi danymi, ryzyko jest po jej stronie.

Problem polega na tym, że większość umów wdrożeniowych nie opisuje tego podziału wprost. Zawiera ogólne klauzule o „zgodności z wymaganiami” i „staranności przy wdrożeniu”, a gdy coś idzie nie tak, każda strona wskazuje na pozostałe.

Gdzie w praktyce przebiega granica odpowiedzialności?

Granica odpowiedzialności przebiega tam, gdzie powstała przyczyna błędu: w danych, w modelu albo we wdrożeniu. Trzy scenariusze pokazują, jak to wygląda w praktyce:

Błędna predykcja sprzedażowa. System CRM z modułem predykcji prognozuje zamknięcie transakcji z prawdopodobieństwem 87%. Handlowiec nie podejmuje działań i transakcja przepada. Analiza pokazuje, że od sześciu miesięcy nikt nie wprowadzał do CRM notatek ze spotkań, więc model pracował na niekompletnych danych. Przyczyna leży po stronie klienta, który dostarczał dane.
Stronniczość w module oceny kandydatów. System HCM z funkcją AI-scoringu systematycznie zaniża oceny osób o określonych cechach demograficznych, bo model trenowano na historycznych danych rekrutacyjnych odzwierciedlających dawne nierówności, a przed wdrożeniem nie przeszedł audytu. Przyczyna leży po stronie dostawcy modelu. Wobec kandydata za dyskryminację odpowiada jednak pracodawca, który systemu użył, i to on musi dochodzić zwrotu kosztów od dostawcy na podstawie umowy. Takie systemy AI Act kwalifikuje jako systemy wysokiego ryzyka.
Automatyzacja z pominięciem przypadków granicznych. Automatyczny przepływ obsługi klienta kieruje określony typ zgłoszeń do działu technicznego zamiast do obsługi. Przez trzy miesiące kilkadziesiąt reklamacji jest obsłużonych nieprawidłowo, bo na etapie wdrożenia nie przetestowano kategorii mieszanych. Przyczyna leży po stronie firmy wdrożeniowej, a błąd wynika z niekompletnej analizy wymagań i testów.

Czym różni się ryzyko w modelu SaaS i we wdrożeniu custom?

W modelu SaaS odpowiedzialność za działanie algorytmu jest bardziej skupiona po stronie dostawcy, a we wdrożeniu custom rozkłada się na wszystkie trzy strony. W SaaS klient kupuje dostęp do gotowego produktu z wbudowanym AI, a dostawca zarządza modelem, infrastrukturą i aktualizacjami. Umowy SaaS prawie zawsze zawierają jednak rozbudowane klauzule ograniczające odpowiedzialność, wyłączenia dla określonych zastosowań i kwotowe limity odszkodowań. Klient kupuje narzędzie, a nie gwarancję wyników, a jeśli używa go poza przewidzianym zastosowaniem, ryzyko przechodzi na niego.

We wdrożeniu custom, gdy AI jest budowane lub konfigurowane pod potrzeby organizacji, im bardziej klient wpływa na kształt modelu (dane treningowe, parametry, logikę decyzji), tym więcej odpowiedzialności operacyjnej bierze na siebie. Rośnie też rola firmy wdrożeniowej, która zwykle projektuje architekturę rozwiązania i odpowiada za zgodność z wymaganiami. Firma korzystająca z gotowego modułu AI w SugarAI i firma budująca własny model predykcji odejścia klientów na danych z CRM mają więc zupełnie inny profil ryzyka i potrzebują innych zapisów w umowie.

Co AI Act oznacza dla firm wdrażających AI?

AI Act wszedł w życie w sierpniu 2024 roku, ale jego przepisy stosuje się etapami, a część terminów przesunęło rozporządzenie Digital Omnibus (UE) 2026/1744, obowiązujące od 27 lipca 2026 roku (FPF, 2026). Najważniejsze daty dla firm (Cooley, 2026):

Od kiedy	Co obowiązuje
2 lutego 2025	Zakaz praktyk niedozwolonych (art. 5)
2 sierpnia 2025	Obowiązki dostawców modeli AI ogólnego przeznaczenia
2 sierpnia 2026	Ogólne stosowanie rozporządzenia, w tym obowiązki przejrzystości z art. 50, np. informowanie klienta, że rozmawia z AI
2 grudnia 2027	Wymogi dla samodzielnych systemów wysokiego ryzyka z załącznika III, np. AI w rekrutacji i ocenie pracowników (pierwotnie 2 sierpnia 2026)
2 sierpnia 2028	Wymogi dla AI w produktach regulowanych z załącznika I (pierwotnie 2 sierpnia 2027)

Im bardziej system AI wpływa na decyzje dotyczące ludzi, tym wyższą kategorię ryzyka mu przypisano. W praktyce biznesowej do systemów wysokiego ryzyka mogą należeć moduły oceniające kandydatów i pracowników, scoring kredytowy oraz narzędzia decydujące o dostępie do usług o krytycznym znaczeniu. Obowiązki przejrzystości przy chatbotach w obsłudze klienta opisujemy w artykule AI Act a CRM.

Kary są trzystopniowe (art. 99 AI Act): do 35 mln euro lub 7% światowego rocznego obrotu za praktyki zakazane, do 15 mln euro lub 3% obrotu za naruszenie innych obowiązków operatorów oraz do 7,5 mln euro lub 1% obrotu za przekazanie organom nieprawdziwych lub niepełnych informacji. Zastosowanie ma kwota wyższa, a dla MŚP niższa (Komisja Europejska, AI Act Service Desk). Brak wymaganej dokumentacji jest więc samodzielnym ryzykiem regulacyjnym, niezależnie od tego, czy system popełnił błąd.

Co musi znaleźć się w umowie na wdrożenie systemu z AI?

Umowa na wdrożenie systemu z AI musi wprost opisywać pięć obszarów, których klasyczne umowy na dostawę oprogramowania zwykle nie regulują:

Podział odpowiedzialności za dane. Kto dostarcza dane treningowe lub historyczne, kto odpowiada za ich jakość i aktualność i co się dzieje, gdy model popełni błąd z powodu złych danych wejściowych.
Definicja akceptowalnego błędu. AI nie działa deterministycznie, więc błędy są nieuniknione. Umowa powinna określać, jaki poziom błędu jest dopuszczalny i kto ponosi konsekwencje jego przekroczenia.
Obowiązki nadzorcze. Kto monitoruje model po wdrożeniu, jak często i według jakich miar. Przy systemach wysokiego ryzyka AI Act nakłada w tym zakresie konkretne obowiązki, które umowa powinna przypisać do konkretnej strony.
Procedura reagowania na incydenty. Kto jest informowany, gdy model wywoła błąd z realnym skutkiem biznesowym lub prawnym, w jakim czasie i kto decyduje o wyłączeniu systemu.
Audytowalność. Dostęp stron do logów zdarzeń, historii decyzji modelu i dokumentacji technicznej. Bez nich trudno ustalić przyczynę błędu i wykazać przed organem nadzoru, jak system działał. Nowa dyrektywa o produktach wadliwych wprowadza też obowiązki ujawniania dowodów w sporach sądowych.

Zapisy chroniące projekt wdrożeniowy niezależnie od AI, takie jak procedura odbioru, SLA i prawa do kodu, opisujemy w artykule Gwarancje umowne CRM.

Jakie pytania zadać przed podpisaniem umowy na wdrożenie AI?

Przed podpisaniem umowy na wdrożenie systemu z AI warto zadać sobie i dostawcy pięć pytań:

Czy system kwalifikuje się jako system wysokiego ryzyka według AI Act? Od tego zależy zakres wymaganej dokumentacji i nadzoru oraz termin, od którego obowiązują wymogi.
Jak umowa reguluje odpowiedzialność za dane? Jeśli klient dostarcza dane historyczne, a umowa milczy na temat ich jakości, ryzyko jest po jego stronie, nawet jeśli tego nie zakłada.
Kto monitoruje model po wdrożeniu? Skuteczność modeli spada w czasie, gdy rzeczywistość odbiega od danych treningowych. Umowa powinna wskazywać, kto za to odpowiada.
Co wyłącza odpowiedzialność dostawcy? W umowach SaaS klauzule ograniczające odpowiedzialność są standardem; warto je przeczytać przed incydentem, a nie po nim.
Czy umowa dzieli odpowiedzialność między dostawcę modelu a firmę wdrożeniową? Jeśli nie, w razie sporu obie strony będą wskazywać na klienta.

Jasny podział odpowiedzialności nie eliminuje ryzyka błędu AI, ale eliminuje ryzyko, że błąd zamieni się w spór prawny bez rozstrzygnięcia. Szerszą listę pytań do dostawcy znajdziesz w Checkliście PM-a: 30 pytań do dostawcy CRM.

Najczęściej zadawane pytania

Kto odpowiada za błąd sztucznej inteligencji?

Człowiek lub firma, nigdy sam system AI. W projekcie wdrożeniowym odpowiedzialność dzieli się między dostawcę modelu, firmę wdrożeniową i klienta, zależnie od tego, gdzie powstała przyczyna błędu.

Czy w UE obowiązuje dyrektywa o odpowiedzialności za AI?

Nie. Komisja Europejska zapowiedziała w lutym 2025 roku wycofanie projektu dyrektywy AILD. Odpowiedzialność wynika z umów, przepisów krajowych, AI Act i nowej dyrektywy o produktach wadliwych.

Od kiedy obowiązują wymogi AI Act dla systemów wysokiego ryzyka?

Po zmianach z rozporządzenia Digital Omnibus: od 2 grudnia 2027 roku dla samodzielnych systemów z załącznika III i od 2 sierpnia 2028 roku dla AI w produktach regulowanych.

Jakie kary przewiduje AI Act?

Do 35 mln euro lub 7% obrotu za praktyki zakazane, do 15 mln euro lub 3% za naruszenie innych obowiązków i do 7,5 mln euro lub 1% za nieprawdziwe informacje dla organów.

Czy dyrektywa o produktach wadliwych obejmuje oprogramowanie AI?

Tak. Dyrektywa (UE) 2024/2853 wprost obejmuje oprogramowanie i systemy AI wprowadzone na rynek od 9 grudnia 2026 roku, ale chroni głównie osoby poszkodowane, a nie straty biznesowe między firmami.

Co najważniejsze w umowie na wdrożenie AI?

Podział odpowiedzialności za dane, definicja akceptowalnego błędu, obowiązki nadzoru po wdrożeniu, procedura reagowania na incydenty i dostęp do logów.

Jesteś gotowy na prowadzenie dużego projektu wdrożeniowego w Twojej firmie?

Wiesz, o co zapytać dostawcę? Jak przygotować własny zespół? Jak stworzyć skuteczne zapytanie ofertowe? Jaką metodykę wybrać? Na co zwrócić uwagę negocjując umowę wdrożeniową i serwisową?

Specjalnie dla Ciebie stworzyliśmy darmowy kurs mailowy przygotowujący do prowadzenia wdrożeń.

Codziennie przez dwa tygodnie otrzymasz od nas na swoją skrzynkę kolejną dawkę wiedzy, która pozwoli odnaleźć Ci się w tym skomplikowanym procesie.

dowiedz się więcej o kursie