Odpowiedzialność za szkody wyrządzone przez AI. Aspekty prawne

Zgodnie z art. 2 ust. 1 rozporządzenie znajduje zastosowanie na terytorium państw członkowskich wszędzie tam, gdzie działanie sztucznej inteligencji (fizyczne lub wirtualne) albo opartego na niej urządzenia lub procesu prowadzi do:

• pozbawienia życia, okaleczenia lub uszczerbku na zdrowiu osób fizycznych,

• powstania szkód majątkowych u osób fizycznych lub prawnych,

• powstania innych szkód niematerialnych, o ile można ustalić ich wartość ekonomiczną.

Rozporządzenie czyni nieważnymi wszystkie umowy lub postanowienia, które mogłyby wyłączyć albo ograniczyć odpowiedzialność przewidzianą na mocy przepisów unijnych. Jednocześnie jednak wspólnotowa regulacja ma charakter paralelny względem krajowych lub unijnych regulacji dotyczących:

• odpowiedzialności za produkt,

• ochrony konsumenta,

• niedyskryminacji,

• ochrony pracy,

• środowiska.

Systemy AI wysokiego ryzyka

W przypadku systemów AI uznanych za stwarzających wysokie ryzyko dla ich odbiorców operator odpowiada na zasadzie ryzyka. Od odpowiedzialności tej nie może się on zwolnić poprzez wykazanie, że działał z dochowaniem należytej staranności lub że szkoda powstała w wyniku autonomicznego działania systemu, czyli takiego, którego nie da się regulować. Odpowiedzialność nie występuje jednak w przypadku szkody powstałej wskutek działania siły wyższej.

Rozporządzenie przewiduje stworzenie załącznika, który będzie zawierał listę systemów AI obarczonych wysokim ryzykiem i listę istotnych branż, w których mogą być one wykorzystane. Może on być na bieżąco modyfikowany poprzez rozszerzenie katalogu lub odwrotnie, wykreślenie z niego systemów, które nie mogą już być dłużej uznane za stwarzające wysokie ryzyko.

W art. 4 ust. 4 rozporządzenia wprowadzono również obowiązek ubezpieczenia systemu AI wysokiego ryzyka. Spoczywa on na:

• operatorze front-end – musi on dopilnować ubezpieczenia samego systemu,

• operatorze back-end – ubezpieczeniem muszą być objęte jego usługi.

W obu przypadkach kwota i zakres ubezpieczenia muszą być adekwatne w rozumieniu przepisów rozporządzenia.

Warto zwrócić uwagę, że w tych przypadkach unijne przepisy narzucają na lokalne porządku prawne państw członkowskich odpowiedzialność na zasadzie ryzyka. Oznacza to, że wprowadzenie dla danej klasy systemów AI odpowiedzialności łagodniejszej, na zasadzie winy, nie ma wpływu na ewentualne roszczenia poszkodowanego.

Jak wysokie odszkodowanie przewiduje rozporządzenie?

W przypadku pociągnięcia operatora do odpowiedzialności za szkody wyrządzone przez AI wysokiego ryzykamaksymalna kwota odszkodowania jest różna, w zależności od zakresu szkody. Wynosi ona:

• 2 miliony euro w przypadku śmierci, uszczerbku na zdrowia lub okaleczenia osoby fizycznej w wyniku działania systemu AI,

• 1 milion euro w przypadku poważnej szkody niematerialnej o możliwej do ustalenia wysokości ekonomicznej.

Odszkodowania nie wypłaca się, jeżeli poszkodowany na mocy umowy ma prawo do wystąpienia z roszczeniem w stosunku do operatora, a wysokość szkody nie przekracza 500 euro.

Rozporządzenie wprowadza także ograniczenie odszkodowania w sytuacji, kiedy szkoda została wyrządzona kilku osobom, a łączne odszkodowanie przekracza 2 miliony euro. W takiej sytuacji kwoty poszczególnych świadczeń powinny być proporcjonalnie zredukowane tak, aby nie przekroczyć wartości 2 milionów euro.

W jaki sposób wyliczane jest odszkodowanie na gruncie rozporządzenia?

Wysokość odszkodowania w przypadku śmierci, uszczerbku na zdrowiu lub okaleczenia powinno być wyliczane w oparciu o:

• koszty leczenia (w tym poniesione przed śmiercią),

• szkody majątkowe związane z ograniczeniem możliwości zarobkowych lub zwiększeniem kosztów utrzymania (w tym wydatki poniesione przed śmiercią).

Niezależnie od tego operator ma obowiązek wypłacić koszty pochówku osobie, która je poniosła.

Szeroki zakres odpowiedzialności jest widoczny szczególnie w art. 6 ust. 1 in fine, który w przypadku śmierci poszkodowanego wprowadza obowiązek operatora do łożenia na utrzymanie osoby trzeciej, z którą poszkodowany pozostawał w związku i do utrzymywania, której był zobowiązany.

Podmiot odpowiedzialny łoży na utrzymanie osoby trzeciej analogiczne kwoty jak poszkodowany, przez czas odpowiadający średniej długości życia osoby w podobnym wieku i w podobnym stanie zdrowia. Dotyczy to także nasciturusa, czyli dziecka poczętego, które jeszcze się nie narodziło.

Okres przedawnienia roszczeń

Projekt rozporządzenia wprowadza odrębne terminy przedawnienia w przypadku szkody wyrządzonej przez AI wysokiego ryzyka, w zależności od wagi skutku.

• 30 lat od dnia powstania szkody – w przypadku śmierci, kalectwa lub uszczerbku na zdrowiu,

• 30 lat od przeprowadzenia operacji – w przypadku wykorzystania AI wysokiego ryzyka, jeżeli doprowadziło to do zniszczenia własności poszkodowanego lub poważnej szkody niematerialnej,

• 10 lat od daty powstania szkody – jeżeli uszczerbek ma charakter majątkowy lub jest możliwą do zweryfikowania stratą ekonomiczną.

Jednocześnie priorytet zachowują krajowe porządki w zakresie dotyczącym zawieszenia lub przerwania terminu przedawnienia.

Dla „zwykłych” systemów zastosowanie znajdą krajowe normy dotyczące przedawnienia oraz zakresu i kwot odszkodowania.

Odpowiedzialność za szkody wyrządzone przez AI inne niż systemy wysokiego ryzyka

W przypadku systemów AI, w stosunku do których nie powstaje wysokie ryzyko powstania szkody, ustawodawca unijny przyjął odpowiedzialność operatora za zasadzie winy za wszelkie szkody spowodowane przez:

• fizyczne lub wirtualne działanie systemu,

• działanie urządzenia sterowanego systemem,

• funkcjonowanie procesu opartego na systemie.

Operator może wyłączyć się od odpowiedzialności, jeżeli wykaże, że:

• AI zostało uruchomione bez zgody operatora, a jednocześnie podjęto wszelkie rozsądne i niezbędne środki, aby tego uniknąć, chyba że nie można ustalić miejsca pobytu sprawcy szkody albo jest on niewypłacalny.

• Dochowano należytej staranności poprzez łączne:

  • dobranie właściwego AI do zadania,

  • prawidłowe uruchomienie procesu,

  • nadzorowanie działania systemu,

  • regularne aktualizowanie oprogramowania,

• szkoda powstała wskutek siły wyższej lub wyłącznej winy poszkodowanego albo osoby, za której działanie on odpowiada.

Nie jest dopuszczalne zwolnienie się od odpowiedzialności poprzez wykazanie autonomicznego działania systemu AI. Rozporządzenie nakładana obowiązek współpracy operatora oraz producenta systemu dla określenia zakresu odpowiedzialności.

Modyfikacje odpowiedzialności

Rozporządzenie przewiduje redukcję odpowiedzialności operatora w przypadku przyczynienia się poszkodowanego do powstania uszczerbku. Obie strony postępowania mogą korzystać z danych wygenerowanych przez system, który wyrządził szkodę do ustalenia odpowiedzialności i jej zakresu.

W przypadku wyrządzenia szkody przez kilku operatorów, ich odpowiedzialność jest solidarna. Jeżeli którykolwiek z operatorów (back-end lub front-end) jest jednocześnie producentem systemu AI, rozporządzenie ma priorytet przed dyrektywą w sprawie odpowiedzialności za produkt. Operatorzy mogą dochodzić między sobą roszczeń zwrotnych (tzw. regresów), a także zgłosić je w stosunku do producenta oprogramowania, jeżeli pokryli szkodę w całości.

Rozwój branży IT prowadzi do stopniowego wdrażania rozwiązań sztucznej inteligencji w wiele sfer naszego życia. Wprowadzenie prawnych regulacji, które unormują reżimy odpowiedzialności za szkody wyrządzone przez AI, jest nieuniknione. Dopiero praktyka pokaże jednak, w jakim stopniu sprawdzają się proponowane rozwiązania.