Kierunki i główne założenia legislacji UE w zakresie sztucznej inteligencji.

Na samym początku warto nadmienić, że w polskim porządku prawnym sztuczna inteligencja nie ma definicji ustawowej. Obecnie podobny stan rzeczy jest obecny także na szczeblu unijnym, w tych aktach prawnych także nie ma jednoznacznej, wiążącej definicji AI.

Powyższe ma się zmienić w związku z projektowanymi w rozporządzeniu nazwanym roboczo także “aktem w sprawie sztucznej inteligencji” przepisami, w tym w szczególności wynikającymi z Załącznika I do ww. rozporządzenia. Przewidziano w nim, że dane oprogramowanie może zostać zakwalifikowane jako system sztucznej inteligencji, musi być opracowane przy użyciu jednej z powyższych technik/podejść:

• mechanizmy uczenia maszynowego, w tym uczenie nadzorowane, uczenie się maszyn bez nadzoru i uczenie przez wzmacnianie, z wykorzystaniem szerokiej gamy metod, w tym uczenia głębokiego;

• metody oparte na logice i wiedzy, w tym reprezentacja wiedzy, indukcyjne (logiczne) programowanie, bazy wiedzy, silniki inferencyjne i dedukcyjne, rozumowanie (symboliczne) i systemy ekspertowe;

• podejścia statystyczne, estymację bayesowską, metody wyszukiwania i optymalizacji.

Przykład: Sztuczną inteligencją są, chociażby skrypty odpowiedzialne za marketing w internecie, czyli te aplikacje, które odpowiadają m.in. za tzw. targetowanie reklam. Skrypty te analizując dane “uczą się” preferencji użytkownika i na tej podstawie kierują do niego określone reklamy.

Definicja ta zatem ma charakter otwarty i może powodować w przyszłości potencjalne rozbieżności interpretacyjne, które będą musiały być rozstrzygane w drodze indywidualnej wykładni. Niemniej, w ocenie autora w tak innowacyjnej gałęzi prawa nie jest możliwe stworzenie zamkniętej definicji AI, a wszelkie próby w tym zakresie są z góry skazane na niepowodzenie. Otwarta definicja poprzez wskazanie pewnych przesłanek zdaje się być jedyną opcją.

Obecne regulacje i trendy legislacyjne dot. AI w UE

Tak jak wspomniano, na gruncie unijnym w zakresie sztucznej inteligencji planuje się wydanie kilku aktów prawnych. W przyszłości zatem prawo AI mogą regulować w szczególności następujące akty prawne:

• Rozporządzenie Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji), które obecnie jest na etapie projektu

• Biała Księga w sprawie sztucznej inteligencji,

• Te dokumenty zapewne uzupełniane będą pomocniczo licznymi komunikatami Komisji, tym w szczególności komunikatem: “Sztuczna Inteligencja dla Europy”, oraz komunikatem: “Skoordynowany plan w sprawie sztucznej inteligencji”

Warto nadmienić, że akt w sprawie sztucznej inteligencji ma być wydany w formie rozporządzenia. Oznacza to, że nie będzie wymagana jego transpozycja do krajowego porządku prawnego, jego postanowienia będą miały moc bezpośrednio obowiązującą we wszystkich krajach członkowskich.

Komunikaty i inne dokumenty o charakterze programowym nie mają jednak charakteru powszechnie obowiązującego, niemniej jednak mogą okazać się cenną wskazówką interpretacyjną w razie nieścisłości.

Jakie są obecne tendencje w zakresie ustawodawstwa unijnego dot. AI?

• Podkreśla się, że bardzo ważna jest analiza ryzyka w branżach, w których korzystanie z algorytmów stworzonych przez AI może powodować szczególne zagrożenia (np. ochrona zdrowia, wymiar sprawiedliwości),
  Przykład: niektóre algorytmy stosowane w wymiarze sprawiedliwości mogłyby dyskryminować ludzi ze względu na płeć czy pochodzenie, zatem stosowanie ich powinno być objęte szczególnym nadzorem.

• Zgodnie z obecnym trendem, rozwój AI ma odbywać się z zachowaniem ochrony konsumentów.

• UE podejmuje działania, aby regulacje dot. AI nie były fragmentaryczne na gruncie aktów unijnych i były jednolite w ramach krajów członkowskich.

• Przewiduje się utworzenie organu nadzorującego rynek AI.

• Wprowadzenie obowiązków producentów, importerów i użytkowników, m.in. monitorowanie działania AI czy obowiązki certyfikacyjne (możliwe w przyszłości).

• Podmioty korzystające z AI (w tym w szczególności wprowadzający je do obrotu) mogą być zobowiązani do przechowywania dokumentacji technicznej i automatycznego rejestrowania zdarzeń.

• Zgodnie z trendami z zakresu ochrony danych osobowych, AI również będzie musiało być pod tym kątem przejrzyste i udostępniać przechowywane informacje użytkownikom.

• Nadzór człowieka nad działalnością AI, przewiduje się, że w szczególności systemy wysokiego ryzyka (czyli np. te, które mogą klasyfikować i kategoryzować osoby fizyczne przechowując dane biometryczne) muszą zapewniać odpowiedni poziom cyberbezpieczeństwa. Niezależnie od ilości zastosowanych zabezpieczeń technicznych, przewiduje się, że finalny nadzór nad działalnością AI ma sprawować człowiek.

Nadzór przez człowieka będzie mógł przejawiać się przykładowo w następujący sposób:

• Wynik działania systemu sztucznej inteligencji nie wywiera skutku, jeżeli nie został wcześniej poddany kontroli i zatwierdzony przez człowieka
  Przykład: odrzucenie wniosku o świadczenia z zabezpieczenia społecznego może być dokonane wyłącznie przez człowieka,

• wynik działania systemu sztucznej inteligencji wywiera natychmiastowy skutek, ale następnie zapewniona jest interwencja człowieka,

Przykład: wstępna weryfikacja wniosku kredytowego (np. odmowa udzielenia kredytu) odbywa się przez algorytm, ale finalną decyzję podejmuje człowiek,

• monitorowanie systemu sztucznej inteligencji w trakcie jego eksploatacji oraz zdolność do interweniowania w czasie rzeczywistym i dezaktywacji,

Przykład: przycisk lub procedura zatrzymania dostępne w samochodzie autonomicznym, jeżeli człowiek stwierdzi, że działanie samochodu nie jest bezpieczne,

• na etapie projektowania, poprzez nałożenie ograniczeń operacyjnych na system sztucznej inteligencji
  Przykład: samochód autonomiczny przestaje działać w warunkach słabej widoczności kiedy czujniki mogą być mniej wiarygodne.