Jak wprowadzić AI wysokiego ryzyka na rynek?

Pierwszym pytaniem, jaki powinien zadać sobie producent oprogramowania AI, jest to, czy rzeczywiście w danym przypadku trzeba stosować przepisy nowego rozporządzenia.

Już na wstępie należy zauważyć, że nie każdy produkt cyfrowy wykorzystujący sztuczną inteligencję podlega pod rozporządzenie AI Act. Zamawiający, który planuje zlecić stworzenie prostej aplikacji czy też gry komputerowej wykorzystującej sztuczną inteligencję nie musi spełniać wymagań, o których mowa w akcie w sprawie sztucznej inteligencji. Nadal jednak powinien zwrócić uwagę na zgodność z przepisami znajdującymi zastosowanie w przypadku umów o stworzenie aplikacji, np. w zakresie ochrony prawnoautorskiej czy RODO. Jak w takim razie odseparować AI wysokiego ryzyka (ang. high-risk AI systems) od algorytmów, które nie stwarzają zagrożenia wcale lub jedynie w niewielkim zakresie (ang. limited to no-risk AI systems)?

Zgodnie z art. 6 ust. 1 AI Act za system wysokiego ryzyka uznaje się system, który spełnia łącznie następujące warunki:

• jest przeznaczony do wykorzystywania jako związany z bezpieczeństwem element produktu objętego ustawodawstwem harmonizacyjnym UE lub sam jest takim produktem;
• podlega – jako element związany z bezpieczeństwem lub samodzielny produkt – ocenie zgodności przeprowadzanej przez osobę trzecią w celu wprowadzenia tego produktu do obrotu lub oddania go do użytku na podstawie ustawodawstwa harmonizacyjnego.

Unijne prawodawstwo harmonizacyjne to kilkanaście aktów prawnych, które dotyczą takich wyrobów jak maszyny przemysłowe, zabawki, koleje linowe czy systemy i urządzenia do wykorzystania w strefie potencjalnie wybuchowej.

Niezależnie od grupy systemów, które muszą spełnić powyższe warunki, za AI wysokiego ryzyka uważa się też wszystkie systemy sztucznej inteligencji wymienione w załączniku nr III do rozporządzenia, czyli takie, które służą m.in. do:

• identyfikacji i kategoryzacji biometrycznej osób fizycznych;
• zarządzania infrastrukturą krytyczną i jej eksploatacją (np. ciepło, energia elektryczna);
• kształcenia i szkolenia zawodowego (np. ocena uczniów w instytucjach edukacyjnych);
• zatrudniania, zarządzania pracownikami i dostępu do samozatrudnienia (np. filtrowanie podań o pracę, ocena kandydata podczas rozmowy kwalifikacyjnej);
• dostępu do podstawowych ulg prywatnych oraz usług i świadczeń publicznych oraz korzystanie z nich (np. ocena zdolności kredytowej osób fizycznych);
• ścigania przestępstw (np. systemy używane jako poligrafy lub do wykrywania treści stworzonych jako deepfake);
• zarządzania migracją, azylem lub kontrolą graniczną (np. wykrywanie sfałszowanych paszportów).

We wszystkich tych przypadkach można mówić o AI wysokiego ryzyka niezależnie od pozostałych kryteriów. W praktyce oznacza to, że z barierami postawionymi przez AI Act spotkają się zarówno te software house’y, które projektują narzędzia na potrzeby firm prywatnych, jak i podmioty startujące w przetargach publicznych w relacji B2A (ang. Business to Administration).

Aby stwierdzić, że dany system AI spełnia wymagania określone w rozporządzeniu, niezbędne jest przeprowadzenie procedury tzw. oceny zgodności. Przedsiębiorca może ją zrealizować w jednym z dwóch modeli:

• oceny zgodności opierającej się na kontroli wewnętrznej – jeżeli przedsiębiorca stosuje normy zharmonizowane lub też systemy obejmują zagadnienia wymienione w załączniku nr III pkt od 2 do 8 (np. zarządzanie infrastrukturą krytyczną);
• oceny zgodności przeprowadzonej przez jednostkę notyfikowaną – jeżeli:
• przedsiębiorca nie stosuje norm zharmonizowanych (czyli AI dotyczy aspektów nieuregulowanych wspólnotowo) albo też stosuje te normy jedynie częściowo;
• normy zharmonizowane nie istnieją, a nie opracowano w danym zakresie tzw. wspólnych specyfikacji.

Kontrola wewnętrzna dostawcy została opisana w załączniku nr VI do rozporządzenia AI Act i obejmuje weryfikację, czy:

• ustanowiony system zarządzania jakością spełnia wymagania określone w art. 17 rozporządzenia. Są to polityki i procedury, które określają m.in. zarządzanie zmianami w AI, kontrolę i weryfikację projektu czy zasady badania, testowania i walidacji algorytmów;
• dokumentacja techniczna określa wszystkie niezbędne elementy określone przez wymagania zasadnicze rozporządzenia, w tym m.in. system zarządzania ryzykiem i danymi, rejestrowanie zdarzeń czy zachowanie transparentności przed użytkownikiem;
• proces projektowania i opracowywania systemu oraz jego monitorowanie po wprowadzeniu na rynek są zgodne z dokumentacją techniczną.

W przypadku konieczności walidacji systemu przez podmiot zewnętrzny, dostawca samodzielnie wybiera jednostkę notyfikowaną, która przeprowadzi ocenę zgodności, stosując się do wytycznych zamieszczonych w załączniku nr VII do rozporządzenia. Taka kontrola obejmuje:

• ocenę systemu zarządzania jakością;
• ocenę dokumentacji technicznej;
• nadzór nad systemem zarządzania jakością.

Certyfikaty wydawane przez jednostki notyfikowane zachowują ważność przez wskazany w nich okres, który nie może być dłuższy niż 5 lat. Po tym czasie dostawca może ponownie wystąpić o przedłużenie obowiązywania certyfikatu na kolejny okres, ale niezbędne będzie dokonanie ponownej oceny zgodności systemu z przepisami. Wprowadzenie ograniczenia czasowego powoduje, że podmioty zajmujące się produkcją i utrzymaniem systemów AI powinny nieustannie dążyć do ich aktualizacji tak, aby odpowiadały one rynkowym standardom.

Po zakończeniu fazy kontrolnej, a przed wprowadzeniem produktu na rynek system powinien zostać zgłoszony przez dostawcę do właściwej bazy danych działającej na poziomie wspólnotowym. Unijna baza danych dla samodzielnych systemów sztucznej inteligencji wysokiego ryzyka ma być publicznie dostępnym zbiorem informacji.

Osiami, wokół których obraca się formalnoprawny aspekt systemów sztucznej inteligencji wysokiego ryzyka, są wymagania zasadnicze scharakteryzowane w tytule III rozdziale II rozporządzenia oraz dokumentacja techniczna, której elementy zostały wymienione w załączniku nr IV. Planując wprowadzenie na rynek produktu, który z założenia ma podlegać pod AI Act, należy już na samym początku skupić się na tych aspektach technicznych, od których zależy czy dany produkt w ogóle będzie mógł zostać wprowadzony na rynek. Wśród nich można wymienić przede wszystkim:

• opracowanie systemu zarządzania ryzykiem, który będzie mógł być utrzymywany i doskonalony przez cały cykl życia produktu;
• stworzenie procedury zbierania i oceny wiarygodności danych będących materiałem źródłowym dla output data generowanego przez maszynę;
• zaprojektowanie systemu rejestrowania zdarzeń, który pozwala na chronologiczne odtworzenie wyników pracy algorytmu;
• stworzenie rozwiązań technicznych zapewniających sprawne funkcjonowanie tzw. explainable AI, czyli udostępnienie danych w sposób umożlwiających ich zrozumienie i weryfikację;
• zaimplementowanie mechanizmów zapewniających możliwość nadzoru nad algorytmem, a także dokładność, solidność i odpowiedni poziom cyberbezpieczeństwa.

Wprowadzenie do obrotu systemu sztucznej inteligencji wysokiego ryzyka, który nie spełnia wymagań określonych przepisami, jest zagrożone surowymi karami pieniężnymi w wysokości nawet kilkudziesięciu milionów euro. Dlatego prace wdrożeniowe nad AI warto konsultować nie tylko z osobami o wykształceniu technicznym, ale również prawnikami doświadczonymi w obsłudze podmiotów z sektora nowych technologii, którzy zadbają o aspekt formalnoprawny inwestycji.

Kancelaria Prawna RPMS świadczy pomoc prawną na rzecz firm działających w branży IT, w tym także specjalizującym się w tworzeniu algorytmów sztucznej inteligencji. Nasi specjaliści pomogą przygotować dokumentację techniczną systemu, ocenią jego zgodność z wymaganiami zasadniczymi, oraz zajmą się koordynowaniem procesu certyfikacji. Z naszą pomocą dostawca AI zyskuje pewność, że opracowany przez niego system spełnia wszystkie wymagania określone przepisami i może być bezpiecznie udostępniony do użytku odbiorcom.