Kiedy w latach 50. XX w. brytyjski matematyk Alan Turing zaproponował tzw. Test Turinga, który miał za zadanie postawienie wyraźnej granicy dla maszyn wyróżniających się przejawami ludzkiej inteligencji, nikt nie spodziewał się, że AI stanie się codziennością. Dzisiaj ze sztucznej inteligencji korzystamy na co dzień i często robimy to nieświadomie. W celu uregulowania nawarstwiających się wątpliwości i problemów prawnych rodzących się w związku z rozwojem technologii, unijny ustawodawca przyjął AI ACT. Jest to rozporządzenie Parlamentu Europejskiego i Rady ustanawiające ujednolicone przepisy dotyczące sztucznej inteligencji, w tym wymagania, poziomy ryzyka i nadzór nad systemami AI wprowadzanymi na rynek UE. Regulacja jest istotna dla dostawców oprogramowania, firm projektujących i wdrażających systemy AI, ich użytkowników, a także prawników i osób śledzących prawo nowych technologii, bo od 2025 roku wyznacza zasady dopuszczalnego wykorzystania AI w Unii Europejskiej i wiąże się z realnymi obowiązkami oraz sankcjami.
W tym artykule przeczytasz o:
- najważniejszych założeniach AI Act, harmonogramie wejścia w życie przepisów oraz podmiotach objętych nowymi regulacjami,
- klasyfikacji systemów sztucznej inteligencji według poziomu ryzyka oraz obowiązkach dostawców i użytkowników AI,
- wymaganiach dotyczących zgodności z AI Act, sankcjach za naruszenie przepisów oraz wpływie nowych regulacji na przedsiębiorców.
Gdzie wykorzystywana jest sztuczna inteligencja?
Choć sztuczna inteligencja (ang. Artificial Intelligence, AI) może kojarzyć się użytkownikom wyłącznie z popularnym już dzisiaj Chatem GPT, w rzeczywistości korzysta z niej wiele branż:
- algorytmy uczenia maszynowego pomagają w analizie baz danych, wyszukiwaniu wzajemnych zależności między informacjami oraz rozwiązywaniu problemów fizycznych lub matematycznych;
- widzenie komputerowe to narzędzie stosowanie w oprogramowaniu typu OCR, ale także do wykrywania ruchu pojazdów czy rejestrowania szkód przez firmy ubezpieczeniowe;
- sieci neuronalne stanowią narzędzie wykorzystywane w badaniach medycznych, prognostyce sprzedażowej oraz optymalizacji procesów produkcyjnych lub sprzedażowych.
Oczywiście nie są to wszystkie możliwe sposoby wykorzystania AI, ale pozwalają uchwycić skalę, na jaką rozwinęło się zjawisko „myślących maszyn”. Generowanie treści przy użyciu Chata GPT stanowi tylko jedno – i najmniej istotne – ze wszystkich wyzwań przed jakimi stanął unijny ustawodawca, opracowując AI ACT, czyli rozporządzenie Parlamentu Europejskiego i Rady ustanawiające zharmonizowane przepisy dotyczące sztucznej inteligencji i zmieniające niektóre akty ustawodawcze Unii.
Czego dotyczy The EU AI Act?
Głównym celem AI ACT jest zharmonizowanie wymagań stawianych dla systemów sztucznej inteligencji wprowadzanych na rynek europejski. Przepisy mają pomóc wypracować zbiór dobrych praktyk przy korzystaniu ze sztucznej inteligencji i zaostrzyć wymagania dotyczące rozwiązań stosowanych w newralgicznych obszarach życia oraz wprowadzić system nadzoru nad systemami również po wprowadzeniu ich na rynek.
Odrębną część rozporządzenia poświęcono zagadnieniom związanym z manipulowaniem treściami zamieszczanymi w sieci (zwłaszcza graficznymi lub dźwiękowymi).
Na jakim obszarze obowiązuje AI ACT?
Zakres terytorialny rozporządzenia został określony bardzo szeroko, ponieważ AI Act jako unijna regulation tworzy jednolite ramy dla technologii AI i znajduje application do:
- dostawców wprowadzających do obrotu lub oddających do użytku sztuczną inteligencję w Unii, niezależnie od tego, czy dostawcy ci mają siedzibę w Unii czy w państwie trzecim;
- użytkowników systemów sztucznej inteligencji, którzy znajdują się w Unii;
- dostawców i użytkowników systemów sztucznej inteligencji, którzy znajdują się w państwie trzecim, jeżeli wyniki działania systemu są wykorzystywane w państwie trzecim.
W praktyce każdy system AI, który zostanie wprowadzony na terytorium Unii, niezależnie od tego, czy jego dostawca ma siedzibę w Unii czy też w państwie trzecim, ale skutki korzystania z oprogramowania są odczuwalne na terytorium Wspólnoty, musi być zgodny z przepisami rozporządzenia. Dla firm zajmujących się projektowaniem software’u wykorzystującego sztuczną inteligencję to zupełnie nowe wymagania i kolejne bariery, jakie trzeba pokonać przed wprowadzeniem produktu na rynek.
Czym w takim razie jest sztuczna inteligencja?
Rozporządzenie AI ACT definiuje system sztucznej inteligencji, jako oprogramowanie opracowane przy użyciu technik i podejść wymienionych w załączniku nr I, które może generować dla zadanego zestawu celów określonych przez człowieka:
- treści;
- przewidywania;
- zalecenia;
- decyzje
– pod warunkiem że wyniki udostępniane przez algorytm wpływają na środowisko, z którym wchodzi on w interakcję. O jakich technikach i podejściach mowa? Zaliczono do nich:
- mechanizmy uczenia maszynowego, w tym uczenie nadzorowane, uczenie się maszyn bez nadzoru i uczenie przez wzmacnianie, z wykorzystaniem szerokiej gamy metod, w tym uczenia głębokiego;
- metody oparte na logice i wiedzy, w tym reprezentacja wiedzy, indukcyjne programowanie (logiczne), bazy wiedzy, silniki inferencyjne i dedukcyjne, rozumowanie symboliczne i systemy ekspertowe;
- podejścia statystyczne, estymacja bayesowska (racjonalna ocena prawdopodobieństwa wystąpienia określonego wydarzenia), metody wyszukiwania i optymalizacji.
Metody tworzenia AI zostały określone na tyle szeroko, że można je powiązać z przeważającą większością zasad stosowanych przez software house’y przy tworzeniu oprogramowania implementującego algorytmy sztucznej inteligencji.
W jaki sposób AI ACT dzieli systemy sztucznej inteligencji?
Stworzenie jednolitych wymagań dla wszystkich systemów sztucznej inteligencji jest w zasadzie niemożliwe, ponieważ mogą one prezentować różne ryzyko dla potencjalnych odbiorców. Z tego względu rozporządzenie rozróżnia:
- systemy sztucznej inteligencji wysokiego ryzyka;
- systemy sztucznej inteligencji stwarzające niedozwolone ryzyko.
Warto zwrócić uwagę, że AI ACT jedynie w niewielkim stopniu odnosi się do systemów niskiego lub średniego ryzyka, a jedynie do tych algorytmów, które w realny sposób mogą stanowić niebezpieczeństwo dla użytkownika.
Każdy software AI, który nie mieści się w jednej z powyższych grup, został zaliczony do trzeciej, najmniej niebezpiecznej grupy (tzw. Litle to No-Risk AI), obejmującej rozwiązania o minimalnym ryzyku, np. gry wideo, w których sztuczna inteligencja kieruje zachowaniem przeciwników czy systemy rekomendacji na netflixie. W których miejscach należy postawić granicę między poszczególnymi systemami?
Systemy sztucznej inteligencji wysokiego ryzyka
Aby system mógł zostać uznany za stwarzający wysokie ryzyko, musi spełnić łącznie następujące warunki wymienione w art. 6 rozporządzenia:
- system sztucznej inteligencji jest przeznaczony do wykorzystywania jako związany z bezpieczeństwem element produktu objętego unijnym prawodawstwem harmonizacyjnym lub sam jest takim produktem. Do prawodawstwa harmonizacyjnego zalicza się aktualnie 19 aktów prawnych, w tym m.in dyrektywa w sprawie bezpieczeństwa zabawek, udostępniania na rynku urządzeń radiowych, ciśnieniowych, a także rozporządzenie w sprawie wyrobów medycznych do diagnostyki in vitro;
- produkt, którego związanym z bezpieczeństwem elementem jest system sztucznej inteligencji lub sam system jako produkt podlegają ocenie zgodności na podstawie ustawodawstwa harmonizacyjnego.
Za systemy sztucznej inteligencji wysokiego ryzyka uznaje się również wszystkie algorytmy, które dotyczą sfer wymienionych w załączniku III do rozporządzenia, w tym m.in. służące do identyfikacji i kategoryzacji biometrycznej osób fizycznych, zarządzania infrastrukturą krytyczną i jej eksploatacją, ścigania przestępstw czy migracją, kontrolą graniczną lub azylem. W ich przypadku wymogi dotyczą zarówno samej klasyfikacji, jak i oceny zgodności takich systemów.
Dodatkowo rozporządzenie zastrzega możliwość poszerzenia definicji systemów wysokiego ryzyka, co ma zapewnić aktualność rozporządzenia pomimo rozwoju technologicznego społeczeństwa.
Systemy sztucznej inteligencji stwarzające ryzyko niedopuszczalne
W tytule II rozporządzenia AI ACT wymieniono praktyki, które zostały uznane za zakazane w kontekście projektowania sztucznej inteligencji. Jak wskazano w art. 5 aktu prawnego, chodzi o takie działania, jak np.:
- wykorzystanie technik podprogowych będących poza świadomością danej osoby w celu zniekształcenia jej zachowania w sposób mogący wywołać szkodę;
- wprowadzanie do obrotu systemów sztucznej inteligencji wykorzystujących słabość określonej grupy osób, np. dzieci, osób w podeszłym wieku, osób z niepełnosprawnością ruchową w sposób zmieniający zachowanie odbiorców i mogący wywołać u nich szkodę;
- oddanie do użytku na potrzeby władzy publicznej systemów przeprowadzających tzw. scoring społeczny (na wzór funkcjonującego w Chinach Social Scoring System, który dzieli obywateli na cztery kategorie – A, B, C oraz D w zależności od podejmowanych przez nich działań);
- wykorzystywanie systemów monitoringu biometrycznego do egzekwowania prawa w czasie rzeczywistym, chyba że jest to niezbędne do zapobieżenia najcięższym przestępstwom (np. atakowi terrorystycznemu).
Jakie zasady muszą spełnić projektowane systemy AI wysokiego ryzyka
Prawodawstwo unijne stawia cały szereg dodatkowych wymagań, jakie muszą spełnić projektowane systemy sztucznej inteligencji. Podstawowe zasady można podzielić na trzy grupy
Wymagania dotyczące bezpieczeństwa i jakości systemów AI
Dostawcy oprogramowania mają obowiązek zaprojektować system zarządzania ryzykiem w odniesieniu do systemów wysokiego ryzyka. Ma on na celu umożliwić cykliczną aktualizację przez cały cykl życia produktu w celu wyeliminowania potencjalnego ryzyka, a tam, gdzie jest to niemożliwe, jego zmniejszenia i wprowadzenia mechanizmów kontrolnych. Wymaga to m.in. opracowania procedury testowej, która będzie w maksymalnym stopniu odzwierciedlała funkcjonowanie AI in vivo, ale także przygotowania reprezentatywnych zbiorów danych treningowych, walidacyjnych i testowych; organizacje powinny też train personel odpowiedzialny za rozwój i nadzór nad systemem.
Bezpieczeństwo systemów AI polega też na zaprogramowaniu funkcji rejestrowania zdarzeń w całym cyklu życia software’u, przy czym zakres rejestracji jest częściowo uzależniony od przeznaczenia oprogramowania i powinien wspierać quality procesu oraz bezpieczeństwa systemu.
Wymagania dotyczące transparentności i odpowiedzialności
AI ACT kładzie nacisk na transparentność, co oznacza, że systemu mają być projektowane „dla użytkownika”. Przekłada się to na taką wizualizację danych, których interpretacja będzie możliwa przez odbiorcę oprogramowania. Co to oznacza w praktyce? Przede wszystkim konieczność wielokrotnego testowania oprogramowania, a także bardzo staranne zaprojektowanie UX aplikacji. Można też zastanawiać się, czy w świetle nowych regulacji dalej będzie sprawdzała się popularna metoda projektowania MVP (ang. Minimum Viable Product), która polega na udostępnieniu produktu spełniającego wyłącznie minimalne wymagania brzegowe.
Rozporządzenie wymaga, aby za wprowadzenie produktu do obrotu odpowiadała konkretna osoba fizyczna, prawna lub jednostka organizacyjna. Dzięki temu można uniknąć wątpliwości, do kogo użytkownik może kierować ewentualne roszczenia. Jednocześnie AI ACT nakłada na dostawcę obowiązek podjęcia niezwłocznych działań naprawczych, a niekiedy nawet wycofania oprogramowania z rynku, jeżeli okaże się, że nie spełnia ono wymagań minimalnych.
Wymagania dotyczące nadzoru i kontroli
Należy zwrócić uwagę, że systemy AI powinny być projektowane tak, aby umożliwić kontrolę przez człowieka, aby oprogramowanie nie mogło działać w sposób w pełni swobodny. Taki nadzór powinien pozwolić na zapobieganie lub minimalizowanie niebezpieczeństwa dla:
- zdrowia;
- bezpieczeństwa;
- praw podstawowych.
Rozporządzenie nakłada obowiązek projektowania aplikacji AI w sposób zapewniający odpowiedni poziom dokładności, solidności i cyberbezpieczeństwa przez cały cykl życia produktu. Obejmuje to również raportowanie serious incydentów oraz stosowanie odpowiednich środków dla safety i health. W jaki sposób rozumieć takie postulaty? Przede wszystkim chodzi o:
- określenie poziomu dokładności i dopuszczalnego progu błędu;
- zapewnienie odporności na błędy, usterki i niespójności podczas interakcji z innymi systemami oraz osobami fizycznymi;
- wprowadzenie rozwiązań zapewniających przejście oprogramowania w tryb bezpieczny, niezależnie od okoliczności (ang. failsafe);
- przewidzenie mechanizmów zapobiegających manipulacji przez osoby nieuprawnione;
- opracowanie rozwiązań zapobiegających manipulowaniu danymi (ang. data poisoning);
- zaimplementowaniu metod zapobiegającym sprzężeniu zwrotnemu, rozumianemu jako przeprowadzenie procesu przez uczący się algorytm w oparciu o wadliwie zebrane dane, w efekcie czego dochodzi do wykreowania wyników coraz bardziej tendencyjnych.
W przypadku systemów wysokiego ryzyka niektóre additional mechanizmy kontroli są przy tym wymagane wprost przez przepisy.
Korzystanie z systemów sztucznej inteligencji a ochrona danych osobowych
Dane gromadzone podczas korzystania z systemów sztucznej inteligencji powinny być zarządzane zgodnie z odpowiednimi praktykami (bez wskazania, jakie mają być to praktyki). Jeśli informacje obejmują dane osobowe na potrzeby piaskownicy regulacyjnej (tzw. sandbox), ich przetwarzanie musi być realizowane z zachowaniem określonych zasad dotyczących, m.in. celu przetwarzania, monitorowania zagrożeń dla praw podstawowych, umieszczenia informacji w odizolowanym środowisku czy zakazu udostępniania tych danych innym osobom.
Warto zdawać sobie sprawę, że – przynajmniej na razie – narzędzia AI, które są powszechnie dostępne, nie zawsze gwarantują wystarczającego poziomu zabezpieczenia danych osobowych wprowadzanych jako dane wejściowe.
Harmonogram wejścia w życie AI Act
Ze względu na dużą skalę oraz znaczenie dla rynku, przepisy rozporządzenia UE w sprawie sztucznej inteligencji zostały opublikowane w Dzienniku Urzędowym UE 12 lipca 2024 r., a AI Act wchodzi w życie 1 sierpnia 2024 roku, od kiedy organizacje powinny rozpocząć działania zapewniające zgodność z tymi wymogami i ich egzekwowanie nabiera realnej force pod nadzorem European Commission. Przyjrzyjmy się harmonogramowi zmian przepisów.
Zakres obowiązywania AI Act od 2 lutego 2025 roku
Od 2 lutego 2025 roku obowiązują rozdziały I (definicje, zakres stosowania i tzw. AI literacy, czyli praktyczne obowiązki dotyczące stosowania sztucznej inteligencji AI w organizacji oraz dbania o wiedzę personelu i osób korzystających z systemów firmowych) oraz II, czyli zakazane praktyki; od lutego 2025 r. organizacje muszą też klasyfikować swoje systemy AI według poziomu ryzyka.
Zakres obowiązywania AI Act od 2 sierpnia 2025 roku
Od dnia 2 sierpnia 2025 roku obowiązują następujące sekcje AI Act:
- rozdział III sekcja 4 – organy notyfikujące i jednostki notyfikowane,
- Rozdział V – obowiązki dla dostawców General Purpose AI oraz modeli AI ogólnego przeznaczenia; providers of takich models mają dodatkowe obowiązki, w tym obowiązek powiadomienia Komisji o spełnieniu progu 10²⁵ FLOPs. Po przekroczeniu tego progu AI models mogą zostać uznane za modele z ryzykiem systemowym, czyli wiązać się z ryzykiem systemowym,
- Rozdział VII – governance, czyli ustanowienie Urzędu ds. AI (AI Office), Rady ds. AI, panelu naukowego i krajowych organów nadzoru rynku; european commission oraz the commission odpowiadają tu za koordynację wdrożenia i publikowanie wytycznych,
- Rozdział XII – kary, z wyjątkiem art. 101 dotyczącego sankcji wobec dostawców GPAI.
- Art. 78 – obowiązek zachowania poufności.
Zakres obowiązywania AI Act od 2 sierpnia 2026 roku
Od 2 sierpnia 2026 roku zaczyna obowiązywać pozostała część AI Act poza wyjątkami wskazanymi wprost w rozporządzeniu. W praktyce oznacza to wejście w życie:
- pełnej listy 8 obszarów high-risk (biometria, infrastruktura krytyczna, edukacja, zatrudnienie, dostęp do usług, ściganie, migracja, wymiar sprawiedliwości i procesy demokratyczne),
- wszystkich wymogów dla systemów wysokiego ryzyka, tj. zarządzanie ryzykiem (art. 9), data governance (art. 10), dokumentacja techniczna (art. 11), zapis zdarzeń (art. 12), transparentność (art. 13), nadzór człowieka (art. 14), dokładność i cyberbezpieczeństwo (art. 15), a także specific obowiązków określonych w rozumieniu AI Act,
- obowiązków operatorów: providers and deployers, a także dostawców, upoważnionych przedstawicieli, importerów, dystrybutorów i innych ról wskazanych w akcie,
- obowiązku transparentności wykorzystania AI (chatboty, deepfake, syntetyczne treści),
- utworzenia bazy danych UE dla systemów AI wysokiego ryzyka,
- obowiązku stworzenia kodeksu postępowania AI.
- sankcji wobec dostawców GPAI
Przykładowo: przepisy te obejmują obowiązek informowania użytkownika, że rozmawia z chatbotem, albo oznaczania deepfake.
Zakres obowiązywania AI Act od 2 sierpnia 2027 roku
Ostatnia porcja zmian dotyczy systemów AI wysokiego ryzyka będących elementem produktów z załącznika I (prawodawstwo harmonizacyjne) oraz GPAI already placed on the market przed 2 sierpnia 2025 r., czyli zastosowania tych przepisów także do modeli już obecnych na the market i obowiązków providers po tej dacie.
Kary i nadzór nad rynkiem AI
Po 12 miesiącach, czyli w sierpniu 2025 r, zaczną obowiązywać przepisy dotyczące nadzoru nad rynkiem AI, tj. normy wyznaczające organ nadzoru i organ notyfikujący. W tym samym terminie zaczną obowiązywać przepisy dotyczące kar za naruszenie AI Act. Warto zwrócić uwagę, że wysokość sankcji jest bezprecedensowa, nawet uwzględniając przepisy rozporządzenia RODO. Za najpoważniejsze naruszenia, czyli stosowanie praktyk niedozwolonych, grozi nawet 35 milionów euro kary. W przypadku pozostałych naruszeń maksymalna wysokość sankcji to 15 milionów euro (lub odpowiednio 7% albo 3% światowego obrotu w przypadku przedsiębiorstw). Dodatkowe sankcje mogą być wprowadzone przez państwa członkowskie.
Wypada wskazać, że kary nakładane na dostawców AI ogólnego przeznaczenia będzie nakładała Komisja Europejska na podstawie art. 101 AI Act – ich wysokości to maksymalnie 15 milionów euro lub do 3% światowego obrotu. Nowe modele sztucznej inteligencji ogólnego przeznaczenia muszą spełniać wymagania dotyczące dokumentacji projektowej od 2 sierpnia 2025 r. Te już istniejące na rynku muszą zaś być dostosowane do nowych standardów, ale w ich przypadku termin został wydłużony do sierpnia 2026 r.
W sierpniu 2025 r. zaczną też obowiązywać przepisy dotyczące poufności względem osób zaangażowanych w stosowanie nowych przepisów.
Kary i nadzór nad rynkiem AI
Po 12 miesiącach, czyli w sierpniu 2025 r, zaczęły obowiązywać przepisy dotyczące nadzoru nad rynkiem AI, tj. normy wyznaczające organ nadzoru i organ notyfikujący. W tym samym terminie zaczną obowiązywać przepisy dotyczące kar za naruszenie AI Act. Warto zwrócić uwagę, że wysokość sankcji jest bezprecedensowa, nawet uwzględniając przepisy rozporządzenia RODO.
Ważne!
Za najpoważniejsze naruszenia, czyli stosowanie praktyk niedozwolonych, grozi nawet 35 milionów euro kary lub 7% światowego obrotu w przypadku przedsiębiorstw. W przypadku pozostałych naruszeń maksymalna wysokość sankcji to 15 milionów euro lub odpowiednio 3% światowego obrotu w przypadku przedsiębiorstw.
Dodatkowe sankcje mogą być wprowadzone przez państwa członkowskie, a właściwe instytucje mogą też z mocy tych przepisów wymusić wykonanie obowiązków wobec podmiotów działających na terenie UE.
Warto wskazać, że kary na dostawców AI ogólnego przeznaczenia będzie nakładać Komisja Europejska na podstawie art. 101 AI Act – ich wysokość maksymalna została określona na 15 milionów euro lub do 3% światowego obrotu. W tym zakresie komisja działa również jako organ egzekwujący te przepisy wobec dostawców GPAI. Nowe modele sztucznej inteligencji ogólnego przeznaczenia muszą spełniać wymagania dotyczące dokumentacji projektowej od 2 sierpnia 2025 r. Te, już istniejące na rynku, muszą zaś być dostosowane do nowych standardów, ale w ich przypadku termin został wydłużony do sierpnia 2026 r.
Systemy AI wysokiego ryzyka
To właśnie systemom AI wysokiego ryzyka unijny ustawodawca poświęcił najwięcej miejsca w rozporządzeniu. Ich stosowanie jest zgodne z prawem pod warunkiem, że zostaną spełnione liczne wymagania dotyczące transparentności i bezpieczeństwa oprogramowania oraz nadzoru człowieka nad maszyną.
W odniesieniu do AI wysokiego ryzyka przepisy zaczną obowiązywać dopiero w 2027 roku, czyli po trzech latach od wejścia w rozporządzenia w życie. Za systemy wysokiego ryzyka uznaje się te, które spełniają przesłanki wymienione w art. 6 ust. 1 AI Act, tj.:
- system AI jest przeznaczony do wykorzystania jako związany z bezpieczeństwem element produktu objętego unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I lub sam system AI jest takim produktem,
- produkty, których AI jest częścią zabezpieczeń, podlega ocenie zgodności albo sam system AI podlega takiej ocenie.
Za systemy AI wysokiego ryzyka uważa się też te, które zostały wymienione w załączniku nr III do rozporządzenia lub też zostaną dodane do tej listy na mocy aktów delegowanych Komisji Europejskiej. Jednakowoż – nie każdy system podany w treści załącznika automatycznie otrzyma taki status, jeśli zachodzi ustawowy wyjątek od kwalifikacji systemu AI.
Na chwilę obecną z całego rozporządzenia obowiązują więc wyłącznie przepisy o znaczeniu ogólnym (np. definicje) oraz regulacje o praktykach niedozwolonych. Na przestrzeni nadchodzących trzech lat czekają nas jednak istotne zmiany, które warto śledzić, aby działać zgodnie z prawem i nie narazić się na surowe kary.
Większość przepisów AI jest adresowana nie tylko do software house’ów, które projektują modele sztucznej inteligencji, ale także rynkowych dostawców, czyli firm, które zamawiają zaprojektowanie modelu, aby następnie oferować go pod własnym brandem.
W jaki sposób AI ACT wpłynie na rynek?
Choć jest jeszcze zbyt wcześnie na wyciąganie wniosków z unijnej regulacji, już teraz można powiedzieć, że stawia ona przed uczestnikami rynku usług IT zupełnie nowe – i trudne do spełnienia – wymagania. Jako rozporządzenie AI Act wpływa też bezpośrednio na praktyczne compliance efforts firm przy wdrażaniu i utrzymaniu systemów AI. Przy opracowywaniu oprogramowania wykorzystującego sztuczną inteligencję należy zachować szczególną ostrożność, co oznacza spowolnienie procesu tworzenia aplikacji, wydłużenie etapów testowych, a także znaczący wzrost kosztów całego procesu projektowania produktu cyfrowego.
Software house, który rozważa uzupełnienie zakresu usług o tworzenie systemów sztucznej inteligencji, powinien rozważyć skorzystanie z kompleksowej pomocy prawnej na etapie sporządzania umowy, projektowania założeń oprogramowania, a także nadzoru postprodukcyjnego. Takie wsparcie pomaga dostosować procesy do wymogami AI Act oraz wdrożyć odpowiednie środki organizacyjne. Kary wprowadzone rozporządzeniem są na tyle dotkliwe, że działanie na własną rękę w celu zyskania przewagi technologicznej to duże ryzyko.
Pytania i odpowiedzi
W jaki sposób należy przygotować dokumentację techniczną systemu sztucznej inteligencji dla systemów wysokiego ryzyka?
Czy wprowadzenie na rynek systemu AI wysokiego ryzyka wymaga poddania produktu procedurze oceny zgodności?




