Projekt ustawy o systemie sztucznej inteligencji – najważniejsze kwestie
W dniu 16 października 2024 r. na stronie Rządowego Centrum Legislacji opublikowano projekt ustawy o systemach sztucznej inteligencji[1]. Stanowi on uzupełnienie i realizację niektórych regulacji zawartych w AI Act (AIA), określając przede wszystkim:
- organizację i sposób sprawowania nadzoru nad rynkiem systemów AI oraz modelami AI ogólnego przeznaczenia w zakresie objętym AIA,
- postępowanie w sprawie naruszenia przepisów AIA,
- warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność,
- sposób zgłaszania poważnych incydentów związanych z wykorzystywaniem systemów AI,
- zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów AIA,
- rodzaje działań wspierających rozwój systemów AI.
Ustawa ma zastosowanie do wszystkich podmiotów określonych w AIA, a więc w szczególności dostawców i użytkowników systemów AI oraz modeli ogólnego przeznaczenia (art. 2 ust. 1 AIA). Postanowienia ustawy nie będą miały jednak zastosowania do spraw związanych z obronnością państwa, jego bezpieczeństwa wewnętrznego oraz porządku konstytucyjnego, a także do podstawowych badań naukowych.
Nadzór nad AI
Kluczowym obszarem uregulowanym przez ustawę, wynikającym z art. 70 ust. 1 AIA, jest powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (Komisja). Będzie to kolegialny organ odpowiedzialny za nadzór nad rynkiem systemów AI. Pracami Komisji będzie kierował jej Przewodniczący, który jednocześnie będzie odpowiedzialny za działalność Biura Komisji (państwowej osoby prawnej obsługującej Komisję) oraz reprezentowanie jej na zewnątrz. Przewodniczącego powoła Prezes Rady Ministrów na pięcioletnią kadencję spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru. W skład Komisji wejdzie natomiast dwunastu członków: Przewodniczący, dwóch Zastępców Przewodniczącego oraz dziewięciu przedstawicieli organów i instytucji państwowych, w tym:
- Minister Cyfryzacji,
- Minister ds. służb specjalnych,
- Prezes UODO,
- Prezes UOKiK,
- Przedstawiciel KNF,
- Rzecznik Praw Obywatelskich,
- Rzecznik Praw Dziecka,
- Przedstawiciel KRRiT,
- Prezes UKE.
W posiedzeniach Komisji udział będą brali także przedstawiciele:
- Kancelarii Prezydenta,
- Kancelarii Sejmu,
- Kancelarii Senatu,
- Ministerstwa Obrony Narodowej,
- Ministerstwa Kultury i Dziedzictwa Narodowego,
- Ministerstwa Rozwoju i Technologii,
- Polskiego Centrum Akredytacyjnego,
- Polskiego Komitetu Normalizacyjnego,
- Rady Dialogu Społecznego – zarówno ze strony pracowników, jak i pracodawców,
- Biura Rzecznika Małych i Średnich Przedsiębiorców,
- Państwowej Inspekcji Pracy,
- Urzędu Patentowego RP,
- Biura Komisji.
Ich rola została jednak ograniczona do funkcji doradczej, bez prawa głosu. Komisja będzie podejmować decyzje zwykłą większością głosów, przy obecności co najmniej sześciu członków, w tym Przewodniczącego lub jego Zastępcy. Do zadań Komisji będą należeć m.in.:
- sprawowanie kontroli nad przestrzeganiem przepisów AIA,
- wydawanie postanowień i decyzji w sprawach naruszeń przepisów AIA,
- działania wspierające funkcjonowanie rynku wewnętrznego,
- wspieranie innowacyjności i konkurencyjności w obszarze badań oraz stosowania systemów AI,
- przeciwdziałanie zagrożeniom dla bezpieczeństwa systemów AI,
- gromadzenie i upowszechnianie orzecznictwa dotyczącego nadzoru nad AI.
Przewodniczący Komisji będzie także uprawniony do wydawania, na wniosek zainteresowanego, indywidualnych interpretacji przepisów AIA oraz ustawy o systemach sztucznej inteligencji m.in. w zakresie:
- klasyfikacji systemu maszynowego jako systemu AI, oraz
- określenia ryzyka systemu AI.
Takie rozwiązanie nie jest nowatorskim podejściem ustawodawcy. Przykładem mogą być funkcjonujące od wielu lat indywidualne interpretacje podatkowe wydawane przez Dyrektora Krajowej Informacji Skarbowej, które mają istotny wpływ na praktykę stosowania prawa podatkowego (art. 14b Ordynacji podatkowej). Jednak w kontekście AIA takie rozwiązanie wydaje się szczególnie istotne, gdyż dynamiczny rozwój systemów AI może znacząco wpływać na wykładnię przepisów AIA oraz ustawy o systemach sztucznej inteligencji w trakcie ich obowiązywania. Dodatkowo Komisja będzie mogła wydawać interpretacje generalne dotyczące AIA i ustawy o systemach sztucznej inteligencji, które będą stanowić ogólną wykładnię tych przepisów. Warto podkreślić, że w projekcie ustawy nie rozstrzygnięto, czy wydawane interpretacje będą miały charakter wiążący dla przyszłych decyzji Komisji, co z pewnością powinno zostać doprecyzowane na dalszym etapie prac legislacyjnych. Oba rodzaje interpretacji będą w pełni dostępne publicznie – po odpowiednim usunięciu danych identyfikacyjnych zostaną opublikowane w Biuletynie Informacji Publicznej.
Kontrola przestrzegania przepisów, podstępowanie przed organemu nadzoru rynku i administracyjne kary pieniężne
Podstawowym zadaniem Komisji będzie przeprowadzanie kontroli w podmiotach zobowiązanych do przestrzegania przepisów AIA. Kontrola może odbywać się zdalnie, bez fizycznej obecności stron, przy użyciu środków komunikacji elektronicznej. Oprócz przeglądu dokumentacji, kontrola może obejmować także dostęp do systemów informatycznych, w tym należących do innych podmiotów, które przechowują dane kontrolowanego podmiotu. W jej ramach możliwe będzie zajęcie nośników danych lub urządzeń informatycznych na okres nie dłuższy niż 7 dni, na podstawie wydanego postanowienia. To rozwiązanie wzbudziło wiele wątpliwości, jednak na takie działania będzie można złożyć zażalenie. Nie będzie ono niemniej wstrzymywać samego zajęcia. Kontrole będą przeprowadzane przez pracowników Biura Komisji lub osoby posiadające specjalistyczną wiedzę, upoważnione do tego zadania. W szczególnych przypadkach, kontrola będzie mogła być przeprowadzona w asyście policji, organów ochrony prawa oraz jednostek podległych Ministrowi Cyfryzacji, zwłaszcza gdy będzie to niezbędne do zachowania porządku podczas jej trwania.
Na podstawie wyników kontroli, Komisja będzie wydawać zalecenia pokontrolne, które kontrolowany podmiot będzie zobowiązany wdrożyć. Co więcej będzie on musiał poinformować Komisję o ich realizacji. W przypadku wykrycia naruszeń przepisów AIA, Komisja będzie wszczynać postępowanie. W ustawie określono maksymalny okres trwania takiego postępowania – 12 miesięcy od dnia jego wszczęcia (termin instrukcyjny). Oprócz wszczęcia z urzędu, Komisja może również rozpocząć postępowanie na wniosek lub na podstawie wniesionej skargi. Skargę może złożyć każdy podmiot, który ma podstawy, by sądzić, że doszło do naruszenia przepisów (art. 85 AIA). Skargi będzie można wnosić przede wszystkim w formie elektronicznej.
W postępowaniu Komisja, oprócz nakładania administracyjnych kar pieniężnych (art. 99 AIA) będzie mogła nakazać zaprzestanie naruszeń oraz wskazać środki zaradcze w celu usunięcia ich skutków. Ponadto, w przypadku gdy system AI stwarza ryzyko dla zdrowia, bezpieczeństwa lub ochrony praw podstawowych, Komisja może zobowiązać dany podmiot do wycofania systemu z użytku. Postępowanie przed Komisją będzie jednoinstancyjne, a od jej decyzji będzie przysługiwać bezpośrednio skarga do Sądu Ochrony Konkurencji i Konsumentów. Wniesienie skargi nie wstrzyma jednak wykonania decyzji, z wyjątkiem obowiązku zapłaty administracyjnej kary pieniężnej.
Przepisy karne
W ustawie przewidziano również przepisy karne dotyczące trzech rodzajów wykroczeń. Pierwsze odnosi się do udaremniania lub utrudniania kontroli prowadzonej przez uprawnione osoby. Drugie dotyczy niewywiązania się z obowiązku dostarczenia danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej lub przekazania danych uniemożliwiających jej ustalenie. Trzeci występek polega na utrudnianiu lub udaremnianiu przeprowadzania czynności w toku postępowania. Wszystkie te działania lub zaniechania mogą być karane grzywną do 500 000 zł, a także karą pozbawienia wolności lub ograniczenia wolności do dwóch lat.
Podsumowanie
Projekt ustawy o systemach sztucznej inteligencji uzupełnia oraz urzeczywistnia niektóre regulacje AI Act-u, wskazując także kierunek, w którym polski ustawodawca chce regulować rynek AI. W tym celu określa kluczowe zasady nadzoru nad rynkiem AI, postępowania w sprawie naruszeń przepisów oraz sankcje za ich złamanie. Przedstawia także propozycję utworzenia, długo wyczekiwanego, organu odpowiedzialnego za nadzór nad rynkiem systemów AI – Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Niemniej zawiera także normy, które wciąż wymagają doprecyzowania lub dookreślenia, co z pewnością skutkować będzie zmianami w treści poszczególnych przepisów.