Kandydat odrzucony przez algorytm rekrutacyjny, klient, któremu system odmówił kredytu, pracownik oceniany przez narzędzie AI. Każda z tych osób może złożyć skargę do Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Taka skarga na naruszenie AI Act może jednak mieć dla firmy znacznie szersze skutki. Dr Mirosław Sanek, ekspert MKZPartnerzy, opisał je w cyklu na Legalis.pl.

Zgodnie z art. 85 AI Act każda osoba fizyczna lub prawna, która ma podstawy uważać, że doszło do naruszenia rozporządzenia, może wnieść skargę do właściwego organu nadzoru rynku. Polski ustawodawca oddzielił jednak etap rozpatrywania skargi od postępowania w sprawie naruszenia, które Komisja wszczyna z urzędu. Skarżący może więc doprowadzić do interwencji Komisji, a mimo to nie uzyskać statusu strony w postępowaniu prowadzonym wobec dostawcy lub podmiotu stosującego system AI.

Skąd się bierze skarga na naruszenie AI Act

Zgodnie z art. 85 AI Act skargę do organu nadzoru rynku może wnieść każda osoba fizyczna lub prawna. Wystarczy, że ma podstawy, by uważać, że doszło do naruszenia rozporządzenia. W Polsce tę rolę pełni Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Na podstawie art. 6 ustawy o systemach sztucznej inteligencji Komisja kontroluje przestrzeganie przepisów, wydaje decyzje w sprawach naruszeń i prowadzi rejestr skarg.

To samo zdarzenie może jednak zainteresować kilka organów jednocześnie. Dyskryminujące działanie systemu rekrutacyjnego może uruchomić kompetencje Komisji na podstawie AI Act oraz Prezesa UODO na podstawie RODO. Potencjalnie właściwe będą również inne organy chroniące prawa podstawowe.

Dlaczego skarga na naruszenie AI Act jest ważna dla firmy

Dr Sanek opisuje skargę jako swoisty sensor regulacyjny. Pozwala on Komisji wychwycić pojedyncze naruszenie, a także powtarzalne wzorce ryzyka w konkretnych systemach, sektorach lub sposobach wykorzystania AI.

Różnica względem RODO jest przy tym istotna. W AI Act punkt ciężkości przesuwa się z ochrony indywidualnego prawa skarżącego na ocenę zgodności technologii i sposobu jej stosowania. Dlatego skarga jednej osoby na naruszenie AI Act może stać się dla firmy początkiem szerszego zainteresowania organu. Komisja może bowiem przyjrzeć się całemu modelowi wykorzystania systemu AI.

Co zawiera cykl

Część I. Skarga na sztuczną inteligencję nie zawsze uruchomi postępowanie

Skarżący może zwrócić się do organu i zainteresować go sprawą. Nie oznacza to jednak, że wszczyna postępowanie administracyjne ani że staje się jego stroną. Pisaliśmy o tej części również w osobnym wpisie.

Czytaj na Legalis.pl → Kliknij https://legalis.pl/skarga-na-sztuczna-inteligencje-nie-zawsze-uruchomi-postepowanie-skarga-na-system-ai-cz-i/

Część II. Skarga na system AI bez statusu strony postępowania

Autor wyjaśnia także, jaką pozycję ma skarżący, skoro nie jest stroną postępowania przed Komisją.

Czytaj na Legalis.pl → https://legalis.pl/skarga-na-system-ai-bez-statusu-strony-postepowania-cz-ii/

Część III. Kiedy Komisja podejmie kontrolę lub interwencję?

Autor analizuje również, kiedy skarga przekłada się na realne działania organu wobec przedsiębiorcy.

Czytaj na Legalis.pl → https://legalis.pl/skarga-na-system-ai-kiedy-komisja-podejmie-kontrole-lub-interwencje-cz-iii/

Część IV. Skarga na system AI nie zastąpi odszkodowania ani ochrony z RODO

Skarga ma jednak inny cel niż roszczenie odszkodowawcze czy środki ochrony z RODO, dlatego nie może ich zastąpić.

Czytaj na Legalis.pl → https://legalis.pl/skarga-na-system-ai-nie-zastapi-odszkodowania-ani-ochrony-z-rodo-cz-iv/

Część V. Kontrola sądowa i prawa skarżącego

Ponadto autor omawia sądową kontrolę działań Komisji i uprawnienia osoby, która złożyła skargę.

Czytaj na Legalis.pl → https://legalis.pl/skarga-na-system-ai-a-kontrola-sadowa-i-prawa-skarzacego-cz-v/

Część VI. Co skarga oznacza dla skarżących i przedsiębiorców?

Na koniec autor podsumowuje cykl i formułuje wnioski praktyczne. Wskazuje także obszary pierwszych sporów interpretacyjnych: zakres badania skargi, poziom uprawdopodobnienia naruszenia oraz informacje dla skarżącego.

Czytaj na Legalis.pl → https://legalis.pl/skarga-na-system-ai-w-praktyce-co-oznacza-dla-skarzacych-i-przedsiebiorcow-cz-vi/

Obrona regulacyjna zaczyna się przed skargą

Najważniejszy wniosek z cyklu o skardze z art. 85 AI Act dotyczy compliance. Organizacja powinna zatem być przygotowana na kontrolę samego systemu, a także na obronę regulacyjną całego procesu jego wdrożenia i eksploatacji. Musi więc umieć wykazać przed Komisją, jak wdrożyła system AI, kto nadzoruje jego działanie i na jakich kryteriach opiera on decyzje.

Ponadto szczególną uwagę warto zwrócić na obszary, w których AI wpływa na prawa osób: rekrutację i zatrudnienie, kredytowanie, ubezpieczenia, edukację oraz opiekę zdrowotną.

Jak możemy pomóc

Zespół MKZPartnerzy przygotowuje przedsiębiorców do obrony regulacyjnej, zanim pierwsza skarga trafi do Komisji. Dlatego identyfikujemy systemy AI wykorzystywane w organizacji i oceniamy ich zgodność z AI Act oraz ustawą o systemach sztucznej inteligencji. Porządkujemy również dokumentację nadzoru człowieka nad procesem decyzyjnym.

Skontaktuj się z nami

O autorze

dr Mirosław Sanek jest liderem Działu RODO w MKZPartnerzy oraz ekspertem z zakresu ochrony danych osobowych, compliance i cyfrowej transformacji. Pełnił funkcję zastępcy Prezesa Urzędu Ochrony Danych Osobowych.