Amendments to the EU AI legislation

Zaproponowane przez Komisję Europejską 21 kwietnia 2021 r. zharmonizowane zasady dotyczące sztucznej inteligencji, potocznie zwane unijnym aktem prawnym dotyczącym AI, mają na celu stworzenie ekosystemu, który priorytetowo traktuje prawa człowieka w tej dziedzinie. Jest to ważny temat nie tylko dla twórców i użytkowników sztucznej inteligencji, ale również dla prawników świadczących usługi w branżach nowych technologii.

Od momentu zaprezentowania pierwszej wersji ustawy, proces konsultacji doprowadził do zaproponowania szeregu zmian w przepisach. Zmiany te zostały upublicznione w formie tekstów kompromisowych. W dniu 9 stycznia nowe poprawki koncentrujące się na ocenie wpływu na prawa podstawowe i obowiązkach użytkowników systemów wysokiego ryzyka przedstawili współsprawozdawcy Parlamentu Europejskiego. Poprzednio tekst kompromisowy zaprezentowali Czesi. Ich wersja została przyjęta w dniu 6 grudnia 2022 r. Powyższe zmiany oznaczają zakończenie wewnętrznych negocjacji i oferują bardziej przyjazne dla biznesu podejście do regulacji sztucznej inteligencji, niż pierwotna propozycja Komisji Europejskiej.

Definicja systemu AI i zakres ustawy o AI zostały nieznacznie zawężone, a z klasyfikacji AI wysokiego ryzyka wyłączono systemy, które są wykorzystywane jedynie jako akcesoria do podejmowania odpowiednich decyzji. Obowiązki dostawców systemów AI wysokiego ryzyka pozostają podobne, ale dostosowano je w taki sposób aby były bardziej wykonalne pod względem technicznym i mniej uciążliwe.

Co konkretnie zawierają ostatnie poprawki?

• Przede wszystkim zawężono definicję samego AI. Rada proponuje, aby system AI działał z „elementami autonomii”, który wnioskuje, jak osiągnąć dany zestaw celów, wykorzystując „uczenie maszynowe i/lub podejścia oparte na logice i wiedzy”. Zgodnie z zapowiedziami, KE przyjmie dalsze regulacje w celu określenia jak rozumieć „podejście oparte na logice i wiedzy”;

• wprowadzenie wymogu, aby wszyscy twórcy systemów AI wysokiego ryzyka przeprowadzali ocenę wpływu na prawa podstawowe. Obejmowałaby ona takie elementy jak: zamierzony cel i geograficzny zakres stosowania; szczególne zagrożenia dla poszczególnych grup społecznych; oraz przewidywalny wpływ na środowisko. Ponadto twórcy byliby zobowiązani do posiadania infrastruktury zapewnianiającej bezpieczeństwo cybernetyczne, która zgodnie z wymogami będzie musiała być stale aktualizowana;

• podkreślono rolę ludzkiego nadzoru – zmodyfikowano przepisy dotyczące Rady ds. Sztucznej Inteligencji. Ma to zapewnić jej większą autonomię. Ponadto, komisja została upoważniona do delegowania co najmniej jednej placówki badawczej w celu zapewnienia wsparcia technicznego dla egzekwowania przepisów;

• wyszczególnione w akcie kary pieniężne uzyskały odpowiednie, proporcjonalne pułapy, w szczególności w przypadku małych i średnich przedsiębiorstw oraz przedsiębiorstw rozpoczynających swoją działalność. Zgodnie z art. 71 ust. 6 kary są znacznie obniżone do 3%, 2% lub 1%, w zależności od rodzaju i zakresu działalności przedsiębiorstwa;

• w celu stworzenia ram prawnych bardziej sprzyjających innowacjom oraz w celu promowania opartego na dowodach uczenia się działań regulacyjnych, w tekście zmieniono istotnie przepisy dotyczące środków wspierających innowacyjność. Mowa tutaj konkretnie o piaskownicach regulacyjnych w zakresie sztucznej inteligencji które mają stworzyć kontrolowane środowisko na potrzeby opracowywania, testowania i walidacji innowacyjnych systemów sztucznej inteligencji. Zgodnie z proponowanymi przepisami będą one występować w świecie rzeczywistym, a w niektórych przypadkach nawet bez nadzoru (art. 54a i 54b aktu). Oczywiście po spełnieniu określonych warunków oraz z zachowaniem odpowiednich zabezpieczeń;

• zakres ustawowego terminu „podatność na zagrożenia” został rozszerzony o podatność społeczno-ekonomiczną.
Jednak to co najbardziej istotne z perspektywy prawników zajmujących się nowymi technologiami – zgodnie z Załącznikiem III do ustawy, systemy wysokiego ryzyka mają podlegać bardziej rygorystycznym obowiązkom prawnym. Zaktualizowany tekst zawiera trzy istotne zmiany w zakresie oznaczania systemów wysokiego ryzyka:
◦ aby system został sklasyfikowany jako wysokie ryzyko, system powinien mieć istotne znaczenie w procesie decyzyjnym i nie być czysto pomocniczy. To co należy rozumieć przez „czysto pomocniczy”, zostanie przedstawione przez Komisję Europejską w drodze aktu wykonawczego

Z listy systemów wysokiego ryzyka usunięto m.in:
• wykrywanie deepfake’ów przez organy ścigania;
• analizę przestępczości;
• weryfikacje autentyczności dokumentów podróży.

Decyzja o usunięciu analizy przestępczości oraz wykrywania deepfake’ów przez organy ścigania, była uzasadniona chęcią zachowania niepewnej równowagi pomiędzy ochroną praw człowieka i bezpieczeństwem a innowacyjnością.

Do listy dodano natomiast:
• krytyczną infrastrukturę cyfrową;
• ubezpieczenia na życie;
• ubezpieczenia zdrowotne.
• po wdrożeniu aktu, komisja będzie uprawniona do umieszczania oraz usuwania z listy w Załączniku III, przypadków użycia systemów wysokiego ryzyka;
• zaktualizowano art. 51, tj. rozszerzono obowiązek rejestracji przez dostawców systemów wysokiego ryzyka w unijnej bazie danych systemów AI wysokiego ryzyka został rozszerzony na użytkowników będących organami publicznymi, z wyjątkiem organów ścigania;
• w nowo dodanym art. 52 ust. 2a, podkreślono obowiązek twórców systemów rozpoznających emocje, do informowania użytkowników o każdym przypadku kontaktu z takim systemem.
• Zgodnie z doniesieniami, ustawa o AI może zostać przegłosowana w Parlamencie Europejskim w marcu. Według Laury Caroli, asystentki parlamentarnej prowadzącej obecnie negocjacje nad ustawą na poziomie technicznym, rozporządzenie zostanie zatwierdzone do końca 2023 roku i wejdzie w życie dwa lata później.