Akt o Sztucznej Inteligencji (AI Act)

W odpowiedzi na dynamiczny rozwój technologii sztucznej inteligencji (AI), Unia Europejska wprowadza nowe regulacje prawne, które mają na celu zapewnienie odpowiedzialnego, bezpiecznego i etycznego wykorzystania AI. Akt o Sztucznej Inteligencji (AI Act), zaprezentowany przez Komisję Europejską w kwietniu 2021 roku, to pierwszy tak kompleksowy projekt prawny, który ma na celu stworzenie jednolitych zasad dla państw członkowskich w zakresie wykorzystywania AI. Jego celem jest nie tylko promocja innowacji, ale także ochrona obywateli przed potencjalnymi zagrożeniami związanymi z tą technologią.

Cele i założenia AI Act

Akt o Sztucznej Inteligencji (AI Act) ma na celu wprowadzenie ram prawnych dla rozwoju i zastosowań sztucznej inteligencji w Unii Europejskiej, jednocześnie zapewniając:

• Bezpieczeństwo i ochronę praw podstawowych – w obliczu szybkiego rozwoju technologii AI, szczególnie w kontekście decyzji, które mogą wpływać na życie obywateli, takich jak decyzje sądowe, kredytowe czy medyczne, konieczne jest wprowadzenie przepisów chroniących obywateli przed potencjalnymi zagrożeniami.
• Zrównoważony rozwój i innowacyjność – AI Act ma także na celu wspieranie innowacji w dziedzinie sztucznej inteligencji, ułatwiając rozwój nowych rozwiązań, które mogą przynieść korzyści gospodarcze i społeczne, jednocześnie minimalizując ryzyko związane z ich wykorzystaniem.
• Zwiększenie zaufania do AI – aby AI mogła być szeroko wdrażana w różnych sektorach, obywatele muszą ufać, że ta technologia jest bezpieczna i zgodna z wartościami UE. AI Act ma na celu zwiększenie transparentności algorytmów i decyzji podejmowanych przez systemy AI.

Podział AI według poziomu ryzyka

Kluczową cechą Aktu o Sztucznej Inteligencji jest jego podejście oparte na ocenie ryzyka, jakie wiąże się z różnymi zastosowaniami AI. Systemy sztucznej inteligencji zostały podzielone na cztery kategorie w zależności od ryzyka, jakie niosą dla obywateli i społeczeństwa:

• AI o minimalnym ryzyku – są to systemy AI, które nie niosą poważnego ryzyka dla bezpieczeństwa, praw i wolności obywateli, jak np. systemy rekomendacyjne w serwisach streamingowych. Te technologie nie będą podlegały szczególnym regulacjom, poza ogólnymi zasadami ochrony danych i prywatności.
• AI o ograniczonym ryzyku – to systemy, które mogą wiązać się z pewnymi zagrożeniami, ale nie są one krytyczne. Przykładem mogą być chatboty stosowane w obsłudze klienta, które muszą spełniać wymagania dotyczące przejrzystości i zapewnienia informacji, że są to systemy oparte na AI.
• AI o wysokim ryzyku – to technologie, które mają istotny wpływ na życie ludzi, takie jak systemy AI wykorzystywane w medycynie, transporcie, zatrudnieniu, czy w sądownictwie. Takie systemy będą podlegały szczególnym regulacjom, w tym obowiązkowi przeprowadzania ocen zgodności, audytów i zapewnienia odpowiednich mechanizmów nadzoru.
• AI o ryzyku niewspółmiernym – jest to kategoria technologii AI, które są uznawane za nieakceptowalne, takie jak systemy wykorzystujące AI do manipulacji emocjami użytkowników w sposób wprowadzający w błąd, czy wykorzystywanie AI do monitoringu masowego obywateli. Te technologie będą zakazane na terytorium UE.

Obowiązki twórców i użytkowników AI

AI Act nakłada szereg obowiązków na twórców, dostawców i użytkowników systemów AI, szczególnie tych, które należą do kategorii „wysokiego ryzyka”. Do najważniejszych obowiązków należą:

• Ocena zgodności – przed wprowadzeniem systemu AI na rynek, jego twórcy muszą przeprowadzić szczegółową ocenę ryzyka, aby upewnić się, że technologia jest bezpieczna i zgodna z przepisami prawa. Dotyczy to m.in. algorytmów wykorzystywanych w medycynie, transporcie czy finansach.
• Zgłaszanie i monitorowanie systemów AI – twórcy systemów AI muszą zgłaszać swoje technologie odpowiednim organom nadzorczym oraz monitorować ich działanie po wdrożeniu, aby zminimalizować ryzyko wystąpienia problemów.
• Dokumentacja i przejrzystość – przepisy przewidują obowiązek tworzenia szczegółowej dokumentacji dotyczącej działania algorytmów AI, która powinna być dostępna dla odpowiednich organów nadzoru, a także dla użytkowników w celu zapewnienia transparentności. Użytkownicy AI muszą być świadomi tego, że mają do czynienia z systemem sztucznej inteligencji, a decyzje podejmowane przez AI muszą być możliwe do zrozumienia i weryfikacji przez człowieka.

Nadzór i egzekwowanie przepisów

Zgodnie z AI Act, każde państwo członkowskie Unii Europejskiej będzie zobowiązane do powołania krajowego organu nadzoru, który będzie odpowiedzialny za monitorowanie przestrzegania przepisów dotyczących AI. Ponadto, Komisja Europejska stworzy również Europejską Radę ds. Sztucznej Inteligencji, która będzie pełnić rolę doradczą oraz koordynacyjną w zakresie stosowania regulacji.

Organy nadzoru będą miały możliwość nakładania kar finansowych na podmioty, które nie będą przestrzegały przepisów AI Act. Kara może wynosić do 6% rocznego obrotu firmy lub 30 milionów euro, w zależności od tego, która kwota będzie wyższa. Celem tych kar jest zapewnienie, że przepisy będą przestrzegane, a ryzyko związane z AI będzie minimalizowane.

Wyzwania i przyszłość AI Act

Choć AI Act jest krokiem w stronę odpowiedzialnego rozwoju technologii, przed jego wdrożeniem i stosowaniem pojawiają się pewne wyzwania. Należy do nich m.in. określenie dokładnych kryteriów dla kategorii „wysokiego ryzyka”, jak również monitorowanie ciągłego rozwoju technologii, które mogą wprowadzać nowe ryzyka i wyzwania w zakresie etyki i bezpieczeństwa.

Wielką niewiadomą pozostaje także to, jak AI Act będzie implementowany w różnych krajach UE, a także jak będzie współpracował z innymi regulacjami dotyczącymi ochrony prywatności i danych osobowych (np. RODO). Istotne będzie także monitorowanie zmian w technologii, ponieważ AI rozwija się bardzo szybko, a nowe zastosowania mogą wymagać dalszych dostosowań prawnych.

Podsumowanie

Akt o Sztucznej Inteligencji (AI Act) jest pierwszym w historii kompleksowym aktem prawnym, który ma na celu uregulowanie wykorzystania sztucznej inteligencji w Unii Europejskiej. Przepisy te kładą nacisk na odpowiedzialność, przejrzystość i bezpieczeństwo, zapewniając odpowiednie ramy do rozwoju tej technologii, a jednocześnie minimalizując potencjalne zagrożenia. Choć AI Act stawia przed UE nowe wyzwania w zakresie wdrożenia regulacji, jego przyjęcie stanowi ważny krok ku bezpiecznemu i etycznemu wykorzystaniu AI.