Czym jest akt o sztucznej inteligencji i dlaczego jego przepisy są przełomowe?

AI Act, czyli akt o sztucznej inteligencji, to pierwsze w historii Unii Europejskiej kompleksowe rozporządzenie regulujące tworzenie i stosowanie systemów AI. Jego głównym celem jest pogodzenie dwóch priorytetów: zapewnienia bezpieczeństwa obywateli i swobody innowacji technologicznych. To przełomowy moment w prawodawstwie, ponieważ po raz pierwszy w tak szerokim zakresie regulacje obejmują technologię, która już dziś redefiniuje modele biznesowe, a w kolejnych latach będzie decydować o konkurencyjności całych sektorów gospodarki. Akt ten ma za zadanie wytyczyć ścieżkę dla odpowiedzialnego rozwoju AI, chroniąc jednocześnie prawa jednostek i wspierając europejską innowacyjność.

Skąd wziął się AI Act?

Prace nad tym ambitnym rozporządzeniem rozpoczęły się w 2021 roku. Unia Europejska, będąc świadomą dynamicznego postępu technologicznego, dostrzegła pilną potrzebę stworzenia jednolitego rynku cyfrowego, który byłby oparty na zaufaniu do technologii AI. Inspiracją do podjęcia działań legislacyjnych były zarówno pozytywne doświadczenia z rozwoju cyfrowych innowacji, jak i rosnące obawy dotyczące ich potencjalnych nadużyć.

Wśród zagrożeń, które skłoniły unijnych legislatorów do działania, znalazły się między innymi dyskryminacyjne algorytmy w procesach rekrutacji, które mogłyby utrwalać i pogłębiać nierówności społeczne, czy też niekontrolowane systemy rozpoznawania twarzy, stanowiące poważne wyzwanie dla prywatności i praw człowieka. Te i inne przykłady uświadomiły decydentom, że bez odpowiednich ram prawnych rozwój AI może prowadzić do niepożądanych konsekwencji, a nawet stwarzać zagrożenie dla fundamentalnych wartości demokratycznych.

Przyjęty w 2024 roku AI Act ma charakter rozporządzenia, co oznacza, że będzie obowiązywać bezpośrednio we wszystkich krajach członkowskich. To wyjątkowo ważne dla przedsiębiorstw, które działają na wielu rynkach, bo otrzymują jasne i spójne ramy prawne. Kancelaria JDP wspiera klientów biznesowych w przełożeniu tych nowych wymogów na konkretne procedury i praktyki compliance.

Podejście oparte na ryzyku – fundament aktu

Zamiast narzucać jednolite zasady dla każdego systemu, prawo rozróżnia cztery poziomy ryzyka:

1. Systemy niedopuszczalne – to najbardziej restrykcyjna kategoria, obejmująca systemy, które stwarzają oczywiste zagrożenie dla praw i wolności jednostek oraz zagrażają podstawowym wartościom demokratycznym. W tej grupie znajdują się między innymi manipulowanie zachowaniami ludzi, scoring obywateli na wzór chińskiego systemu oceny społecznej czy rozpoznawanie emocji w miejscu pracy. Wszystkie te rozwiązania są całkowicie zakazane i ich tworzenie, wprowadzanie na rynek czy stosowanie będzie skutkować surowymi karami.
2. Systemy wysokiego ryzyka – ta kategoria obejmuje technologie, które, choć nie są zakazane, wymagają ścisłej kontroli ze względu na potencjalne ryzyko dla zdrowia, bezpieczeństwa i praw podstawowych. Obejmują m.in. technologie stosowane w transporcie, ochronie zdrowia, zatrudnieniu, bankowości czy administracji publicznej. Tu wymogi są najbardziej restrykcyjne: konieczność audytów, jakości danych, nadzoru człowieka oraz szczegółowej dokumentacji.
3. Systemy ograniczonego ryzyka – w tej grupie znajdują się systemy, które nie stwarzają poważnego zagrożenia, ale wymagają pewnej transparentności. Do tej kategorii należą np. chatboty czy asystenci głosowi, które muszą informować użytkownika, że rozmawia z maszyną.
4. Systemy minimalnego ryzyka – jest to najszersza kategoria, obejmująca większość obecnie stosowanych systemów AI, takich jak AI w grach komputerowych czy filtrach zdjęć. W tym przypadku regulacje są symboliczne, a przepisy minimalne, co ma na celu niehamowanie innowacji w obszarach, które nie niosą ze sobą istotnego zagrożenia.

Dlaczego te przepisy są przełomowe?

To pierwsza taka regulacja na świecie. Unia Europejska wyznacza globalny standard, który prawdopodobnie wpłynie na prawo w USA czy Azji.

• Transparentność jako obowiązek – firmy muszą zapewnić, że ich systemy AI działają w sposób możliwy do wytłumaczenia i monitorowania.
• Silny nacisk na prawa człowieka – zapobieganie dyskryminacji, ochrona prywatności, równe traktowanie.
• Nowe ramy dla gospodarki cyfrowej – regulacja buduje zaufanie inwestorów i konsumentów, co może przyspieszyć adopcję AI.

Co oznacza AI Act dla przedsiębiorstw?

Dla biznesu to zarówno wyzwanie, jak i szansa.

Wyzwania:

• konieczność audytów i dokumentacji systemów;
• wyższe koszty wdrożeń AI, szczególnie w sektorach wysokiego ryzyka;
• ryzyko wysokich kar finansowych (do 35 mln euro lub 7% globalnego obrotu).

Szanse:

• wczesne dostosowanie się do regulacji może stać się przewagą konkurencyjną;
• rośnie zaufanie klientów i partnerów do firm, które stosują AI w sposób transparentny;
• regulacja daje firmom stabilne i przewidywalne ramy prawne, w których mogą rozwijać innowacje.

Akt o sztucznej inteligencji to kamień milowy w prawodawstwie europejskim. Jego przepisy są przełomowe, bo nie tylko regulują technologię, ale też kształtują sposób, w jaki będzie rozwijała się gospodarka cyfrowa. Firmy, które już teraz rozpoczną proces dostosowania, mogą nie tylko uniknąć ryzyk i kar, ale również zyskać przewagę na rynku.