Kontekst polityczny

Omnibus AI nie jest jedynie korektą Aktu o AI, lecz elementem szerszego zwrotu deregulacyjnego w polityce gospodarczej UE. Choć działania na rzecz ograniczania obciążeń regulacyjnych są obecne w UE od początku XXI w., to raporty zlecone przez KE Mario Draghiemu oraz Enricowi Letcie zapoczątkowały nowy etap tych działań i stały się punktem wyjścia do nowej polityki gospodarczej. Zgodnie z wnioskami wysuniętymi przez KE z obu raportów koszty dostosowania się sektora prywatnego do nakładanych przez unijne regulacje wymogów są zbyt wysokie, a nadmierne regulacje negatywnie wpływają na konkurencyjność UE. Z tego względu Komisja zaprezentowała serię pakietów Omnibus, których celem jest uproszczenie europejskich regulacji, m.in. klimatycznych, dotyczących kwestii raportowania środowiskowego czy cyfrowych.

Nacisk na deregulację został wzmocniony przez presję zewnętrzną. USA otwarcie krytykują unijne regulacje cyfrowe jako szkodliwe dla swoich interesów, zakładają bowiem, że rzeczywistym celem europejskich przepisów jest uderzenie w amerykańskie firmy technologiczne. USA wzmacniają krytykę, grożąc nałożeniem wysokich ceł. W UE wiąże się to jednocześnie z obawami o osłabienie amerykańskiej obecności wojskowej w Europie. Równolegle rośnie presja sektora technologicznego (m.in. Microsoft, Open AI, Meta, X), który aktywnie działa przeciwko regulacjom sektora cyfrowego w UE. Według raportu Corporate Europe Observatory wydatki branży cyfrowej na lobbing w Brukseli wzrosły w ciągu dwóch lat o ponad 33%, do 151 mln euro rocznie. Deregulacji sprzyja również stanowisko części państw członkowskich, w tym Polski czy Danii.

Regulacje AI w UE

Akt o sztucznej inteligencji, który jest pierwszą w UE regulacją dotyczącą AI, został osłabiony przez pakiet Omnibus zanim zdążył wejść w życie (nie został w pełni wdrożony). Akt nakłada różne obowiązki na dostawców AI w zależności od tego, jakie potencjalne ryzyko wiąże się z danym modelem – od wymogów przejrzystości do obowiązków w zakresie zarządzania ryzykiem czy jakości danych. Akt opiera się bowiem na klasyfikacji AI według potencjalnych zagrożeń, które mogłaby ona spowodować w realnym świecie. System jest czterostopniowy i obejmuje ryzyko nieakceptowalne, a także wysokie, średnie i niskie.

Modelami AI ocenionymi jako nieakceptowalne są między innymi systemy służące do tzw. social scoringu, czyli automatycznego oceniania obywateli przez algorytmy i sztuczną inteligencję na podstawie ich zachowań, aktywności online czy finansów. Systemami wysokiego ryzyka są te, które wpływają na prawa podstawowe, bezpieczeństwo lub życiowe szanse człowieka. Chodzi tu między innymi o narzędzia do rekrutacji kandydatów do pracy, kwalifikacji do świadczeń publicznych czy oceny zdolności kredytowej. Systemy ograniczonego ryzyka wchodzą w interakcję z człowiekiem w sposób, który może wprowadzać w błąd. Należą do nich asystenci głosowi czy generatory treści. Wobec nich Akt nakłada przede wszystkim obowiązki przejrzystości – użytkownik musi wiedzieć, że rozmawia z maszyną, a treści generowane przez AI powinny być wyraźnie oznaczone.

Opracowany w trakcie poprzedniej kadencji KE Akt o AI jeszcze przed przyjęciem był krytykowany jako przykład nadmiernej regulacji. W nowej kadencji Komisja uznała sztuczną inteligencję za kwestię kluczową dla UE, w przekonaniu, że przywództwo w dziedzinie AI będzie decydować o konkurencyjności gospodarczej i globalnej pozycji. W związku z tym system nakładający obowiązki na europejskich deweloperów AI stał się dla KE obciążeniem nie tylko ekonomicznym, ale i strategicznym.

Aby faktycznie wdrożyć przepisy Aktu o AI dotyczące systemów wysokiego ryzyka, potrzebne były normy techniczne i standardy, które zostały ustalone m.in. przez Europejski Komitet Normalizacyjny Elektrotechniki. Nie zostały jednak opracowane na czas, co spowodowało niepełne wejście w życie Aktu i zagroziło wdrożeniu przepisów dotyczących systemów wysokiego ryzyka.

Zmiany wynikające z Omnibusa 

Najistotniejszą zmianą wprowadzoną przez Omnibus jest odroczenie obowiązków dla systemów wysokiego ryzyka, o których mowa w Akcie AI. Pierwotnie miały one zacząć obowiązywać już od sierpnia br. Zgodnie z nowymi przepisami systemy AI dotykające praw podstawowych będą musiały spełnić wymogi do 2 grudnia 2027 r., a systemy wbudowane w produkty regulowane (czyli systemy AI wykorzystywane w innych produktach, np. w przemyśle, transporcie czy zdrowiu) – do 2 sierpnia 2028 r. Systemy objęte obowiązkami przejrzystości i oznaczania faktu generowania treści przez AI otrzymają dodatkowy czas do 2 grudnia br.

Omnibus rozszerza też możliwość wykorzystania wrażliwych danych osobowych do wykrywania stronniczości (bias) w systemach AI. Umożliwia to twórcom systemów sztucznej inteligencji legalne wykorzystanie m.in. informacji o rasie, pochodzeniu, zdrowiu czy orientacji seksualnej, ale wyłącznie w ściśle określonym celu – aby wykrywać bias w algorytmach. Dotychczas było to dopuszczalne wyłącznie dla dostawców systemów wysokiego ryzyka, a po zmianach obejmie wszystkie systemy AI. Omnibus stoi więc w sprzeczności z istniejącymi obowiązkami wynikającymi z RODO, a rozwiązania te budzą zastrzeżenia organizacji pozarządowych. W liście do Komisji Europejskiej, który został podpisany przez przedstawicieli 130 NGO, określono projekt Omnibusów jako największy w historii UE demontaż cyfrowych praw podstawowych. Instytucje UE w trilogu uznały jednak, że zmniejszenie stronniczości modeli sztucznej inteligencji stanowi uzasadniony interes publiczny porównywalny z ochroną danych osobowych.

Istotna jest też zmiana odpowiedzialności dostawców modeli AI. Pierwotnie systemy wysokiego ryzyka miały być pozbawione biasu, obecnie platformy mają jedynie obowiązek podjęcia działań, które ograniczą stronniczość modeli. Podobnie wygląda to w przypadku obowiązku zapewnienia kompetencji w zakresie korzystania z AI. W akcie o AI obowiązek ten leżał po stronie platform cyfrowych. Omnibus zastąpił go zobowiązaniem do promowania przez dostawców systemów AI wiedzy i umiejętności pozwalających na bezpieczne korzystanie z narzędzi sztucznej inteligencji, czyli AI literacy.

Jednocześnie katalog praktyk zakazanych jest przez Omnibus poszerzony o systemy generujące niekonsensualne treści seksualne. Jest to bezpośrednia reakcja na skandal wokół Grok AI – narzędzie to generowało treści pornograficzne, w tym pornografię dziecięcą, i pozwalało udostępniać je dalej na X.

Wnioski

Omnibus AI obciążony jest deficytem proceduralnym – powstał bez pełnej oceny skutków regulacyjnych i bez wymaganych konsultacji publicznych, a rewizji poddano akt, którego kluczowe przepisy nie zaczęły jeszcze obowiązywać. Ocena jego funkcjonowania jest więc z definicji przedwczesna.

Omnibus wpisuje się w szerszy trend deregulacyjny, który wbrew intencjom nie wzmacnia europejskiej konkurencyjności, lecz amerykańskie big techy. Brak terminowego wdrożenia przepisów Aktu o sztucznej inteligencji wprowadził w rzeczywistości większą niestabilność na rynku. Głównymi beneficjentami odroczeń i złagodzonych obowiązków stali się najwięksi dostawcy systemów AI, niemal wyłącznie amerykańscy – to oni najsilniej lobbowali za zmianami i to ich modele dominują w segmencie zastosowań wysokiego ryzyka. Europejskie firmy tracą natomiast przewidywalność otoczenia regulacyjnego, w które zdążyły już zainwestować, oraz potencjalną przewagę konkurencyjną wynikającą z certyfikowanej zgodności z najwyższymi standardami.

Omnibus znacząco osłabia wpływ UE na regulowanie systemów AI tak w UE, jak i – szerzej – na świecie. Tzw. efekt Brukseli, zgodnie z którym unijne przepisy i standardy prawne stają się de facto globalnymi normami, zdecydowanie traci na znaczeniu wraz z osłabieniem samych aktów prawnych w Unii. UE, która stworzyła jedną z pierwszych na świecie przekrojowych legislacji AI, obecnie de facto jej nie wdraża. Złagodzenie Aktu o AI będzie miało negatywny wpływ na inne regulacje cyfrowe UE i na zdolność UE do kształtowania globalnych standardów. Spadek znaczenia UE w wyznaczaniu norm prawnych będzie oznaczał, że to USA, Chiny czy inni aktorzy zaczną kształtować normy, przy czym nie będą uwzględniać kwestii ochrony praw podstawowych czy europejskich wartości.