AI Act oznacza dla firm w Polsce konieczność sprawdzenia, czy wykorzystywane narzędzia spełniają definicję systemu AI, jaką rolę pełni przedsiębiorstwo oraz czy konkretne zastosowanie sztucznej inteligencji wiąże się z dodatkowymi obowiązkami.

‍

W praktyce firmy powinny:

• zinwentaryzować narzędzia AI używane w organizacji;
• ocenić, czy są dostawcą, podmiotem stosującym, importerem, dystrybutorem lub producentem produktu z komponentem AI;
• sprawdzić poziom ryzyka danego systemu;
• uporządkować umowy z dostawcami technologii;
• wdrożyć zasady nadzoru człowieka;
• przeszkolić pracowników z bezpiecznego i zgodnego z prawem korzystania z AI.

‍

Najważniejsze nie jest więc samo korzystanie z AI, ale ustalenie, do czego system jest wykorzystywany, jaki ma wpływ na ludzi i kto ponosi odpowiedzialność za jego wdrożenie oraz nadzór.

‍

AI Act to unijne rozporządzenie, które zmienia sposób, w jaki przedsiębiorstwa mogą projektować, wdrażać i wykorzystywać systemy sztucznej inteligencji. Dla firm w Polsce nie jest to wyłącznie temat prawny. To także kwestia zarządzania ryzykiem, dokumentacją, dostawcami technologii, danymi, relacjami z pracownikami oraz odpowiedzialnością za skutki działania systemów AI.

‍

W praktyce AI Act firmy powinny traktować jako nowe ramy organizacyjne dla korzystania ze sztucznej inteligencji. Rozporządzenie ustanawia zharmonizowane przepisy dotyczące wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów AI w Unii, a także zakazy niektórych praktyk, wymogi dla systemów wysokiego ryzyka, obowiązki przejrzystości i zasady nadzoru rynku. Na tym etapie pomocna może być kancelaria prawna Warszawa, która wspiera przedsiębiorców w ocenie obowiązków regulacyjnych, analizie ryzyk i przygotowaniu dokumentacji zgodnej z nowymi przepisami.

‍

Dlaczego przepisy AI Act dotyczą także polskich przedsiębiorstw?

‍

Bez czekania na polską ustawę

‍

AI Act oznacza przede wszystkim to, że polskie firmy nie czekają na osobną krajową ustawę, aby zacząć przygotowania, czy jej wdrażanie. Rozporządzenie unijne wiąże w całości i jest bezpośrednio stosowane we wszystkich państwach członkowskich. Trwają jednak także prace nad krajową ustawą o systemach sztucznej inteligencji (obecnie procedowany w Sejmie). 

‍

Kluczowe daty

‍

Zgodnie z art. 113 AI Act zasadniczo stosuje się od 2 sierpnia 2026 r., przy czym część przepisów zaczęła obowiązywać wcześniej, Zakazane praktyki AI oraz obowiązki związane z kompetencjami w zakresie AI zaczęły mieć zastosowanie od 2 lutego 2025 r., a przepisy dotyczące zarządzania oraz obowiązków dla dostawców modeli AI ogólnego przeznaczenia – od 2 sierpnia 2025 r.

‍

Planowane przesunięcia

‍

W związku z porozumieniem politycznym dotyczącym uproszczenia stosowania AI Act harmonogram dla części systemów wysokiego ryzyka ma zostać przesunięty. Dla samodzielnych systemów wysokiego ryzyka używanych m.in. w obszarach takich jak biometria, infrastruktura krytyczna, edukacja, zatrudnienie czy migracja wskazywana jest data 2 grudnia 2027 r., a dla systemów wysokiego ryzyka zintegrowanych z produktami - 2 sierpnia 2028 r. Do czasu formalnego zakończenia procesu legislacyjnego warto ujmować tę zmianę jako wynik porozumienia politycznego i planowany harmonogram.

‍

Kogo obejmują przepisy?

‍

Dla przedsiębiorców oznacza to, że AI Act przepisy obejmują nie tylko największych dostawców technologii, ale także podmioty, które stosują systemy AI w działalności gospodarczej. Zakres regulacji obejmuje m.in. dostawców wprowadzających systemy AI na rynek UE, podmioty stosujące systemy AI mające siedzibę w Unii, importerów, dystrybutorów, producentów produktów z komponentami AI oraz podmioty spoza UE, jeśli wyniki systemu są wykorzystywane w Unii. 

‍

Od czego firma powinna zacząć przygotowania do AI Act?

‍

Przede wszystkim zależy to od roli przedsiębiorstwa i rodzaju wykorzystywanego systemu. Inne obowiązki będzie mieć firma, która tworzy i sprzedaje system AI pod własną marką, inne importer technologii. Do tego jeszcze inna sytuacja może wystąpić wtedy, gdy firma korzysta z systemu AI do rekrutacji, oceny pracowników lub automatyzacji obsługi klienta. W takich przypadkach istotna jest nie tylko analiza samego narzędzia, ale także obsługa prawna projektów AI, obejmująca ocenę ryzyka, dokumentację, umowy z dostawcami oraz zasady odpowiedzialnego korzystania z technologii w organizacji.

‍

W każdym przypadku:

• pierwszym krokiem powinno być ustalenie, czy dane rozwiązanie w ogóle jest „systemem AI” w rozumieniu AI Act. Wytyczne Komisji wskazują, że akt nie obejmuje wszystkich systemów informatycznych, ale tylko te, które spełniają definicję systemu AI. Definicja ta obejmuje system maszynowy, który został zaprojektowany do działania z różnym poziomem autonomii po jego wdrożeniu oraz który może wykazywać zdolność adaptacji po jego wdrożeniu, a także, który (na potrzeby wyraźnych lub dorozumianych celów) wnioskuje, jak generować na podstawie danych wejściowych wyniki, takie jak predykcje, treści, zalecenia lub decyzje wpływające na środowisko fizyczne lub wirtualne,
• następnie firma powinna przeprowadzić klasyfikację ryzyka. AI Act opiera się na podejściu ryzykowym: część praktyk jest zakazana, część systemów będzie wysokiego ryzyka, część będzie podlegać obowiązkom przejrzystości, a systemy o minimalnym ryzyku nie będą objęte szczegółowymi wymogami, choć nadal mogą podlegać innym regulacjom, np. RODO, prawu pracy czy ochronie konsumentów. 

‍

‍

Jakie obowiązki AI Act mogą dotyczyć polskich przedsiębiorców

‍

AI Act obowiązki polskich przedsiębiorców można podzielić na kilka grup. 

‍

Inwentaryzacja narzędzi AI

‍

Po pierwsze, przedsiębiorstwo musi wiedzieć, jakie systemy AI wykorzystuje i do jakich celów. Bez inwentaryzacji narzędzi AI trudno ustalić, czy firma jest jedynie użytkownikiem prostego narzędzia, podmiotem stosującym system wysokiego ryzyka, czy może w praktyce staje się dostawcą, bo modyfikuje rozwiązanie i udostępnia je pod własną marką.

‍

Ocena roli modelu AI

‍

Po drugie, firma powinna ocenić przeznaczenie systemu. W AI Act kluczowe znaczenie ma nie tylko technologia, ale także kontekst użycia. Ten sam model może być neutralnym narzędziem analitycznym w jednym dziale, a systemem wysokiego ryzyka w innym, jeżeli służy np. do oceny kandydatów do pracy, przydzielania zadań pracownikom, oceny zdolności kredytowej osób fizycznych albo wspierania decyzji w sektorze usług podstawowych.

‍

Nadzór, dokumentacja i reakcja na ryzyko

‍

Po trzecie, przedsiębiorstwo musi wdrożyć procedury nadzoru, monitorowania i dokumentowania użycia AI. AI Act wymaga m.in., aby podmioty stosujące systemy wysokiego ryzyka korzystały z nich zgodnie z instrukcją obsługi, powierzały nadzór osobom mającym odpowiednie kompetencje, szkolenie i uprawnienia, a także monitorowały działanie systemu i reagowały na ryzyko lub poważny incydent. 

‍

Kiedy system AI może być uznany za system wysokiego ryzyka?

‍

Systemy AI wysokiego ryzyka to systemy, które mają szczególny wpływ na życie osób fizycznych lub mogą w istotny sposób wpłynąć na społeczeństwo. Obejmuję zwłaszcza następujące obszary: rekrutacja i zatrudnienie, edukacja (np. systemy AI oceniające kompetencje uczniów), opieka zdrowotna, zarządzanie infrastrukturą krytyczną (np. systemy AI wykorzystywane w energetyce czy wodociągach), usługi publiczne (np. systemy przyznające pomoc społeczną), wymiar sprawiedliwości. 

‍

Ważne jest, że klasyfikacja jako system wysokiego ryzyka nie oznacza automatycznego zakazu. Oznacza natomiast konieczność spełnienia odpowiednich wymagań, tak aby system działał zgodnie z przeznaczeniem, był nadzorowany, a ryzyka dla zdrowia, bezpieczeństwa i praw podstawowych były oceniane i ograniczane. 

‍

AI Act compliance - co powinien obejmować program zgodności?

‍

AI Act compliance nie powinien być jednorazowym audytem. To proces obejmujący cały cykl życia systemu AI: od wyboru dostawcy, przez wdrożenie, szkolenie użytkowników, monitorowanie działania, aż po reakcję na incydenty i zmiany w systemie. Całość procesu jest też zależna od roli, jaką posiada przedsiębiorca.

Praktyczny program AI Act compliance może obejmować:

1. rejestr systemów AI używanych w firmie; 
2. ocenę, czy dane narzędzie spełnia definicję systemu AI; 
3. klasyfikację ryzyka; 
4. identyfikację roli firmy: dostawca, podmiot stosujący, importer, dystrybutor lub producent produktu; 
5. analizę umów z dostawcami AI; 
6. procedurę nadzoru człowieka; 
7. politykę korzystania z generatywnej AI; 
8. zasady dokumentowania decyzji i incydentów; 
9. szkolenia dla pracowników; 
10. okresowy przegląd systemów i dostawców. 

Szczególną uwagę trzeba zwrócić na łańcuch dostaw. AI Act przewiduje, że dostawca systemu wysokiego ryzyka oraz osoba trzecia dostarczająca system AI, narzędzia, usługi, komponenty lub procesy wykorzystywane w tym systemie powinni uregulować w pisemnej umowie informacje, dostęp techniczny i pomoc potrzebne do spełnienia obowiązków. 

‍

Jaki wpływ na biznes ma Unijne rozporządzenie AI? 

‍

Dokumentacja AI

‍

Firmy będą musiały wiedzieć, skąd pochodzi system, jakie ma przeznaczenie, kto odpowiada za jego konfigurację, jakie dane wejściowe są używane i kto nadzoruje wyniki.

‍

Współpraca działów

‍

Wzrośnie znaczenie działów prawnych, compliance, IT, HR i bezpieczeństwa. AI przestanie być wyłącznie projektem technologicznym. Wdrożenie systemu AI w rekrutacji, obsłudze klienta, scoringu, marketingu, analizie zachowań użytkowników czy cyberbezpieczeństwie będzie wymagało współpracy kilku funkcji w organizacji.

‍

Umowy z dostawcami

‍

Firmy powinny wymagać od dostawców dodatkowych informacji, ograniczeniach, dokumentacji, instrukcji używania, jakości danych, mechanizmach nadzoru i procedurach zgłaszania incydentów.

‍

Przewaga konkurencyjna

‍

Przedsiębiorstwa, które wcześniej uporządkują zasady korzystania z AI, będą mogły szybciej wdrażać nowe narzędzia, bez zatrzymywania projektów na etapie oceny prawnej i ryzyka.

‍

AI Act wymagania dla firm w 2026 roku

‍

Z uwagi na wspomniane już przesunięcie wejścia w życie części przepisów, dla polskich firm oznacza to na pewno, że rok 2026 powinien być traktowany jako moment operacyjnego przygotowania organizacji, a nie dopiero początek analizy.

‍

Najważniejsze działania na 2026 r. to: stworzenie mapy zastosowań AI, ocena ryzyka, aktualizacja polityk bezpieczeństwa i ochrony danych, przegląd umów z dostawcami, wdrożenie zasad nadzoru człowieka oraz przygotowanie pracowników do odpowiedzialnego korzystania z systemów AI.

‍

Firmy korzystające z modeli AI ogólnego przeznaczenia powinny dodatkowo sprawdzić, czy same nie dokonują modyfikacji lub fine-tuningu modelu w sposób, który zmienia ich rolę w świetle AI Act. 

‍

Jak dostosować firmę do AI Act

‍

Najlepiej zacząć od prostego audytu, który odpowiada na cztery pytania: gdzie używamy AI, do czego jej używamy, kto odpowiada za system i jaki wpływ ma on na ludzi. Sposób zadawania pytań może być inny – w zależności od roli, którą ustalimy.

‍

Następnie warto wdrożyć politykę AI w firmie. Powinna ona wskazywać, jakie narzędzia są dopuszczone, kto może je wdrażać, jakie dane wolno do nich wprowadzać, kiedy wymagany jest przegląd prawny, a kiedy ocena ryzyka etc. W przypadku narzędzi generatywnych polityka powinna obejmować także zasady oznaczania treści, weryfikacji wyników i ochrony tajemnicy przedsiębiorstwa.

‍

Kolejnym krokiem jest przypisanie odpowiedzialności. W małej firmie może to być właściciel, osoba od IT lub zewnętrzny doradca. W większej organizacji potrzebny będzie zespół obejmujący compliance, prawników, IT, cyberbezpieczeństwo, HR i właścicieli procesów biznesowych.

‍

Wdrożenie AI Act w małych firmach

‍

Największym błędem byłoby założenie, że mała firma nie podlega przepisom AI Act, bo nie tworzy własnych modeli AI. Jeżeli korzysta z AI w działalności zawodowej, np. do selekcji kandydatów, oceny klientów, automatyzacji decyzji, generowania treści marketingowych lub analizy danych osobowych, powinna sprawdzić swoje obowiązki.

‍

Mała firma może zacząć od minimalnego zestawu działań: lista narzędzi AI, opis celu użycia, informacja o dostawcy, ocena czy narzędzie dotyczy ludzi lub decyzji o istotnych skutkach, zasady weryfikacji wyników przez człowieka oraz zakaz wprowadzania danych poufnych do niezatwierdzonych narzędzi.

‍

Warto też pamiętać, że AI Act przewiduje środki wspierające innowacje ze szczególnym uwzględnieniem MŚP, w tym startupów. To ważne, ponieważ celem regulacji nie jest zablokowanie rozwoju AI, lecz uporządkowanie jej stosowania tam, gdzie ryzyko jest największe.

‍

Jakie kary przewiduje AI Act dla przedsiębiorstw w Polsce?

‍

Wysokość kar

‍

AI Act przewiduje podejście stopniowane, a wysokość kary zależy od rodzaju naruszenia. Najsurowsze sankcje dotyczą zakazanych praktyk AI – zgodnie z art. 99 ust. 3 AI Act za naruszenie zakazów z art. 5 AI Act dostawcy i podmioty stosujące mogą zostać ukarane do 35 000 000 EUR albo, w przypadku przedsiębiorstwa, do 7% całkowitego światowego rocznego obrotu z poprzedniego roku obrotowego, w zależności od tego, która wartość jest wyższa. 

‍

Kryteria oceny

‍

Przy ustalaniu administracyjnej kary pieniężnej organy mają brać pod uwagę m.in. charakter, wagę i czas trwania naruszenia, jego konsekwencje, liczbę poszkodowanych osób, wielkość operatora, roczny obrót, udział w rynku, stopień współpracy z organami, umyślność lub zaniedbanie oraz działania podjęte w celu ograniczenia szkody. 

‍

Znaczenie compliance

‍

Dla firm oznacza to, że sama procedura compliance może mieć znaczenie praktyczne. Dobrze udokumentowane działania, szkolenia, nadzór i szybka reakcja na incydent mogą pomóc ograniczyć ryzyko regulacyjne.

‍

Zgodność z AI Act krok po kroku - praktyczny przewodnik dla firm

‍

Taki praktyczny przewodnik można sprowadzić do siedmiu kroków:

1. Inwentaryzacja wszystkich narzędzi AI w firmie. 
2. Ustalenie, które systemy wpływają na ludzi, decyzje biznesowe, pracowników, klientów lub bezpieczeństwo, ewentualnie inne strony.
3. Sprawdzenie, czy dany system może być systemem wysokiego ryzyka. 
4. Zweryfikowanie dostawców i umowy oraz rolę Twojej firmy w rozumieniu AI Act.
5. Wprowadzenie zasad nadzoru człowieka i kontroli wyników. 
6. Przeszkolenie pracowników z bezpiecznego korzystania z AI. 
7. Regularna aktualizacja dokumentacji, bo systemy AI, ich zastosowania i wytyczne regulacyjne będą się zmieniać. 

‍

AI Act nie oznacza, że firmy w Polsce mają zrezygnować z AI. Oznacza, że powinny korzystać z niej świadomie, dokumentować decyzje, kontrolować ryzyka i rozumieć własną rolę w łańcuchu odpowiedzialności. Dobrze wdrożone AI Act compliance może być nie tylko obowiązkiem, ale też elementem zaufania klientów, pracowników i partnerów biznesowych.

‍

Potrzebujesz wsparcia przy wdrożeniu AI Act w firmie?

‍

AI Act nie oznacza rezygnacji ze sztucznej inteligencji. Oznacza konieczność uporządkowania zasad jej wykorzystywania, opisania odpowiedzialności i ograniczenia ryzyk prawnych, organizacyjnych oraz biznesowych.

‍

Jeżeli chcesz sprawdzić, czy Twoja firma korzysta z AI zgodnie z nowymi wymogami, skontaktuj się z Lawmore. Pomożemy ustalić, jakie systemy AI wykorzystujesz, jaką rolę pełni Twoja organizacja i jakie działania warto wdrożyć w pierwszej kolejności.

‍

Jeżeli Twoja firma korzysta z narzędzi AI w rekrutacji, obsłudze klienta, analizie danych, marketingu, sprzedaży lub automatyzacji decyzji, warto sprawdzić, jakie obowiązki mogą wynikać z AI Act. Lawmore może pomóc w audycie narzędzi AI, ocenie ryzyka, przygotowaniu polityki AI, analizie umów z dostawcami oraz wdrożeniu procedur zgodności.

‍

FAQ – AI Act dla firm w Polsce

‍

Czy AI Act dotyczy małych firm?

‍

Tak, AI Act może dotyczyć także małych firm, jeżeli korzystają z systemów AI w działalności gospodarczej. Znaczenie ma nie wielkość przedsiębiorstwa, ale rola firmy i sposób wykorzystania konkretnego systemu.

‍

Czy każda firma korzystająca z AI ma takie same obowiązki?

‍

Nie. Obowiązki zależą od tego, czy firma jest dostawcą, podmiotem stosującym, importerem, dystrybutorem lub producentem produktu z komponentem AI, a także od poziomu ryzyka danego systemu.

‍

Od czego zacząć przygotowanie firmy do AI Act?

‍

Najlepiej zacząć od inwentaryzacji narzędzi AI i ustalenia, do czego są wykorzystywane. Następnie trzeba określić rolę firmy, poziom ryzyka systemów oraz potrzebne procedury, umowy i szkolenia.

‍

Czy AI Act zakazuje korzystania ze sztucznej inteligencji?

‍

Nie. AI Act nie zakazuje korzystania z AI jako takiej, ale wprowadza ograniczenia dla praktyk uznanych za niedopuszczalne oraz dodatkowe obowiązki dla systemów wysokiego ryzyka i wybranych zastosowań AI.

‍

Jakie kary przewiduje AI Act dla przedsiębiorstw?

‍

Najwyższe kary dotyczą naruszenia zakazanych praktyk AI. W takim przypadku sankcja może sięgnąć 35 000 000 EUR albo 7% całkowitego światowego rocznego obrotu przedsiębiorstwa z poprzedniego roku obrotowego, w zależności od tego, która wartość jest wyższa.

‍

Jak dostosować firmę do AI Act krok po kroku?

‍

Firma powinna spisać narzędzia AI, określić ich zastosowanie, ustalić swoją rolę, ocenić poziom ryzyka, zweryfikować dostawców i umowy, wdrożyć nadzór człowieka oraz przeszkolić pracowników.

‍

Źródła:

1. Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji (AI Act).
2. Komisja Europejska, Guidelines on Prohibited Artificial Intelligence Practices Established by Regulation (EU) 2024/1689 (AI Act).
3. Komisja Europejska, Guidelines on the Scope of the Obligations for General-Purpose AI Models Established by Regulation (EU) 2024/1689 (AI Act).
4. Komisja Europejska, Guide to Prohibited Artificial Intelligence Practices under the AI Act.
5. Komisja Europejska, Guidelines on the Scope of the Obligations for General-Purpose AI Models Established by Regulation (EU) 2024/1689.
6. Komisja Europejska, Commission Guidelines on the Definition of an Artificial Intelligence System Established by Regulation (EU) 2024/1689 (AI Act).
7. Komisja Europejska, Draft Guidelines on the Classification of High-Risk AI Systems under Article 6 of Regulation (EU) 2024/1689 – Annex III.
8. Komisja Europejska, Draft Guidelines on the Classification of High-Risk AI Systems under Article 6 of Regulation (EU) 2024/1689 – Annex I.
9. Komisja Europejska, Draft Guidelines on the Classification of High-Risk AI Systems under Article 6 of Regulation (EU) 2024/1689 – General Principles.

‍

Sztuczna inteligencja nie będzie regulowana w Unii Europejskiej jednolicie dla każdego zastosowania. AI Act opiera się na podejściu opartym na ryzyku. Oznacza to, że zakres obowiązków prawnych zależy przede wszystkim od tego, do czego system AI jest przeznaczony, w jakim kontekście ma być używany oraz jakie skutki może wywoływać dla ludzi, zdrowia, bezpieczeństwa, praw podstawowych lub interesu publicznego. W ocenie obowiązków regulacyjnych i klasyfikacji systemów AI pomocna może być kancelaria prawna Warszawa, szczególnie gdy firma wdraża lub wykorzystuje rozwiązania sztucznej inteligencji w swojej działalności.

‍

Dlatego klasyfikacja ryzyka z AI Act jest jednym z pierwszych etapów wdrożenia zgodności z nowymi przepisami. Firma, która korzysta z narzędzi AI, tworzy je, wdraża u klientów albo integruje z własnymi produktami, powinna ustalić, do której kategorii ryzyka należy dany system. Dopiero później można prawidłowo ocenić, jakie obowiązki wynikają z AI Act.

‍

Dlaczego klasyfikacja systemu AI ma znaczenie

‍

AI Act nie zakłada, że każdy system sztucznej inteligencji jest tak samo niebezpieczny. Inaczej należy oceniać prosty chatbot informacyjny o usługach firmy, inaczej system wspierający rekrutację, a jeszcze inaczej system wykorzystywany w wyrobach medycznych.

‍

W praktyce AI Act kategorie ryzyka pełnią funkcję mapy regulacyjnej. Pozwalają ustalić, czy dany system AI:

• jest zakazany,
• jest systemem wysokiego ryzyka,
• podlega szczególnym obowiązkom przejrzystości,
• nie jest objęty istotnymi obowiązkami AI Act, choć nadal może podlegać innym przepisom, na przykład RODO, prawu pracy, przepisom konsumenckim lub zasadom odpowiedzialności cywilnej.

‍

To istotne, ponieważ błędna kwalifikacja systemu AI może prowadzić do nieprawidłowego wdrożenia AI Act compliance. W wielu organizacjach najważniejszym problemem nie będzie samo korzystanie z AI, lecz brak wiedzy, czy wykorzystywane narzędzie powinno zostać potraktowane jako system wysokiego ryzyka.

‍

AI Act kategorie ryzyka - podstawowy podział

‍

W uproszczeniu AI Act przewiduje cztery główne poziomy ryzyka.

‍

Pierwsza kategoria to ryzyko niedopuszczalne. Obejmuje praktyki zakazane, czyli takie zastosowania AI, które ustawodawca unijny uznał za sprzeczne z wartościami Unii, prawami podstawowymi lub bezpieczeństwem osób. Chodzi m.in. o określone formy manipulacji, wykorzystywanie podatności osób, niektóre formy scoringu społecznego, zakazane przypadki kategoryzacji biometrycznej czy niektóre zastosowania zdalnej identyfikacji biometrycznej w czasie rzeczywistym.

‍

Druga kategoria to systemy AI wysokiego ryzyka. Nie są one co do zasady zakazane, ale podlegają rozbudowanym obowiązkom regulacyjnym. To najważniejsza kategoria z perspektywy przedsiębiorców, administracji publicznej i dostawców technologii.

‍

Trzecia kategoria obejmuje systemy, które powodują ryzyko związane z przejrzystością. W takich przypadkach AI Act może wymagać poinformowania użytkownika, że ma kontakt z systemem AI albo że dana treść została wygenerowana lub zmanipulowana przez AI.

‍

Czwarta kategoria to systemy minimalnego ryzyka. AI Act nie nakłada na nie rozbudowanych obowiązków, choć w praktyce nadal mogą być objęte innymi przepisami, standardami kontraktowymi, wymogami bezpieczeństwa, ochroną danych lub wewnętrznymi zasadami governance.

‍

Systemy AI wysokiego ryzyka - kiedy występują

‍

Systemy AI wysokiego ryzyka są centralnym elementem AI Act. Ich klasyfikacja wynika przede wszystkim z art. 6 AI Act oraz załączników I i III.

‍

Pierwsza grupa obejmuje systemy AI, które są produktem lub elementem bezpieczeństwa produktu objętego określonym unijnym prawodawstwem harmonizacyjnym. Może to dotyczyć m.in. maszyn, wyrobów medycznych, zabawek, wind, urządzeń radiowych, środków transportu lub innych produktów wymienionych w odpowiednich przepisach sektorowych. Nie każdy produkt z komponentem AI będzie automatycznie systemem wysokiego ryzyka. Istotne jest m.in. to, czy system AI pełni funkcję bezpieczeństwa oraz czy produkt wymaga oceny zgodności z udziałem strony trzeciej.

‍

Druga grupa obejmuje samodzielne systemy AI wskazane w załączniku III AI Act. Są to zastosowania uznane za szczególnie wrażliwe z punktu widzenia praw podstawowych, bezpieczeństwa lub sytuacji życiowej osób fizycznych. Przykładowo mogą dotyczyć biometrii, infrastruktury krytycznej, edukacji, zatrudnienia, dostępu do podstawowych usług, egzekwowania prawa, migracji, kontroli granicznej, wymiaru sprawiedliwości oraz procesów demokratycznych.

‍

Ważne jest, że samo użycie AI w obszarze wymienionym w załączniku III nie zawsze oznacza automatycznie system wysokiego ryzyka. 

‍

Przeznaczenie systemu AI jako punkt wyjścia

‍

Dla klasyfikacji systemu AI kluczowe jest jego przeznaczenie. Należy ustalić, do czego system jest przeznaczony przez dostawcę, w jakim kontekście ma działać, jakie decyzje lub rekomendacje ma wspierać oraz jakie kategorie użytkowników lub osób mogą być dotknięte jego działaniem.

‍

Nie wystarczy nazwać narzędzia „asystentem”, „chatbotem” albo „systemem analitycznym”. Ten sam model lub podobna technologia może mieć różną kwalifikację prawną w zależności od zastosowania. Chatbot odpowiadający na ogólne pytania klientów może generować głównie obowiązki przejrzystości. System oceniający kandydatów do pracy, nadający im ranking lub rekomendujący odrzucenie aplikacji może już wchodzić w kategorię systemów wysokiego ryzyka.

‍

Dlatego w ramach AI Act compliance trzeba dokumentować nie tylko samą technologię, ale również jej funkcję biznesową, kontekst użycia, grupę użytkowników, dane wejściowe, rodzaj wyniku oraz wpływ wyniku na decyzje człowieka.

‍

Przykłady obszarów wysokiego ryzyka

‍

W praktyce systemy AI wysokiego ryzyka mogą wystąpić m.in. w następujących popularnych obszarach:

• Biometria - np. zdalna identyfikacja biometryczna, kategoryzacja biometryczna lub rozpoznawanie emocji, o ile dane zastosowanie nie jest zakazane i mieści się w zakresie systemów wysokiego ryzyka.
• Infrastruktura krytyczna - np. systemy wpływające na zarządzanie ruchem drogowym, dostawy wody, gazu, energii elektrycznej, ogrzewania lub funkcjonowanie krytycznej infrastruktury cyfrowej.
• Edukacja i szkolenie zawodowe - np. systemy oceniające wyniki nauczania, przydzielające osoby do instytucji edukacyjnych albo wpływające na dostęp do określonego poziomu kształcenia.
• Zatrudnienie i zarządzanie pracownikami - np. narzędzia do selekcji kandydatów, oceny CV, rankingowania aplikacji, podejmowania decyzji o awansie, monitorowania pracy lub oceny wydajności.
• Podstawowe usługi prywatne i publiczne - np. systemy oceny zdolności kredytowej osób fizycznych, oceny prawa do świadczeń publicznych lub ryzyka w ubezpieczeniach zdrowotnych i na życie.
• Egzekwowanie prawa, migracja i wymiar sprawiedliwości - np. systemy wspierające ocenę ryzyka, analizę dowodów, rozpatrywanie wniosków wizowych lub azylowych, a także narzędzia wspierające organy sądowe.

‍

‍

Czy człowiek w procesie wyłącza wysokie ryzyko

‍

Nie. Sam fakt, że człowiek zatwierdza decyzję albo ma możliwość nadzoru, nie oznacza, że system przestaje być systemem wysokiego ryzyka. Nadzór człowieka jest jednym z wymogów zgodności dla systemów wysokiego ryzyka, ale nie jest prostym sposobem na uniknięcie kwalifikacji.

‍

Jeżeli przeznaczenie systemu obejmuje przypadek użycia wymieniony w załączniku III, a system wpływa na decyzję dotyczącą osoby, to udział człowieka nie zmienia automatycznie klasyfikacji. Inaczej mówiąc, regulacje AI ryzyko oceniają przez funkcję i wpływ systemu, a nie wyłącznie przez formalne pozostawienie człowieka „w pętli”.

‍

Mechanizm wyłączenia z wysokiego ryzyka

‍

AI Act przewiduje tzw. mechanizm filtrujący dla niektórych systemów z załącznika III. System może nie zostać uznany za wysokiego ryzyka, jeżeli spełnia warunki wskazane w AI Act, np. wykonuje wąskie zadanie proceduralne, poprawia wynik wcześniej zakończonej czynności człowieka, wykrywa wzorce decyzyjne bez zastępowania oceny człowieka albo wykonuje zadanie przygotowawcze.

‍

Ten mechanizm trzeba jednak stosować ostrożnie. Nie będzie on dostępny, jeżeli system dokonuje profilowania w rozumieniu przepisów o ochronie danych osobowych. Nie powinien być też traktowany jako sposób formalnego obchodzenia przepisów przez rozbicie jednego systemu na kilka modułów.

‍

Systemy objęte obowiązkami przejrzystości

‍

Niektóre systemy AI nie będą systemami wysokiego ryzyka, ale nadal będą podlegały obowiązkom przejrzystości. Dotyczy to m.in. sytuacji, w których użytkownik wchodzi w interakcję z systemem AI, a także określonych przypadków generowania treści syntetycznych, deepfake’ów lub treści tekstowych publikowanych w celu informowania opinii publicznej o sprawach interesu publicznego.

‍

W takich przypadkach przedsiębiorca powinien ustalić, czy musi poinformować użytkownika o korzystaniu z AI, oznaczyć treść jako wygenerowaną przez AI albo zapewnić inne środki transparentności.

‍

Jak przeprowadzić klasyfikację ryzyka AI Act w firmie

‍

Prawidłowa klasyfikacja ryzyka AI Act powinna obejmować kilka etapów.

‍

Po pierwsze, trzeba ustalić, czy dane rozwiązanie w ogóle jest systemem AI w rozumieniu AI Act. Nie każde oprogramowanie i nie każda automatyzacja będą systemem AI.

‍

Po drugie, należy ustalić rolę organizacji. Inne obowiązki mogą dotyczyć dostawcy, inne importera, dystrybutora, podmiotu stosującego, producenta produktu etc.

‍

Po trzecie, trzeba opisać przeznaczenie systemu. W praktyce należy przeanalizować dokumentację techniczną, instrukcje używania, materiały sprzedażowe, komunikację marketingową, funkcje narzędzia i realny kontekst wdrożenia.

‍

Po czwarte, należy sprawdzić, czy system nie wchodzi w zakres praktyk zakazanych. Ten etap powinien poprzedzać analizę wysokiego ryzyka.

‍

Po piąte, trzeba ocenić, czy system jest objęty art. 6 AI Act i załącznikiem I albo III. Jeżeli tak, należy ustalić, czy możliwy jest mechanizm wyłączenia z klasyfikacji wysokiego ryzyka.

‍

Po szóste, należy sprawdzić, czy system podlega obowiązkom przejrzystości, nawet jeżeli nie jest systemem wysokiego ryzyka.

‍

Po siódme, wynik analizy powinien zostać udokumentowany. W AI Act compliance dokumentacja procesu decyzyjnego jest równie ważna jak sama konkluzja. Przy projektach obejmujących wdrożenie, integrację lub komercjalizację systemów AI znaczenie może mieć również obsługa prawna projektów AI.

‍

Co oznacza klasyfikacja dla dostawców i podmiotów stosujących

‍

Dla dostawców klasyfikacja wpływa na projektowanie systemu, dokumentację techniczną, zarządzanie ryzykiem, jakość danych, nadzór człowieka, dokładność, cyberbezpieczeństwo, rejestrowanie zdarzeń, ocenę zgodności i obowiązki po wprowadzeniu systemu na rynek.

‍

Dla podmiotów stosujących klasyfikacja ma znaczenie przy wyborze narzędzia, negocjowaniu umowy, ocenie dostawcy, kontroli instrukcji używania, wdrożeniu nadzoru człowieka, prowadzeniu rejestrów, informowaniu osób i organizacji procesu korzystania z AI.

‍

W praktyce nie wystarczy zapytać dostawcy, czy jego system jest zgodny z AI Act. Firma powinna rozumieć, do czego sama używa systemu, ponieważ zmiana sposobu użycia może zmienić kwalifikację prawną. System kupiony jako narzędzie ogólne może stać się systemem wysokiego ryzyka, jeżeli zostanie wdrożony do zastosowania wskazanego w AI Act.

‍

Podsumowanie

‍

AI Act nie reguluje sztucznej inteligencji według jednej, prostej zasady. Kluczowe znaczenie ma klasyfikacja ryzyka systemu AI. To od niej zależy, czy dane rozwiązanie jest zakazane, czy stanowi system wysokiego ryzyka, czy podlega obowiązkom przejrzystości, czy też pozostaje w kategorii minimalnego ryzyka.

‍

Dla przedsiębiorców oznacza to konieczność uporządkowania portfela narzędzi AI. Pierwszym krokiem nie powinno być tworzenie ogólnej polityki AI, lecz identyfikacja konkretnych systemów, opisanie ich przeznaczenia i przeprowadzenie kwalifikacji prawnej. Dopiero na tej podstawie można ustalić wymogi AI Act, obowiązki dostawców i podmiotów stosujących oraz zakres realnego AI Act compliance.

‍

Klasyfikacja ryzyka z AI Act nie jest formalnością. Jest punktem wyjścia do całego procesu zgodności z regulacjami dotyczącymi sztucznej inteligencji.

‍

AI Act wprowadza jeden z najbardziej dotkliwych systemów sankcji w unijnym prawie technologicznym. Kary AI Act mogą być nakładane nie tylko na dostawców systemów sztucznej inteligencji, ale również na inne podmioty uczestniczące w obrocie lub wykorzystywaniu AI, jeżeli naruszają obowiązki wynikające z rozporządzenia. W analizie obowiązków i ryzyk regulacyjnych pomocna może być kancelaria prawna Warszawa, szczególnie gdy firma wdraża lub wykorzystuje systemy sztucznej inteligencji w swojej działalności.

‍

Najwyższe AI Act sankcje dotyczą zakazanych praktyk AI. Chodzi między innymi o wybrane formy manipulacji, niedozwolonego scoringu społecznego, niektóre zastosowania biometrii oraz systemy rozpoznawania emocji w miejscach pracy lub instytucjach edukacyjnych, poza przewidzianymi wyjątkami. Za takie naruszenie AI Act kary mogą wynieść do 35 mln EUR albo do 7% całkowitego rocznego światowego obrotu przedsiębiorstwa z poprzedniego roku obrotowego - w zależności od tego, która wartość jest wyższa.

‍

Niższy, ale nadal bardzo istotny próg sankcji dotyczy naruszenia obowiązków operatorów systemów AI. AI Act przepisy kary przewidują w takich przypadkach do 15 mln EUR albo do 3% całkowitego rocznego światowego obrotu. Ten poziom może mieć znaczenie między innymi przy naruszeniu obowiązków dostawców, importerów, dystrybutorów, podmiotów stosujących, jednostek notyfikowanych oraz obowiązków przejrzystości.

‍

Przy ocenie tych obowiązków wsparciem może być prawnik AI, zwłaszcza gdy firma chce ustalić swoją rolę prawną wobec systemu AI oraz zakres odpowiedzialności wynikającej z rozporządzenia.

‍

Osobna kategoria dotyczy przekazania organom lub jednostkom notyfikowanym informacji nieprawidłowych, niekompletnych albo wprowadzających w błąd. W takim przypadku kara może wynieść do 7,5 mln EUR albo do 1% całkowitego rocznego światowego obrotu.

‍

W praktyce AI Act compliance kary nie powinny być oceniane wyłącznie przez pryzmat maksymalnych kwot. Organ, ustalając wysokość sankcji, powinien brać pod uwagę konkretne okoliczności sprawy, w tym charakter, wagę i czas trwania naruszenia, liczbę osób dotkniętych skutkami działania systemu AI, rozmiar szkody, stopień winy, współpracę z organem oraz działania podjęte w celu ograniczenia negatywnych skutków.

‍

W przypadku MŚP, w tym startupów, AI Act przewiduje łagodniejszy mechanizm ustalania maksymalnych kar. Nie oznacza to zwolnienia z odpowiedzialności. MŚP nadal mogą podlegać sankcjom za naruszenie AI Act, jednak maksymalna kara pieniężna jest ustalana według niższej z dwóch wartości: kwoty wskazanej w rozporządzeniu albo odpowiedniego procentu rocznego światowego obrotu.

‍

Przykładowo, przy naruszeniu zakazanych praktyk AI standardowy próg wynosi do 35 mln EUR albo do 7% rocznego światowego obrotu. Dla MŚP zastosowanie ma niższa z tych wartości. Analogicznie działa to przy karach do 15 mln EUR albo 3% obrotu oraz do 7,5 mln EUR albo 1% obrotu.

‍

W praktyce oznacza to, że AI Act compliance kary mogą być dla MŚP mniej dotkliwe niż dla dużych przedsiębiorstw, ale nadal mogą stanowić istotne ryzyko finansowe. Dlatego także mniejsze firmy powinny przeprowadzić podstawową klasyfikację używanych systemów AI, ustalić swoją rolę prawną oraz wdrożyć proporcjonalne procedury zgodności.

‍

Podsumowanie - Jak ograniczyć ryzyko kar za naruszenie AI Act

Dla firm oznacza to jedno: wdrożenie AI Act compliance nie jest wyłącznie formalnością. Kluczowe znaczenie ma ustalenie, czy dane rozwiązanie spełnia definicję systemu AI, jaka jest jego rola w organizacji, do jakiej kategorii ryzyka należy oraz jakie obowiązki spoczywają na firmie jako dostawcy, importerze, dystrybutorze lub podmiocie stosującym.

‍

Im wcześniej przedsiębiorca przeprowadzi klasyfikację systemów AI i uporządkuje dokumentację, procedury nadzoru, przejrzystości oraz zarządzania ryzykiem, tym mniejsze ryzyko naruszenia AI Act i odpowiedzialności finansowej. Przy bardziej złożonych wdrożeniach znaczenie może mieć również obsługa prawna projektów AI, obejmująca analizę ryzyk, dokumentacji i obowiązków związanych z wykorzystaniem sztucznej inteligencji.

‍

AI Act to unijne rozporządzenie, które wprowadza nowe zasady dotyczące projektowania, wdrażania i wykorzystywania systemów sztucznej inteligencji. Dla przedsiębiorców oznacza to konieczność uporządkowania sposobu korzystania z AI w organizacji. AI Act dla firm nie powinien być traktowany wyłącznie jako obowiązek prawny, ale także jako element zarządzania ryzykiem technologicznym. W analizie obowiązków związanych z AI Act pomocna może być kancelaria prawna Warszawa, szczególnie gdy firma wdraża lub wykorzystuje systemy sztucznej inteligencji w swojej działalności.

‍

Audyt narzędzi AI używanych w firmie

‍

Pierwszym krokiem powinien być audyt narzędzi AI używanych w firmie. Należy ustalić, czy dane rozwiązanie jest systemem AI w rozumieniu AI Act, kto jest jego dostawcą, kto go stosuje oraz w jakim celu jest wykorzystywany. Dopiero na tej podstawie można ocenić, jakie wymagania AI Act mają zastosowanie do konkretnego przypadku. W takiej analizie wsparciem może być także prawnik AI, jeżeli firma potrzebuje oceny prawnej konkretnego narzędzia lub procesu opartego na sztucznej inteligencji.

‍

Klasyfikacja ryzyka systemów AI

‍

Drugim etapem jest klasyfikacja ryzyka. Przepisy AI Act przewidują różne poziomy obowiązków w zależności od rodzaju systemu AI. Największe znaczenie mają systemy zakazane, systemy wysokiego ryzyka, systemy objęte obowiązkami przejrzystości oraz modele ogólnego zastosowania. W praktyce firma powinna sprawdzić, czy AI jest używana w obszarach takich jak rekrutacja, ocena pracowników, edukacja, usługi finansowe, infrastruktura krytyczna, biometria lub dostęp do usług publicznych.

‍

Dokumentacja i procedury wymagane przez AI Act

‍

Trzecim krokiem jest przygotowanie dokumentacji. Wdrożenie AI Act wymaga opisania celu użycia systemu, zasad nadzoru człowieka, źródeł danych, ryzyk, środków kontroli oraz procedur reagowania na błędy i incydenty. W przypadku systemów wysokiego ryzyka obowiązki będą znacznie szersze i mogą obejmować między innymi system zarządzania ryzykiem, dokumentację techniczną, rejestrowanie zdarzeń, nadzór człowieka oraz ocenę zgodności.

‍

AI Act compliance w relacjach z dostawcami

‍

Czwartym elementem jest AI Act compliance w relacjach z dostawcami. Firma powinna zweryfikować umowy z podmiotami dostarczającymi narzędzia AI, w tym zakres odpowiedzialności, instrukcje używania systemu, dostęp do dokumentacji, zasady aktualizacji oraz obowiązki informacyjne. Sam fakt zakupu narzędzia AI od zewnętrznego dostawcy nie zwalnia firmy z obowiązków, jeżeli wykorzystuje ona system we własnej działalności. Przy bardziej złożonych wdrożeniach znaczenie może mieć również obsługa prawna projektów AI, obejmująca analizę ryzyk, dokumentacji i relacji z dostawcami technologii.

‍

Szkolenia pracowników z zasad korzystania z AI

‍

Ostatnim etapem jest przeszkolenie pracowników. AI Act wymaga rozwijania kompetencji w zakresie AI, dlatego osoby korzystające z systemów AI powinny rozumieć ich ograniczenia, ryzyka oraz zasady prawidłowego użycia. Dotyczy to nie tylko działów IT, ale także HR, marketingu, sprzedaży, compliance, prawnego i zarządu.

‍

AI Act compliance jako element zarządzania ryzykiem

‍

Przygotowanie firmy na AI Act powinno obejmować audyt, klasyfikację ryzyka, dokumentację, procedury, umowy z dostawcami oraz szkolenia. Im wcześniej organizacja rozpocznie AI Act compliance, tym łatwiej ograniczy ryzyko regulacyjne, kontraktowe i reputacyjne związane z wykorzystaniem sztucznej inteligencji.

‍

Więcej na ten temat znajdziecie w tym artykule: AI Act compliance checklista dla firm.

‍