Wytyczne Komisji Europejskiej dotyczące zakazanych praktyk w zakresie sztucznej inteligencji

4 lutego 2025 r. Komisja Europejska przyjęła wytyczne dotyczące zakazanych praktyk w sztucznej inteligencji (AI) na podstawie Rozporządzenia UE 2024/1689 (AI Act). Dokument ten precyzuje interpretację oraz egzekwowanie przepisów art. 5 AI Act, który określa systemy AI uznane za niedopuszczalne w Unii Europejskiej.

Zakazane praktyki AI według art. 5 AI Act

Wytyczne klasyfikują AI według poziomu ryzyka, przy czym systemy o niedopuszczalnym ryzyku są bezwzględnie zakazane. Należą do nich m.in.:

1. Manipulacja i oszustwa

  Zakaz stosowania technik podprogowych, manipulacyjnych i oszukańczych, które mogą prowadzić do istotnego zniekształcenia zachowań osób lub grup w sposób szkodliwy. Dotyczy to np. systemów wykorzystujących ukryte bodźce wizualne czy dźwiękowe w celu wpływania na decyzje użytkownika.

2. Wykorzystywanie podatności określonych grup  

  Zakazane jest stosowanie systemów AI wykorzystujących podatność osób wynikającą z ich wieku, niepełnosprawności lub sytuacji społeczno-ekonomicznej do ich manipulacji, np. wprowadzania w błąd starszych osób przy zawieraniu umów finansowych.

3. Społeczna ocena i klasyfikacja osób (social scoring)  

  AI wykorzystywane do klasyfikacji osób na podstawie ich zachowania społecznego lub cech osobistych, prowadzące do ich nieuzasadnionego lub nieproporcjonalnego traktowania, np. ograniczania dostępu do kredytów na podstawie aktywności w mediach społecznościowych.

4. Predykcja przestępczości na podstawie cech osobistych  

  Zakaz stosowania AI do oceniania ryzyka popełnienia przestępstwa przez osobę na podstawie profilowania lub analizy cech osobowościowych, z wyjątkiem wsparcia dla decyzji podejmowanych przez człowieka na podstawie obiektywnych danych.

5. Nieograniczone zbieranie obrazów twarzy (facial recognition)  

  Zakaz nieukierunkowanego pozyskiwania obrazów twarzy z internetu i monitoringu (CCTV) do tworzenia baz danych do identyfikacji biometrycznej.

6. Rozpoznawanie emocji w miejscach pracy i edukacji  

  Zakaz stosowania AI do oceny emocji w miejscach pracy i instytucjach edukacyjnych, z wyjątkiem zastosowań medycznych lub związanych z bezpieczeństwem.

7. Kategoryzacja biometryczna na podstawie wrażliwych danych  

  Zakaz klasyfikowania osób na podstawie cech biometrycznych w celu wnioskowania o ich rasie, poglądach politycznych, przynależności do związków zawodowych, wierzeniach religijnych, orientacji seksualnej itp.

8. Zdalna identyfikacja biometryczna w czasie rzeczywistym  

  Zakaz wykorzystywania systemów biometrycznej identyfikacji na żywo w miejscach publicznych dla celów egzekwowania prawa, z wyjątkiem określonych przypadków (np. zapobieganie atakom terrorystycznym, poszukiwanie zaginionych osób).

Egzekwowanie przepisów i sankcje

Za nadzór nad przestrzeganiem zakazów odpowiadają krajowe organy nadzoru rynkowego, a kary za naruszenia AI Act są najwyższe wśród przepisów dotyczących AI, sięgające do 35 mln euro lub 7% rocznego globalnego obrotu przedsiębiorstwa.

Podsumowanie

Nowe wytyczne zapewniają jednolitą interpretację przepisów oraz wskazówki dla podmiotów korzystających z AI. Celem jest ochrona praw podstawowych, w tym prywatności i autonomii jednostki, przy jednoczesnym zapewnieniu bezpiecznego i etycznego rozwoju technologii AI w Unii Europejskiej.

Ważne! Przepisy te wchodzą w życie 2 lutego 2025 r., a ich ścisłe przestrzeganie jest kluczowe dla wszystkich podmiotów wdrażających AI w Europie.

Co to oznacza dla firm?

Firmy działające w obszarze AI muszą dostosować swoje praktyki do nowych wytycznych, aby uniknąć ryzyka prawnego i finansowego. W szczególności oznacza to:

• przedsiębiorstwa powinny przeprowadzić audyt swoich systemów AI, aby upewnić się, że nie stosują zakazanych technik,
• firmy muszą zapewnić przejrzystość działania swoich algorytmów i dostosować się do wymagań AI Act,
• warto wdrożyć odpowiednie szkolenia dla pracowników oraz procedury zapewniające zgodność z regulacjami,
• firmy powinny na bieżąco śledzić rozwój regulacji, by unikać potencjalnych naruszeń.

W założeniu dzięki tym wytycznym podmioty działające w obszarze sztucznej inteligencji mają lepiej zrozumieć i dostosować się do wymogów AI Act, zapewniając jednocześnie ochronę praw podstawowych i wartości europejskich.

Link do wytycznych: https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act

‍