Nowe regulacje AI Act: klasyfikacja systemów w branży jachtowej

Sztuczna inteligencja (AI) odgrywa coraz większą rolę w przemyśle jachtowym i żeglarskim, od autonomicznych systemów nawigacyjnych po inteligentne systemy monitorowania bezpieczeństwa. Nowe przepisy Unii Europejskiej zawarte w AI Act regulują stosowanie tych technologii, mając na celu ochronę użytkowników i promowanie etycznego oraz bezpiecznego wdrażania AI.  

W tym artykule, poświęconym przede wszystkim właścicielom i użytkownikom jachtów oraz właścicielom stoczni znajdziecie najważniejsze przepisy i klasyfikacje systemów AI, które mogą być wykorzystywane w branży jachtowej. 

Klasyfikacja systemów AI w branży jachtowej

AI Act klasyfikuje systemy AI na cztery kategorie w zależności od ryzyka, jakim mogą być dla użytkowników i otoczenia. Każda z h kategorii ma określone wymogi wdrażania i nadzorowania systemów.

 I  Systemy wysokiego ryzyka

Systemy AI o wysokim ryzyku mają największy wpływ na bezpieczeństwo i wymagają szczególnych zabezpieczeń. W branży jachtowej do tej kategorii można zaliczyć: 

• autonomiczne systemy nawigacyjne i autopiloty – systemy zarządzające ruchem jachtu, które mogą działać autonomicznie i muszą zapewniać bezpieczną nawigację oraz umożliwiać szybkie przejęcie kontroli przez człowieka w razie awarii; 
• systemy zarządzania kryzysowego i systemy ostrzegawcze – AI wspierająca identyfikację sytuacji awaryjnych (np. unikanie kolizji) oraz reagowanie na trudne warunki atmosferyczne; 
• systemy monitorowania technicznego – wykorzystywane do nadzorowania stanu technicznego jachtu, np. silnika lub kadłuba, w celu przewidywania awarii.

Systemy te muszą spełniać rygorystyczne wymogi AI Act, obejmujące regularne audyty, dokumentację techniczną oraz zarządzanie ryzykiem, aby zapewnić ochronę zdrowia, życia i bezpieczeństwa użytkowników. 

 II  Systemy ograniczonego ryzyka 

Systemy AI tej kategorii mogą mieć mniejszy wpływ na bezpieczeństwo, ale wymagają zapewnienia odpowiedniej przejrzystości działania: 

• systemy komunikacyjne i asystenci głosowi – służące do zarządzania funkcjami jachtu na podstawie poleceń głosowych lub wspierające interakcję z użytkownikiem. Wymagają jedynie poinformowania użytkownika, że ma do czynienia z systemem AI; 
• systemy monitorowania pasażerów – rozwiązania AI wykorzystywane do monitorowania zachowań pasażerów i zapewnienia bezpieczeństwa na pokładzie.

Operatorzy jachtów i właściciele stoczni muszą zadbać o to, by użytkownicy byli informowani o działaniu tych systemów oraz o ich ograniczeniach i celach. 

 III  Systemy minimalnego ryzyka 

Są to systemy AI, które mają bardzo niski potencjalny wpływ na bezpieczeństwo użytkowników: 

• filtry antyspamowe w systemach komunikacji – systemy blokujące niepożądane wiadomości, minimalizujące ryzyko zakłócenia komunikacji na jachcie; 
• rekomendacje treści rozrywkowych – na przykład rekomendowanie playlist muzycznych lub filmów.

Systemy minimalnego ryzyka nie wymagają dodatkowych zabezpieczeń ani dokumentacji, co sprawia, że operatorzy mogą z nich korzystać bez większych ograniczeń.

 IV  Zakazane zastosowania 

AI Act zabrania stosowania niektórych systemów AI, które mogą prowadzić do naruszeń prywatności lub być stosowane w celach manipulacyjnych. W kontekście jachtów i stoczni mogą to być: 

• systemy zdalnej identyfikacji biometrycznej – wszelkie systemy do rozpoznawania twarzy pasażerów bez ich wiedzy i zgody są niedozwolone; 
• scoring społeczny pasażerów – zakazane jest używanie systemów AI do oceny pasażerów lub przyznawania im przywilejów na podstawie ich zachowań lub danych osobowych.

Zakaz tych systemów ma na celu ochronę prywatności i autonomii pasażerów oraz zapobieganie dyskryminacji.

Rozpoznanie kategorii systemu AI zastosowanego w branży jachtowej ma istotne znaczenie da właścicieli i operatorów jachtów czy właścicieli stoczni, bo nakłada na nich konkretne obowiązki, które wiążą się z poszczególnymi kategoriami, ale też odpowiedzialność za ich niedopełnienie, o czym będziemy pisać już wkrótce.