Odpowiedzialność za szkody wywołane przez AI
Spis treści
Czym jest sztuczna inteligencja (AI)?
AI jest jednym z najszybciej rozwijających się obszarów technologii. Termin sztuczna inteligencja wymyślił John McCarthy już w 1956 roku na konferencji w Dartmouth. Definicja sztucznej inteligencji określa ją jako: zdolność systemu do prawidłowego interpretowania danych pochodzących z zewnętrznych źródeł, nauki na ich podstawie oraz wykorzystywania tej wiedzy, aby wykonywać określone zadania i osiągać cele poprzez elastyczne dostosowanie. Sztuczną inteligencją zajmował się też wcześniej m.in. Alan Turing czy Marvin Minsky, będący autorem definicji, która raczej by się nie spodobała kobietom: jest to nauka tworzenia maszyn, które wymagają inteligencji, gdyby uczynili to mężczyźni.
Najogólniej mówiąc, sztuczna inteligencja jest to tworzenie systemów komputerowych, które mają naśladować ludzką inteligencję. Systemy te są zaprojektowane tak, aby mogły uczyć się na podstawie doświadczeń, analizować złożone dane, podejmować decyzje i rozwiązywać problemy w sposób, który naśladuje ludzkie myślenie.
Współcześni badacze AI idą nieco dalej i definiują sztuczną inteligencję jako system, który jest w stanie postrzegać swoje środowisko i podejmować działania, aby zmaksymalizować szansę na pomyślne osiągnięcie swoich celów. Jedną z kluczowych cech AI jest zdolność do adaptacji – AI może dostosowywać swoje działanie na podstawie nowych informacji, co oznacza, że może się uczyć i rozwijać w miarę zbierania kolejnych danych (podobnie jak człowiek).
Rodzaje sztucznej inteligencji
AI można podzielić na kilka kategorii, w zależności od stopnia zaawansowania i zakresu zastosowań.
Słaba AI (ANI – Artificial Narrow Intelligence) – jest to forma AI zaprojektowana do wykonywania konkretnego zadania lub zestawu zadań. Przykładem słabej AI są systemy rozpoznawania twarzy, asystenci głosowi jak Siri czy Alexa oraz algorytmy rekomendacyjne używane przez serwisy streamingowe. Słaba AI działa w ramach wąsko zdefiniowanych parametrów i nie posiada zdolności do samodzielnego myślenia poza tymi granicami.
Silna AI (AGI – Artificial General Intelligence) – jest to hipotetyczna forma AI, która miałaby zdolność do wykonywania każdego zadania intelektualnego, które może wykonać człowiek. AGI potrafiłaby uczyć się i adaptować w różnych kontekstach, przekraczając granice pojedynczych specjalizacji. Obecnie AGI jest raczej przedmiotem badań naukowych i spekulacji niż praktycznym rozwiązaniem.
Superinteligencja (ASI – Artificial Superintelligence) – to jeszcze bardziej zaawansowana koncepcja, w której AI przewyższałaby możliwości intelektualne ludzi we wszystkich dziedzinach. ASI mogłaby nie tylko rozwiązywać problemy szybciej i efektywniej, ale także tworzyć nowe technologie i teorie, które są poza zasięgiem ludzkiego rozumu. Tego rodzaju AI pozostaje na razie w sferze teorii.
Zastosowania sztucznej inteligencji
AI znajduje zastosowanie w wielu dziedzinach, od prostych aplikacji użytkowych po zaawansowane systemy, które zmieniają sposób funkcjonowania całych branż.
Przemysł – AI jest wykorzystywana do optymalizacji procesów produkcyjnych, automatyzacji rutynowych zadań i poprawy wydajności. Przykłady obejmują roboty przemysłowe, systemy zarządzania magazynami i analizę danych produkcyjnych w celu przewidywania awarii maszyn.
Medycyna – AI wspomaga diagnostykę medyczną, analizę obrazów, a nawet planowanie leczenia. Systemy oparte na AI mogą analizować dane medyczne z niespotykaną dokładnością, co pozwala na wcześniejsze wykrywanie chorób i personalizację terapii.
Transport – autonomiczne pojazdy to jedno z najbardziej widowiskowych zastosowań AI. Samojezdne samochody, drony dostawcze i zaawansowane systemy zarządzania ruchem drogowym są już testowane i stopniowo wprowadzane do użytku.
Finanse – AI jest wykorzystywana w analizie ryzyka, zarządzaniu portfelami inwestycyjnymi oraz w systemach antyfraudowych. Banki i instytucje finansowe używają AI do analizy wielkich zbiorów danych, co pozwala na szybsze i bardziej precyzyjne podejmowanie decyzji.
Obsługa klienta – chatboty i wirtualni asystenci, wspomagani przez AI, są coraz częściej wykorzystywani w obsłudze klienta. Pozwalają na automatyzację odpowiedzi na pytania klientów przy jednoczesnym zbieraniu danych, które mogą być wykorzystywane do dalszej optymalizacji usług.
Odpowiedzialność za szkody wywołane przez AI
Jednym z kluczowych aspektów AI jest jej zdolność do podejmowania autonomicznych decyzji. Tradycyjne oprogramowanie działa na podstawie jasno określonych reguł i kodu napisanego przez programistów. AI natomiast, szczególnie w przypadku algorytmów uczenia maszynowego (machine learning), jest w stanie samodzielnie uczyć się na podstawie danych wejściowych i podejmować decyzje, które nie zostały bezpośrednio zaprogramowane przez człowieka.
Przykładem jest wykorzystanie sztucznej inteligencji w diagnostyce medycznej, która analizując tysiące przypadków, może dojść do wniosków, które nie były wcześniej oczywiste dla lekarzy. Podobnie, AI stosowana w autonomicznych pojazdach podejmuje decyzje na podstawie danych z czujników i kamer, aby uniknąć kolizji, przewidzieć ruchy innych uczestników drogi i wybrać optymalną trasę.
Po pierwsze więc, AI może podejmować decyzje, które są trudne do wyjaśnienia lub zrozumienia nawet dla jej twórców, co określane jest jako problem czarnej skrzynki (black box – polegający na tym, że możliwe jest zobaczenie danych wejściowych i wyjściowych, natomiast brak jest wglądu w same procesy podejmowania decyzji przez AI).
Po drugie, autonomiczność AI rodzi pytania dotyczące odpowiedzialności za jej działania. W sytuacji, gdy AI podejmie błędną decyzję, prowadzącą do szkody, trudne do rozstrzygnięcia pozostaje pytanie, kto jest za nią odpowiedzialny.
Tradycyjne ramy prawne opierają się na założeniu, że podmiotem odpowiedzialnym za szkodę jest osoba fizyczna lub prawna. AI nie jest jednak ani jednym, ani drugim, co rodzi pytanie: kto powinien ponosić odpowiedzialność w sytuacji, gdy AI wyrządza szkodę?
Analizowałam w powyższym artykule m.in. odpowiedzialność za szkody wyrządzone przez roboty (w których są głównie wykorzystywane rozwiązania z obszaru sztucznej inteligencji, takie jak machine learning i deep learning).
Modele odpowiedzialności za działania AI
Potrzeba ustalenia ram odpowiedzialności za decyzje podejmowane przez sztuczną inteligencję jest jednym z kluczowych wyzwań współczesnego prawa.
W literaturze oraz praktyce prawnej można wyróżnić kilka podejść do odpowiedzialności za działania AI:
Odpowiedzialność producenta – w tym modelu odpowiedzialność za szkody wywołane przez AI spoczywa na producencie oprogramowania lub urządzenia. Podstawą prawną może tu być odpowiedzialność za produkt niebezpieczny, znana z prawa konsumenckiego.
Odpowiedzialność operatora – alternatywnym podejściem jest przeniesienie odpowiedzialności na osobę lub podmiot, który obsługuje lub kontroluje AI. Operator, poprzez swoje działania lub zaniechania, może przyczynić się do powstania szkody.
Odpowiedzialność użytkownika końcowego – niektórzy eksperci sugerują, że to użytkownik końcowy, który korzysta z AI, powinien ponosić odpowiedzialność za ewentualne szkody, szczególnie jeśli korzysta z AI w sposób niewłaściwy lub niezgodny z zaleceniami producenta.
Odpowiedzialność ubezpieczeniowa – niektórzy proponują stworzenie specjalnych funduszy odszkodowawczych lub systemów ubezpieczeniowych, które pokrywałyby szkody wywołane przez AI. Taki model mógłby działać podobnie jak ubezpieczenia OC w przypadku pojazdów mechanicznych. Przykładowo, w Japonii funkcjonuje już ubezpieczenie OC robota.
Regulacje prawne dotyczące AI
AI Act
W miarę jak sztuczna inteligencja staje się wszechobecna w różnych dziedzinach życia, rośnie potrzeba stworzenia ram prawnych, które uregulują jej rozwój i zastosowanie. W odpowiedzi na te wyzwania Unia Europejska wprowadziła rozporządzenie dotyczące sztucznej inteligencji, znane jako AI Act. AI Act jest pierwszym na świecie kompleksowym aktem prawnym, który ma na celu uregulowanie kwestii związanych z AI na poziomie międzynarodowym.
AI Act został opublikowany przez Komisję Europejską 12 lipca 2024 roku i stanowi próbę ujednolicenia przepisów dotyczących sztucznej inteligencji w państwach członkowskich Unii Europejskiej. Celem rozporządzenia jest zapewnienie, że AI będzie rozwijana i stosowana w sposób bezpieczny, przejrzysty, etyczny i zgodny z wartościami europejskimi. AI Act ma także na celu wzmocnienie konkurencyjności Unii Europejskiej w dziedzinie sztucznej inteligencji, jednocześnie chroniąc podstawowe prawa obywateli.
Rozporządzenie obejmuje szeroki zakres technologii AI, od algorytmów uczenia maszynowego po systemy rekomendacyjne i zautomatyzowane procesy decyzyjne. W AI Act zastosowano podejście oparte na ryzyku, co oznacza, że różne systemy AI są regulowane w zależności od poziomu ryzyka, jakie mogą stwarzać dla społeczeństwa. Wyróżniono systemy niosące wysokie ryzyko dla zdrowia, bezpieczeństwa oraz praw i wolności osobistych (m.in. systemy znajdujące zastosowanie w służbie zdrowia, pojazdy autonomiczne, systemy wyborcze).
AI Act wprowadza również wymogi dotyczące przejrzystości, nadzoru nad AI oraz obowiązku raportowania incydentów związanych z jej działaniem. Dokument przewiduje także surowe sankcje za nieprzestrzeganie jego przepisów (np. grzywny w wysokości nawet 30 milionów euro). Planowane jest także utworzenie Europejskiej Rady ds. Sztucznej Inteligencji (European Artificial Intelligence Board), która będzie odpowiedzialna za monitorowanie wdrażania przepisów, koordynację działań między państwami członkowskimi oraz doradztwo w sprawach związanych z AI.
Eksperci przewidują, że wpływ AI ACT będzie podobny, jak wprowadzenie innego unijnego aktu – Ogólnego Rozporządzenia o Ochronie Danych Osobowych z 2018 roku (RODO). Ministerstwo Cyfryzacji pracuje już nad projektem ustawy, która pozwoli na stosowanie AI Act w Polsce.
AI Liability Directive (AILD)
Wcześniej, bo 28 września 2022 roku Komisja Europejska przyjęła propozycję dyrektywy w sprawie odpowiedzialności za sztuczną inteligencję (AI Liability Directive, AILD). Uzupełnia i unowocześnia ona unijne ramy odpowiedzialności cywilnej, wprowadzając po raz pierwszy przepisy dotyczące szkód wyrządzonych przez systemy AI. Jej celem jest ustanowienie szerszej ochrony ofiar AI poprzez ułatwienie dochodzenia roszczeń o odszkodowanie, a także wspieranie sektora sztucznej inteligencji. Projekt dyrektywy w tej sprawie podlega dalszemu procesowi prawodawczemu UE. Pełna jego treść znajduje się tutaj.
W odniesieniu do systemów wysokiego ryzyka zaprojektowano nawet obowiązkowe ubezpieczenie odpowiedzialności użytkowników końcowych (operatorów) lub producentów, w zakresie, w jakim odpowiedzialność nie mieściłaby się lub wykraczała poza regulacje dotyczące odpowiedzialności za produkt.
Czy da się ubezpieczyć sztuczną inteligencję?
Tradycyjne polisy ubezpieczeniowe nie zawsze są dostosowane do specyfiki ryzyka związanego z AI, co rodzi pytanie: czy obecnie możliwe jest skuteczne ubezpieczenie szkód spowodowanych przez sztuczną inteligencję?
Na rynku istnieją już produkty ubezpieczeniowe dedykowane sektorowi IT, w tym AI. Przykładem jest ubezpieczenie OC zawodowe dla IT, które chroni przed roszczeniami z tytułu błędów w oprogramowaniu, wadliwego działania systemów AI czy też naruszenia praw autorskich.
Jednym z kluczowych wyzwań związanych z ubezpieczeniem AI jest ocena ryzyka. W przypadku AI ryzyko może być trudne do oszacowania ze względu na dynamiczny charakter technologii, jej zdolność do uczenia się oraz podejmowania autonomicznych decyzji. Kolejnym problemem jest ustalenie, kto powinien wykupić polisę – producent, operator, a może użytkownik końcowy? W przypadku niejasnych przepisów, firmy ubezpieczeniowe mogą mieć trudności z opracowaniem odpowiednich produktów, co może ograniczać dostępność takich ubezpieczeń na rynku.
W miarę upowszechniania się AI, konieczne staje się dostosowanie systemów prawnych i ubezpieczeniowych do nowych realiów technologicznych. Choć istnieją różne modele odpowiedzialności, to wciąż brak jednoznacznych regulacji prawnych, które jasno określałyby, kto odpowiada za działania AI. W związku z tym sektor ubezpieczeniowy również stoi przed wyzwaniami związanymi z tworzeniem odpowiednich produktów chroniących w tym obszarze.
Aleksandra Woźniakowska
Brokerka.
Odpowiada za ubezpieczenia majątkowe dla branży IT. Na co dzień szeroko dba o bezpieczeństwo Software House’ów.
W ubezpieczeniach od 7 lat.
