Pierwsze prawo robotyki

Gracjan Pietras

1

Dodane: 8 lat temu

Parlament Europejski zamierza wezwać Komisję Europejską do zmierzenia się z problemem autonomicznych maszyn. Powstaje raport, w którym europejski prawodawca zastanawia się nad statusem tzw. osób elektronicznych.  Robotów, które mogą zostać wyposażone w prawa i obowiązki.

Ten artykuł pochodzi z archiwalnego iMagazine 2/2017

Istota problemu. Rodząca się autonomia maszyn

Sztuczna inteligencja jest już rzeczywistością, a za moment będzie częścią zwykłej codzienności.  Ludzkość bez wątpienia nabiera wprawy w tworzeniu maszyn posiadających umiejętność uczenia się i podejmowania autonomicznych decyzji.  Maszyny już dziś mogą być kierowcami, doradcami, opiekunami, czy nawet kompanami w dyskusji.  To jednak raczej nie koniec.

Autonomię maszyn rozumie się jako ich zdolność do podejmowania decyzji oraz działań w sposób wolny od ludzkiej kontroli.  Ludzki konstruktor wyposaża urządzenie w umiejętność odbierania i analizowania rzeczywistości, a także wbudowuje w nie zasady rządzące procesem podejmowania decyzji.  Złożoność maszyn i rzeczywistości, w której funkcjonują powoduje, że decyzje podejmowane przez maszynę są trudne do przewidzenia.  Rozluźnia się związek pomiędzy konstruktorem a maszyną, której działania są niezależne i mają wpływ na inne osoby.  Ośrodek decyzji znajduje się bowiem poza człowiekiem, a zatem poza podmiotem, któremu można przypisać odpowiedzialność.

To rodzi zupełnie nową dla prawników sytuację i otwiera pole do dyskusji o skutkach prawnych decyzji i działań podjętych przez maszynę.  Kto powinien odpowiadać za skutki wypadku drogowego spowodowanego “błędną decyzją” autonomicznego pojazdu drogowego?  Trzeba podkreślić, że mówimy o błędnej decyzji, która nie jest skutkiem awarii, ale właśnie prawidłowego działania maszyny.  Przykład autonomicznego pojazdu jest zresztą wdzięczny z powodu nieprzewidywalności ruchu drogowego.  Pojazd może znaleźć się bowiem bez swej “winy” w sytuacji, w której będzie musiał dokonać wyboru decydującego o skutkach kolizji.  Czy w sytuacji zagrożenia zderzeniem czołowym samochód powinien skręcić na chodnik i stworzyć zagrożenie dla znajdujących się na nim pieszych, czy nie wykonać takiego manewru narażając swoich pasażerów na zderzenie.  A co, jeśli piesi to duża grupa dzieci, a w samochodzie znajduje się tylko jeden pasażer?  Rodzą trudne do rozwiązania problemy moralne.  Czyje życie i zdrowie powinna narazić lub poświęcić maszyna?  Prawnik zapyta też, kto ponosi odpowiedzialność na tak podjętą decyzję?  Producent maszyny?  Jej właściciel?  A może sama maszyna?

To ostatnie pytanie może wydawać się śmieszne, ale warto zdać sobie sprawę, że jest już dzisiaj rozważane zupełnie serio.  Dalsze rozluźnianie związku pomiędzy konstruktorem a maszyną jest bardzo prawdopodobne, a to zrodzi prędzej, czy później pytanie, czy nie powinny być one – podobnie jak człowiek – podmiotem praw, specjalną “osobą elektroniczną” posiadającą własne uprawnienia i obowiązki.  Zwróćmy uwagę, że już dzisiaj maszyny mogą być zdolne do działań mających cechy twórczości.  Potrafią tworzyć oryginalne utwory literackie, algorytmy i kod komputerowy.  Bez wysiłku można wyobrazić sobie robota, który na podstawie autonomicznych decyzji tworzy utwór muzyczny, czy plastyczny.  I znowu można spytać, do kogo należeć mają prawa autorskie do tak wytworzonych utworów.  Do konstruktora maszyny?  Do jej aktualnego właściciela?  A może właśnie do maszyny?

Prawo nie dysponuje dzisiaj odpowiedziami na takie pytania.  Znane zasady odpowiedzialności cywilnej, czy to oparte o zasadę winy, czy nawet o zasadę ryzyka, nie są ani wystarczające, ani adekwatne.  W sposób oczywisty nie wystarczają również istniejące zasady odpowiedzialności za wady fizyczne rzeczy, czy za tzw. produkt niebezpieczny.  Przepisy nie odpowiadają na wspomniane pytanie o to, do kogo należą prawa autorskie do utworu stworzonego przez maszynę.   Jasne jest jednak, że nie do niej samej.  Maszyna nie może być też właścicielem rzeczy, ani stroną umowy.  Nie można jej przypisać winy za popełnienie przestępstwa i trudno w ogóle wyobrazić sobie, że możemy ją ukarać, w takim znaczeniu, w jakim za przestępstwa karzemy ludzi.  Przynajmniej na razie.

Temat podmiotowości prawnej maszyn wydaje się czystą fantastyką, ale takim właśnie przestaje być i na tym właśnie zasadza się doniosłość pytań formułowanych przez Parlament Europejski.

Jakie prawo powstanie

Tak więc nadeszły czasy, w których prawa robotyki Asimova przestają przynależeć do kategorii science fiction, a stają się częścią istniejącego porządku prawnego.  Jednym z postulatów powstającego w Parlamencie Europejskim raportu jest stworzenie Europejskiej Agencji Robotyki i Sztucznej Inteligencji.  Jej podstawowa rola miałaby mieć charakter ekspercki, choć nie tylko.  Agencja miałaby również prowadzić rejestr robotów, w którym odnotowywane byłyby wszystkie maszyny o określonym zaawansowaniu funkcji autonomicznych.

Raport proponuje stworzenie systemu ubezpieczeń od odpowiedzialności cywilnej za szkody wyrządzone przez autonomiczne roboty.  Udział w takim systemie miałby być obowiązkowy dla producentów maszyn.  Oprócz tego stworzony miałby zostać dodatkowy fundusz odszkodowawczy, z którego pokrywane byłyby wydatki związane z naprawieniem szkód niepokrytych ubezpieczeniem.  Każdy wprowadzony do obrotu robot przyporządkowany miałby zostać do konkretnego funduszu.  Rozważane są również kwestie ograniczonej odpowiedzialności producentów, programistów oraz właścicieli urządzeń.

Najciekawsza jest natomiast skierowana do Komisji Europejskiej rekomendacja rozważenia możliwości stworzenia specjalnego statusu prawnego robotów.  Chodzi o najbardziej wyrafinowane roboty o zaawansowanej autonomii, które mogłyby dzięki temu stać się uczestnikami obrotu prawnego.  Według Parlamentu należy już teraz zastanowić się nad skutkami stworzenia statusu osoby elektronicznej oraz rozważyć listę jej ewentualnych praw i obowiązków.

Wygląda więc na to, że jeśli świat się za szybko nie skończy, będziemy świadkami nowej rewolucji.  Rewolucja ta – jak każda – przyniesie zarówno szanse, jak i nowe zagrożenia.  Na czasy nieodróżnianych od ludzi androidów przyjdzie nam jeszcze poczekać, ale warto odnotować, że tworzą się właśnie podwaliny porządku prawnego, w którym inteligentne maszyny odgrywać będą coraz większą rolę.

Gracjan Pietras

Autor jest adwokatem i wspólnikiem w kancelarii „Doktór Jerszyński Pietras” w Warszawie. www.djp.pl