Pracownicy OpenAI ostrzegają przed zagrożeniami związanymi z AI
Kilku obecnych i byłych pracowników OpenAI i Google DeepMind udostępniło list otwarty ostrzegający przed niebezpieczeństwami związanymi z zaawansowaną sztuczną inteligencją i obecnym brakiem nadzoru nad firmami pracującymi nad technologią AI.
Autorzy listu sugerują, że istnieje szereg zagrożeń, na jakie stoimy w związku z rozwojem sztucznej inteligencji, w tym dalsze utrwalanie istniejących nierówności, manipulacja i dezinformacja oraz utrata kontroli nad autonomicznymi systemami sztucznej inteligencji, co według pisma może doprowadzić do wyginięcia ludzkości.
Firmy zajmujące się sztuczną inteligencją mają „silne zachęty finansowe”, aby kontynuować rozwój i unikać dzielenia się informacjami na temat swoich środków ochronnych i poziomów ryzyka. „Nie uważamy, że można polegać na tym, że wszyscy dobrowolnie się tym podzielą” – czytamy w piśmie, w którym stwierdzono, że zabranie głosu obecnym i byłym pracownikom należy do obowiązków obecnych i byłych pracowników.
Dopóki nie będzie skutecznego nadzoru rządowego nad tymi korporacjami, obecni i byli pracownicy należą do nielicznych osób, które mogą pociągnąć ich do odpowiedzialności przed społeczeństwem. Jednak szerokie umowy o zachowaniu poufności (NDA) uniemożliwiają nam wyrażanie naszych obaw, z wyjątkiem samych firm, które mogą nie zająć się tymi kwestiami. Zwykła ochrona sygnalistów jest niewystarczająca, ponieważ skupia się na nielegalnej działalności, a wiele niepokojących nas ryzyk nie zostało jeszcze uregulowanych.
Pracownicy ostatecznie wzywają firmy zajmujące się sztuczną inteligencją do zapewnienia solidnej ochrony sygnalistom za wypowiadanie się na temat zagrożeń związanych ze sztuczną inteligencją.
List podpisało łącznie 13 pracowników, w tym siedmiu byłych pracowników OpenAI, czterech obecnych pracowników OpenAI, jeden były pracownik Google DeepMind i jeden obecny pracownik Google DeepMind. OpenAI zagroziło pracownikom utratą przysługującego im kapitału za zabieranie głosu i zmusza ich do podpisania drakońskich umów NDA, które dławią większą krytykę.
Krzysztof Kołacz
🎙️ O technologii i nas samych w podcaście oraz newsletterze „Bo czemu nie?”. ☕️ O kawie w podcaście „Kawa. Bo czemu nie?”. 🏃🏻♂️ Po godzinach biegam z wdzięczności za życie.
