Sztuczna inteligencja wychodzi z cienia. Unia Europejska bezwzględnie nakazuje oznaczanie treści AI
Granica między prawdziwym zdjęciem a dziełem generatora obrazów zaciera się z każdym dniem. Podobnie jest z tekstami i botami udającymi żywych rozmówców. Unia Europejska mówi „sprawdzam” i wprowadza w życie artykuł 50. z głośnego rozporządzenia AI Act.
Od teraz każda interakcja z maszyną i każdy sztucznie wygenerowany materiał muszą być jasno i czytelnie oznaczane, by chronić użytkowników przed manipulacją.
Koniec z udawaniem człowieka
Zgodnie z nowymi przepisami, firmy dostarczające i wdrażające systemy generatywnej sztucznej inteligencji mają absolutny obowiązek poinformowania użytkownika, że rozmawia on z maszyną. Wyjątkiem są jedynie sytuacje, w których z samego kontekstu jasno wynika, że mamy do czynienia z asystentem głosowym lub automatycznym narzędziem.
Nowe prawo nakłada również kaganiec na systemy generujące obrazy, wideo oraz dźwięk. Każdy taki materiał musi od teraz zawierać zaszyte, odczytywalne maszynowo oznaczenie potwierdzające jego sztuczne pochodzenie. Unijni prawodawcy celnie rozróżniają jednak całkowite generowanie obrazu od drobnych poprawek. Zwykły, rutynowy retusz zdjęcia w programie graficznym nie wymaga specjalnego znakowania – obowiązek dotyczy materiałów w całości tworzonych przez algorytmy lub mocno przez nie zmanipulowanych.
Deepfake’i i biometria pod ścisłą kontrolą
Szczególną uwagę w nowym prawie poświęcono zjawisku deepfaków, które są masowo wykorzystywane do oszustw finansowych i kradzieży tożsamości. Każdy wygenerowany materiał wideo lub audio musi posiadać jawną informację o tym, że został zmanipulowany. Lżejsze restrykcje nałożono jedynie na treści o charakterze ewidentnie satyrycznym lub artystycznym – tam komunikat ma po prostu nie przeszkadzać w odbiorze dzieła.
Na baczności muszą mieć się również podmioty korzystające z systemów rozpoznawania emocji i kategoryzacji biometrycznej. Każda osoba, która zostanie poddana działaniu takich algorytmów (np. w miejscach publicznych czy sklepach), musi zostać o tym fakcie poinformowana.
Co to oznacza dla rynku informacji?
Artykuł 50. to również ważny sygnał dla rynku medialnego. Teksty informacyjne tworzone przez AI muszą posiadać wyraźną adnotację o swoim pochodzeniu. Z tego obowiązku zwalnia jedynie pełny przegląd i redakcja tekstu przez żywego człowieka, który ostatecznie bierze na siebie odpowiedzialność za opublikowany materiał.
Oznacza to, że zrzucanie do sieci surowych, wygenerowanych newsów bez żadnej kontroli będzie na terenie Unii Europejskiej łamaniem prawa. Bruksela nie przewidziała w tej kwestii żadnego okresu przejściowego na poinformowanie użytkownika „po fakcie” – komunikaty muszą pojawiać się przed pierwszą interakcją z systemem. Uprzedzaliśmy już o tym wcześniej, ale teraz mechanizm ten wkracza w nasze życie. Na poważnie.
Unijny bat na AI od sierpnia. Nie tylko Allegro – oto jakie obowiązki czekają twórców i sprzedawców
