Apple zaostrza zasady App Store: deepfejki z AI i aplikacje „nudify” na celowniku
Apple rozszerzyło zasady moderacji App Store o obrazy intymne generowane przez AI bez zgody osób przedstawionych — informuje redakcja MacRumors.
Treści jednoznacznie seksualne były zakazane już wcześniej, ale teraz deweloperzy muszą aktywnie zapobiegać powstawaniu takich deepfake’ów na swoich platformach i je usuwać. Apple ostrzega, że aplikacje z niedozwolonymi treściami mogą zostać usunięte ze sklepu, jeśli twórcy nie zareagują.
Zaktualizowany punkt 1.2 wprost wymienia aplikacje do tworzenia treści AI i może dotyczyć m.in. Groka od xAI. Użytkownicy skarżyli się, że chatbot ten bywał wykorzystywany do generowania nagich i seksualizowanych deepfake’ów, a wcześniej w tym roku Apple miało ostrzec xAI, że usunie aplikację ze sklepu, jeśli firma nie ukróci tej praktyki. xAI wprowadziło zabezpieczenia i Apple zatwierdziło zaktualizowaną wersję.
W sklepie App Store zabronione są również aplikacje zawierające ukryte lub nieudokumentowane funkcje, w tym aplikacje, które podczas procesu weryfikacji podają nieprawdziwe informacje na temat swojego przeznaczenia, a dopiero po zatwierdzeniu ujawniają szkodliwe funkcje — takie jak „nudification” — co jest taktyką powszechnie znaną jako „bait-and-switch”.
Apple dodało też nową wytyczną 2.5.19, według której deweloperzy dodający funkcje nieobecne w wersji przekazanej do recenzji ryzykują usunięcie aplikacji z App Store i z programu Apple Developer. Reguła wiąże się z aplikacjami „nudyfikującymi”, które tworzą wyraźnie seksualne obrazy prawdziwych osób bez ich zgody — wygląda na to, że część z nich ukrywała swój prawdziwy cel podczas recenzji i dodawała funkcję po zatwierdzeniu, czyli stosowała taktykę bait-and-switch. Wytyczne zabraniają też aplikacji z ukrytymi lub nieudokumentowanymi funkcjami.
Zmieniono także sekcję 5, rozszerzając zakaz aplikacji ułatwiających handel ludźmi i wykorzystywanie dzieci na alternatywną dystrybucję aplikacji. Jak czytamy w komunikacie dla deweloperów, Apple „nie waha się usuwać aplikacji i blokować stojących za nimi deweloperów”, jeśli naruszają te zasady.
