Aplikacja mobilna, która wykryje i usunie wszystkie nagie zdjęcia selfie wykonane przez dziecko

08/07/2022, 14:48 · · · 0

Czy na pewno wiesz, w jaki sposób Twoje dziecko korzysta ze smartfona? Z pewnością większość rodziców odpowie, że wie. Gdyby tak faktycznie było, aplikacja, o jakiej tu Was informuję, nie byłaby potrzebna. Japońska firma Smartbooks opracowuje aplikację, której zadaniem jest automatyczne wykrycie i usunięcie jakichkolwiek zdjęć selfie zawierających nagość. Jednak to trochę inne rozwiązanie niż funkcje wbudowane w iOS, o których informował Was Krzysztof.

Aplikacja o nieoficjalnej jeszcze nazwie Kodomamo, co jest frazą powstałą z połączenia japońskich słów oznaczających „dziecko” i „ochrona”, wykorzystuje sztuczną inteligencję w celu analizy i detekcji niepożądanych zdjęć wykonanych przez użytkownika danego urządzenia mobilnego – w domyśle, dziecko. Za powstanie tego programu odpowiada zespół programistów z wspomnianej firmy Smartbooks, współpracujący z naukowcami z Uniwersytetu Medycznego Fujita w prefekturze Aichi oraz policjantami z wydziału policji w Nakamurze, dzielnicy miasta Nagoja.

Głównym celem tworzonej aplikacji, która powstaje jako jeden ze sposobów na zapobieganie wykorzystywaniu seksualnemu dzieci i nieletnich jest w pełni automatyczna, oparta na maszynowo wyuczonych algorytmach blokada jakiejkolwiek próby wysłania kompromitującej treści zawierającej nagość. Zastępca kierownika wydziału bezpieczeństwa jednostki policji w dzielnicy Nakamura, Nobuhiro Suzuki mówi wprost:

Relacje pomiędzy dziećmi a mediami społecznościowymi są niezwykle splecione. Chcielibyśmy używać tej aplikacji, aby zapobiegać nadużyciom seksualnym.

Aplikacja zainstalowana na smartfonie dziecka skanuje w tle wszystkie zdjęcia i analizuje każdą nowo wykonaną fotografię danym urządzeniem. Sztuczna inteligencja wykrywa nagie fotografie, a także zdjęcia podbrzusza, klatki piersiowej czy genitaliów. Jeżeli AI wykryje niepożądaną treść na zdjęciu automatycznie usunie daną fotografię, zanim jeszcze zostanie ona uploadowana np. do chmury. Co więcej, każdorazowe wykrycie niewłaściwej fotografii generuje automatycznie powiadomienie wysyłane w tle do opiekuna dziecka. Programiści pracują również nad funkcją, która uniemożliwiła by usunięcie aplikacji z telefonu dziecka bez podania odpowiedniego kodu, który – w zamyśle twórców – powinien być znany wyłącznie rodzicom.

Gotowa aplikacja opracowana przez japońskich specjalistów ma być gotowa do publicznej dystrybucji jeszcze w tym roku. Czy to dobry pomysł? Kolejna aplikacja? Istotnie, w pierwszym odruchu możemy potraktować opisywane rozwiązanie jako kolejne narzędzie kontroli rodzicielskiej na urządzeniach mobilnych swoich pociech. Jednak w tym przypadku jest pewna bardzo istotna różnica. Aplikacja nie filtruje każdej czynności, jaką dziecko może wykonać na smartfonie. Tymczasem wiele aplikacji do kontroli rodzicielskiej stawia rodziców w roli swego rodzaju „Wielkiego Brata” który monitoruje każdy bit przesłanej z i do smartfonu dziecka informacji. Tym razem jest inaczej. Aplikacja w żadnym razie nie ingeruje w prywatność dzieci, lecz pozwala bardzo szybko wyłapać potencjalnie niebezpieczne zachowania.



0