Aplikacja Zdjęcia Google powie ci, czy fotografia jest dziełem AI
W kodzie aplikacji Zdjęcia Google odkryto ślady nowej, niezwykle istotnej funkcji, która ma pomóc w walce z dezinformacją wizualną.
Wykryta funkcja o nazwie About this image jest częścią szerszego standardu przetwarzania informacji Content Credentials. Pozwoli ona sprawdzić, czy zdjęcie lub film, które oglądamy, zostało stworzone lub zmodyfikowane przez sztuczną inteligencję.
W czasach, gdy granice między treściami autentycznymi a syntetycznymi coraz bardziej się zacierają, Google pracuje nad rozwiązaniem, które ma przywrócić przejrzystość w świecie cyfrowych multimediów. Jak donoszą zagraniczne serwisy technologiczne, nowa funkcja ma pojawić się w szczegółach pliku jako dodatkowa sekcja. Należy podkreślić, że nie jest to jeszcze wprowadzone rozwiązanie, na razie odkryto jedynie ślad funkcji w kodzie aplikacji Zdjęcia Google.
Funkcja ma wykorzystywać metadane obrazu do śledzenia jego pochodzenia i historii. System będzie w stanie przechowywać informacje o wszystkich edycjach, zarówno tych dokonanych z użyciem narzędzi AI, jak i tradycyjnych programów. Jeśli historia pliku zostanie zmodyfikowana lub usunięta, aplikacja ma wyświetlić odpowiedni komunikat ostrzegawczy, informując, że nie można zweryfikować autentyczności medium.
Narzędzie ma identyfikować różne scenariusze: od prostych edycji, przez użycie wielu funkcji edycyjnych AI, aż po obrazy w całości wygenerowane przez sztuczną inteligencję. Treści, w które ingerowała AI, mają być wyraźnie oznaczone specjalną etykietą. Inicjatywa ta jest częścią szerszego standardu Content Credentials, rozwijanego we współpracy z organizacją C2PA (Coalition for Content Provenance and Authenticity), której celem jest walka z dezinformacją.
Nowe rozwiązanie jest odpowiedzią Google na rosnący problem deepfake’ów i manipulacji wizualnych. Chociaż na publiczne wdrożenie tej funkcji musimy jeszcze poczekać, jej pojawienie się w kodzie aplikacji to wyraźny sygnał, że gigant z Mountain View traktuje problem autentyczności treści bardzo poważnie. To krok w stronę internetu, w którym łatwiej będzie odróżnić prawdę od cyfrowej kreacji.
Naukowcy znaleźli sposób na deepfake’i. Ukryli tajny kod w świetle
