Facebook i Microsoft chcą skutecznie walczyć z deepfake’ami. 10 mln dolarów na nowe narzędzia

Deepfake to zjawisko tworzenia i zamieszczania w internecie zmanipulowanych filmów wideo, fotografii lub nagrań dźwiękowych, w których oryginalna treść zostaje zmieniona zgodnie z intencjami autora.

Deepfake to materiały spreparowane za pomocą sztucznej inteligencji i uczenia maszynowego. W rezultacie może np. powstać film, na którym twarz bohatera zostaje podmieniona na inną, która dopasowuje swoją mimikę do oryginalnej treści nagrania. W rezultacie powstaje deepfake, w którym wstawiona sztucznie osoba może wykonywać czynności, których nigdy nie dokonała czy brać udział w wydarzeniach, w których nigdy nie uczestniczyła. Technika deepfake była już wcześniej wykorzystywana m.in. do walki politycznej w niektórych krajach.

Teraz Facebook poinformował na swoim blogu o powołaniu nowego projektu, którego celem jest skuteczniejsza niż dotąd walka ze zjawiskiem deepfake.

Chodzi inicjatywę o nazwie Deepfake Detection Challenge (DFDC), którą tworzą wspólnie Facebook, Microsoft oraz kilka uczelni, m.in. Cornell Tech, MIT, Oxford, Berkeley i Maryland.

Projekt zakłada aktywne wspieranie tworzenia nowych narzędzi i metod pozwalających na skuteczne wykrywanie zmanipulowanych treści wideo, audio i zdjęć oraz walkę z nimi.

W ramach DFDC mają być m.in. organizowane szkolenia i merytoryczne wsparcie ekspertów przy tworzeniu rozwiązań walczących z deepfake. Facebook zapowiedział, że na potrzeby projektu przeznaczy budżet w wysokości 10 mln dol. W planach jest np. stworzenie serii filmów z opłaconymi aktorami, które dokładnie zobrazują techniki wykorzystywane przy tworzeniu zmanipulowanych treści wideo. Biblioteka tych materiałów ma być dostępna od grudnia br., będą z niej mogły korzystać wszystkie firmy i organizacje które podejmą się stworzenia nowych narzędzi przeznaczonych do skutecznego wykrywania treści typu deepfake.