W co wierzyć, jeśli nie wiadomo co jest prawdą?

Deepfake to tworzone przy udziale sztucznej inteligencji nagrania audio lub filmy, które są kłamstwem nieodróżnialnym od prawdy. Na takich filmach osoby w nich występujące mówią rzeczy, których nigdy w rzeczywistości nie powiedziały i robią rzeczy, których nigdy nie robiły. Nie da się przy tym dostrzec manipulacji.

Jest to tym bardziej niepokojące, iż badania dowiodły, że fałszywe wiadomości rozchodzą się po Sieci o wiele szybciej i dalej niż informacje autentyczne. Masowa powszechność deepfake’ów może załamać zaufanie do całego systemu polityczno-naukowo-religijno-ekonomicznego. Jeśli nie wiadomo co jest prawdziwą wypowiedzią, a co nie, to jaki istnieje powód, by wierzyć komukolwiek?

W Internecie pojawiła się swego czasu demonstracja możliwości jednego z programów, w których Barack Obama „mówi”: „Wkraczamy w erę, w której nasi wrogowie będą mogli pokazać każdego, mówiącego cokolwiek, co będą chcieli”. Wyobraźmy sobie, że na deepfake’owym filmie Donald Trump wypowiada Rosji wojnę termojądrową.

Wielkimi krokami zbliża się moment, kiedy nikt nie będzie mógł się ustrzec przed ośmieszeniem. Każdy będzie zagrożony. Dość łatwo wyobrazić sobie sytuację, gdy ktoś w akcie zemsty tworzy filmy pornograficzne z nielubianymi koleżankami, kolegami, nauczycielami, sąsiadami itd. Politycy zostaną bohaterami filmów, w których wypowiadają stwierdzenia całkowicie sprzeczne z tym, co do tej pory głosili. Nikt też nie chciałby być ofiarą filmu ukazującego fakt, że oszukujemy każdego pracodawcę. Kto nam bowiem wtedy da zatrudnienie?

Upowszechnienie się narzędzi do tworzenia deepfake’ów oznaczać będzie upadek wszystkich autorytetów publicznych. Każdy bowiem może zostać trwale skompromitowany.

Amerykańska agencja DARPA próbuje rozwijać skuteczne narzędzia służące rozpoznawaniu deepfake’ów, ale inne agencje tworzą programy za pomocą których fałszywe filmy są coraz trudniej rozpoznawalne nawet dla algorytmów, których jedynym zadaniem jest odróżnienie prawdy od kłamstwa.

Ponadto, opracowana przez inżynierów z Nvidii sztuczna inteligencja tworzy ludzi, którzy w rzeczywistości nie istnieją, zaś w Chinach powstaje projekt zakładający stworzenie całego oddziału fikcyjnych prezenterów, którzy będą zapowiadać wiadomości w wielu językach świata przy minimalnym nakładzie kosztów. W niedalekiej przyszłości sztucznie tworzeni ludzie zastąpią także aktorów.

Jak będzie wyglądało nasze życie w świecie, w którym wszystko jest względne?

Autorstwo: Marcin Kozera
Źródło: ZmianyNaZiemi.pl