Zdjęcia uśmiechniętych mówców konferencji naukowych TEDx zrobiły w sieci już kilka okrążeń. Przemawiający wyglądają na nich bardzo naturalnie. W rzeczywistości są jednak wytworem FLUX Realism LoRA - programu do generowania obrazów.
Dużym realizmem odznacza się także video, na którym młoda kobieta przemawia do publiczności trzymając mikrofon. Wojtek Kardyś tłumaczy, że powstało one na bazie zdjęcia dziewczyny stworzonej przez AI. Fotografia została następnie "wprawiona w ruch" przez sztuczną inteligencję.
Jesteśmy już na takim etapie jakościowym generatywnego AI, że czekam na pierwszy kryzys (czy to polityka czy innego celebryty) z wykorzystaniem deep fake’u. Ja już nie jestem w stanie odróżnić co jest prawdziwe, a co nie - skomentował w serwisie X Kardyś.
Politycy ofiarą manipulacji
Prezydenci, premierzy i kandydaci startujący w wyborach są dzisiaj chętnie brani na tapet przez twórców deep fake'ów. W ubiegłym roku Parta Republikańska wypuściła spot wyborczy, który w całości został wyprodukowany przez AI. Na klipie pokazano USA pogrążone w kryzysie migracyjnym i gospodarczym. Taka wersja przyszłości miałaby być efektem zwycięstwa Joego Bidena i Kamali Harris w wyborach prezydenckich.
Po wycofaniu się Bidena z wyścigu o fotel prezydenta obiektem ataku stała się sama Kamala Harris. Pod koniec lipca Elon Musk zamieścił na swim profilu w serwisie X spreparowane video z amerykańską polityk. Sztuczna inteligencja wyprodukowała także jej głos.
- Jestem kandydatką Demokratów na prezydenta, ponieważ Joe Biden w końcu potwierdził, że był senny podczas debaty wyborczej - mówiła na nagraniu fikcyjna wersja Kamali Harris.
Ofiarą takiej kreatywnej przeróbki zdjęć został również jej rywal w kampanii wyborczej -Donald Trump. W marcu 2023 r. sieć obiegły zdjęcia, na których były prezydent szarpie się z policjantami, którzy próbują go aresztować. Choć grafiki były wynikiem żartu ze strony internautów eksperci podkreślali, że mogą zostać wykorzystane do rozpowszechniania fake newsów.
W Polsce z technologii deep fake skorzystała Platforma Obywatelska. Przed wyborami parlamentarnymi PO opublikowała spot wyborczy, w którym zamieściła wygenerowany przez AI głos Mateusza Morawieckiego. Nie poinformowała jednak o tym fakcie odbiorców, za co została skrytykowana przez ekspertów.
Meta i TikTok odpowiadają
Na ten kryzys platformy internetowe dopiero zaczynają reagować. Meta (właściciel m.in. Facebooka i Instagrama) ogłosiła, że od maja treści generowane przez AI muszą być oznaczane. W innym wypadku będą one usuwane. Wcześniej podobną deklarację złożył TikTok.
Nie zmienia to jednak faktu, że niektóre profile np. na Instagramie, bazują dzisiaj wyłącznie na zdjęciach i materiałach dostarczonych przez AI. W Polsce na 361 tys. użytkowników przypada średnio jeden moderator Facebooka. W przypadku Instagrama jeden moderator przypada na 258 tys. użytkowników. Internauci często zdani są więc na własne siły.