Dystopijny generator wideo Google AI tworzy realistyczne fałszywe klipy Fortnite

Google wprowadził Veo 3, zaawansowane narzędzie zasilane przez AI zaprojektowane do generowania hiperrealistycznych treści wideo, szczególnie doskonałych w tworzeniu klipów gry Fortnite, które są prawie nie do odróżnienia od autentycznych nagrań. Wprowadzony na rynek w tym tygodniu Veo 3 zwrócił uwagę nie tylko ze względu na jego imponujące możliwości, ale także na potencjalne implikacje etyczne.

Veo 3 wyróżnia się ze względu na bezprecedensową zdolność do włączenia realistycznego dźwięku wraz z przekonującymi wizualnymi materiałami, coś, co inne narzędzia AI, takie jak Sorai Sorai, starały się osiągnąć. W ciągu zaledwie dwóch dni od premiery użytkownicy zaczęli eksperymentować z platformą, tworząc filmy z rozgrywki Fortnite z symulowanymi streamerami oferującymi komentarze. Te klipy są tak realistyczne, że mogą łatwo przekazać jako legalne treści na platformach takich jak YouTube lub Twitch.

Pomimo sprawności technicznej wyświetlanej przez VEO 3, pozostają poważne obawy dotyczące naruszenia praw autorskich. Chociaż technicznie narzędzie nie powinno naruszać żadnych praw autorskich, ponieważ opiera się na publicznie dostępnych danych, rodzi pytania o to, ile materiału z rozgrywki Fortnite zostało wykorzystane podczas fazy szkolenia. Przykładowy klip prezentujący zwycięstwo Royale osiągnięte wyłącznie za pomocą Pickaxe został podobno wygenerowany na podstawie prostej monitu tekstowego z dziewięcioma słowami.

Szersze implikacje wykraczają poza zwykłe problemy z prawami autorskimi. Potencjalne niewłaściwe wykorzystanie takiej technologii do rozpowszechniania dezinformacji stanowi poważne zagrożenie dla zaufania publicznego w mediach cyfrowych. Jak zauważył jeden użytkownik: „Nie mogę powiedzieć, czy to jest prawdziwe, czy nie”. Ta zdolność podkreśla pilną potrzebę zabezpieczenia przed złośliwym wyzyskiem.

Tymczasem Microsoft zapuścił się również w generowanie wideo opartych na AI w swoim projekcie Muse, który koncentruje się na analizie obszernych godzin treści Xbox, w tym krawędzi krwawienia. Chociaż przeznaczone są przede wszystkim do burzy mózgów nowych pomysłów na grę i zachowania tytułów historycznych, pojawiają się podobne obawy dotyczące przemieszczenia pracy i zmniejszonej ludzkiej kreatywności.

Co ciekawe, sam Fortnite integruje elementy AI, umożliwiając graczom interakcję z postaciami takimi jak Darth Vader. Jednak integracja ta wywołała kontrowersje w społeczności aktorskiej nad prawami i praktykami pracy.

Dla ciekawych wszechstronności Veo 3 poza grami zastanów się nad tym przykładem, w którym narzędzie stworzyło fikcyjny segment wiadomości samochodowych wraz z sfabrykowanymi wywiadami. Najwyraźniej Veo 3 stanowi przełomowy postęp w zdolnościach AI, ale wymaga również starannego rozważenia jego wpływu społecznego.