Sora 2 od OpenAI nie wyprodukuje już deepfake'ów? Presja ze strony Cranstona i SAG‑AFTRA odniosła skutek
OpenAI ogłosiło, że jego narzędzie do generowania krótkich klipów wideo, Sora 2, doczeka się szeregu istotnych zmian. Głównym celem modyfikacji jest uniemożliwienie tworzenia materiałów zawierających cudze wizerunki, czyli tzw. deepfake'ów.
Nie trzeba było długo czekać na to, aby generatywna sztuczna inteligencja pokazała swoje mroczne oblicze. Sieć zalała tona realistycznie wyglądających deepfake'ów, jednak osoby, których wizerunki zostały bezpodstawnie wykorzystane w niecnych celach, postanowiły wkroczyć do akcji i wymusić na OpenAI wprowadzenie zmian. Przedsiębiorstwo posypało głowę popiołem i obiecało zająć się problemem na prośbę aktora Bryana Cranstona oraz związku SAG-AFTRA.
To koniec deepfake'ów powstałych w Sorze?
Bryan Cranston, znany ze swoich roli w takich produkcjach, jak "Breaking Bad" oraz "Zadzwoń do Saula", swego czasu przekazał, że jego wizerunek został wykorzystany w nieautoryzowany sposób. Klipy z twarzą aktora, stworzone za pomocą dostarczonego przez OpenAI narzędzia Sora 2, zaczęły krążyć po portalach społecznościowych. Biorąc pod uwagę jakość materiałów, wiele osób nie było w stanie jednoznacznie określić, że ma do czynienia z mistyfikacją. Ludzie byli skłonni uwierzyć, że kontrowersyjne wypowiedzi rzeczywiście padały z ust Cranstona, co mężczyźnie ewidentnie się nie spodobało. Postanowił on więc zakasać rękawy i skonfrontować się z twórcami Sory.
Jak się okazuje, presja wywarta przez Bryana oraz SAG-AFTRA i inne związki aktorów przyniosła zadowalający rezultat. Amerykańskie przedsiębiorstwo poinformowało, że napomknięty model generatywnej sztucznej inteligencji przejdzie gruntowną przebudowę celem powstrzymania go przed wypluwaniem hurtowych ilości deepfake'ów na życzenie użytkowników.
SAG-AFTRA ogłosiła, że nawiązana została współpraca pomiędzy nią, Bryanem Cranstonem, United Talet Agency, Creative Artists Agency i Association of Talent Agents a OpenAI. Efektem kolaboracji ma być zapewnienie "ochrony głosu oraz podobieństwa w Sora 2".
Cranston osobiście postanowił podziękować Samowi Altmanowi i jego współpracownikom za dobre chęci i podjęcie próby rozwiązania problemu. Jak powiedział aktor i scenarzysta:
Jestem wdzięczny OpenAI za jego politykę i ulepszenie zabezpieczeń i mam nadzieję, że zarówno ta firma, jak i wszystkie inne zaangażowane w tę działalność przedsiębiorstwa będą szanować nasze osobiste i zawodowe prawo do zarządzania powielaniem naszego głosu i wizerunku.
Jak podaje portal CNBC, 3 października w polityce rezygnacji Sory zaszły zmiany. Do wspomnianej pory zawierała ona zapis, na mocy którego narzędzie "pozwalało sobie" wykorzystywać cudzą własność intelektualną pod warunkiem, że jej oryginalni właściciele nie zgłosili sprzeciwu i nie zażądali wycofania należących do nich treści z obiegu.
Warto wspomnieć o tym, że OpenAI planuje wdrożyć specjalny program, który umożliwi właścicielom praw autorskich udzielania zgody na wykorzystanie poszczególnych postaci/marek w treściach generowanych przez Sorę. Start-up planuje nawet opracowanie systemu przyznawania wynagrodzeń podmiotom biorącym udział w rzeczonym przedsięwzięciu, niemniej szczegóły pozostają nieznane. Aż nadto wyraźne jest, że Altman nie ma zamiaru powtórzyć błędów popełnionych przez Midjourney i potykać się w sądach z branżowymi gigantami.
Jakub Dmuchowski, redaktor pcformat.pl
