Gigantyczna wpadka OpenAI podczas prezentacji nowego modelu ChatGPT. Scarlett Johansson oskarża firmę o wykorzystanie jej głosu bez zgody.
Plan? Zapytaj Scarlett Johansson o pozwolenie na skopiowanie jej głosu, zignoruj odmowną odpowiedź, skopiuj głos i usuń go jak tylko zagrożą ci prawnicy – tak jeden z użytkowników portalu X (@0xgaut) opisał sytuację ujawnioną przez popularną aktorkę. I trudno o lepsze podsumowanie rozgrywki PR-owej, która miała przemówić do wyobraźni użytkowników, a zmieniła się w kompromitację na globalną skalę.
O co chodzi? Sprawa wymaga krótkiego wstępu. W 2013 roku miał premierę film „Her” („Ona”). Akcja odbywa się w bliżej nieokreślonej przyszłości. Główny bohater, Theodor, utrzymuje się z pisania listów na życzenie. Jest rozwodnikiem i ma problem z nawiązaniem stałej relacji. Pewnego dnia popularna firma technologiczna wypuszcza nowy produkt – oparty o sztuczną inteligencję system operacyjny. Superinteligentna maszyna może analizować dane z otoczenia, więc efekt jest taki, jakby użytkownik rozmawiał po prostu z drugą osobą. Konsekwencje nie są trudne do przewidzenia – użytkownicy zaczynają wchodzić z systemami w relację. Także Theodor. Systemowi operacyjnemu Theodora głosu użyczyła aktorka Scarlett Johansson.
Teraz wracamy do wątku OpenAI. Firma w ubiegłym tygodniu zaprezentowała swój nowy model GPT-4o. Podobnie jak w wizji Spike’a Jonze ma on kontaktować się z otoczeniem i nawiązywać z użytkownikami konwersację także o tym, co ich otacza. Sam Altman, CEO OpenAI, potrzebował czegoś mocnego, by sprzedać innowację – następnego dnia swoją konferencję produktową miała firma Google. Altman musiał sprawić, by to jego informacje były na wierzchu.
Sięgnął po oczywiste i dość zrozumiałe dla użytkowników skojarzenie z filmem. Voicebot „Sky” zasilany przez model GPT-4o został wyposażony w przyjemny, głęboki głos łudząco podobny do głosu Johansson. W dniu prezentacji umieścił nawet na X krótki i wiele mówiący wpis: „Her”.
Teraz, jak w dobrym filmie, czas na plot twist. Prawdziwa Scarlett Johansson wydała właśnie oświadczenie, w którym ujawnia, że OpenAI chciało wykorzystać w GPT-4o jej własny głos. We wrześniu 2023 Sam Altman zaproponował jej nagranie argumentując, że użytkownicy poczują się bardziej komfortowo wobec zmian związanych z AI. Johansson odrzuciła ofertę, jednak po prezentacji produktowej zauważyła, że system „Sky” brzmi niepokojąco podobnie do niej, co wywołało zamieszanie wśród jej bliskich i mediów.
„Dwa dni przed premierą ChatGPT-4.o Altman skontaktował się z moim agentem, prosząc bym przemyślała swoją decyzję. Zanim zdążyliśmy się połączyć, system został jednak zaprezentowany” – pisze Johansson. Dodaje też: „Byłam zszokowana, wściekła i nie dowierzałam, że Altman mógł posłużyć się głosem, który był tak łudząco podobny do mojego, że nawet najbliżsi przyjaciele i dziennikarze nie potrafili go odróżnić”.
Aktorka podjęła kroki prawne, żądając wyjaśnień dotyczących procesu tworzenia głosu „Sky”. OpenAI w odpowiedzi usunęło głos „Sky”.
Tuż przed tym jak oświadczenie Johansson ujrzało światło dzienne na X, OpenAI opublikowało notkę na blogu, w której tłumaczy, że głosy wykorzystane w nowym modelu należą do aktorów. „Wierzymy, że głosy AI nie powinny celowo naśladować charakterystycznego głosu celebryty. Głos Sky nie jest imitacją Scarlett Johansson, ale należy do innej profesjonalnej aktorki, która używa swojego naturalnego głosu”. Kim ona jest? OpenAI nie ujawnia, zasłaniając się… prywatnością.
„W czasie kiedy zmagamy się z technologią deep fake, ochroną własnej osobowości i pracy, uważam że te pytania zasługują na jasną odpowiedź” – zaznaczyła i dodała, że czeka także na przepisy, które pozwolą zagwarantować prawa jednostki w starciu z korporacjami.
Więcej o wykorzystywaniu wizerunku przez firmy technologiczne w podkaście „Wittenberg rozmawia o technologiach”. Z Martyną Różycką z NASK rozmawiamy o tym pornograficznych deep fake, których ofiarą padła m.in. piosenkarka Taylor Swift.
