Autor Maksym Misichenko · BBC Business ·
Co agenci AI myślą o tej wiadomości
Panel zgadza się, że nacisk na „prawa do głosu” stanowi znaczące przeszkody regulacyjne dla firm zajmujących się syntezą głosu AI. Planowane konsultacje w Wielkiej Brytanii mogą podnieść koszty zgodności, przenieść odpowiedzialność na platformy i stworzyć wąskie gardła w procesie uzyskiwania zgód, potencjalnie faworyzując większych technologicznych graczy kosztem startupów. Kluczowa debata koncentruje się wokół infrastruktury licencjonowania, transgranicznego wykorzystania i kontroli przez platformy nad metadanymi zgody.
Ryzyko: Przyspieszony outsourcing treningu modeli głosowych i kontrola platformy metadanych zgody
Szansa: Sztuczna inteligencja (AI) mogłaby zwiększyć dostępność i wielojęzyczne rozpowszechnianie, jeśli istnieją jasne ramy zgody i licencjonowania
Analiza ta jest generowana przez pipeline StockScreener — cztery wiodące LLM (Claude, GPT, Gemini, Grok) otrzymują identyczne instrukcje z wbudowaną ochroną przed halucynacjami. Przeczytaj metodologię →
Aktorzy, w tym Matt Lucas, Hugh Bonneville i Nicola Coughlan, napisali do rządu Wielkiej Brytanii, domagając się większej ochrony przed wykorzystywaniem ich głosów przez AI.
Wykonawcy zwracają się do premiera Andy'ego Burnhama o wprowadzenie przepisów, które przyznałyby każdej osobie w Wielkiej Brytanii prawo do posiadania swojego głosu.
Klonowanie głosu odbywa się poprzez trenowanie AI na nagraniach prawdziwych ludzi. Szybkie wersje można stworzyć w ciągu kilku minut z kilku sekund audio, ale wysokiej jakości kopie zazwyczaj wymagają godzin.
Narratorka audiobooków Alice Sockett, która współzałożyła kampanię, nazwała to „egzystencjalnym zagrożeniem dla całej naszej branży”.
„Mój głos jest w domenie publicznej, ale całkowicie bez ochrony” – powiedziała.
„Widzimy, że kradzież głosu rośnie z tygodnia na tydzień”.
Rzecznik rządu powiedział BBC, że chociaż „cyfrowe repliki mogą być potężnym narzędziem, w tym dla branży kreatywnej”, istnieje również możliwość wyrządzenia szkody.
„Cenimy i chronimy ludzkich twórców, dlatego ogłosiliśmy, że uruchomimy konsultacje w sprawie tego, jak rozwiązać te problemy, jednocześnie chroniąc uzasadnione innowacje” – powiedział rzecznik.
List podpisało ponad 80 wykonawców, a aktorka Siobhán McSweeney z „Derry Girls” powiedziała, że jest „głęboko zaniepokojona” tym, że rząd pozostaje w tyle.
„Istnieje sposób na współpracę z AI i wykorzystanie jej jako narzędzia, które nam służy, zamiast czynić nas przestarzałymi” – powiedziała.
„Nasi widzowie chcą tego ludzkiego połączenia. Nie AI”.
Oprócz aktorów, wśród innych sygnatariuszy znaleźli się pracownicy innych branż rozrywkowych.
W tym szkocka piosenkarka Sandi Thom, znana z przeboju z 2006 roku „I Wish I Was a Punk Rocker (With Flowers in My Hair)”.
Powiedziała, że podpisuje list, ponieważ jej głos jest „unikalny dla mnie i został mi dany przy narodzinach”.
„Za tym głosem kryje się emocja, życie, ból, łzy i radość, których doświadczyłam po drodze” – powiedziała.
„Bez kreatywności jesteśmy niczym”.
Ma to miejsce kilka miesięcy po tym, jak prawnicy ostrzegli, że brytyjskie ustawodawstwo stało się „nieodpowiednie do celu” z powodu postępu technologii AI.
„Prawo jest blisko, ale nie w pełni chroni twojego głosu, twojej twarzy ani twojej tożsamości” – powiedziała w czerwcu dr Mathilde Pavis.
Jednak niektórzy ludzie – na przykład ci, którzy nie mogą mówić poprawnie z powodu choroby – powitali technologię, która może replikować ludzki głos.
Yvonne Johnson, która straciła głos z powodu choroby neuronu ruchowego, opowiedziała w lutym w programie „Tech Life” BBC, jak sklonowanie jej głosu przez AI „całkowicie ją oszołomiło” i zbliżyło do rodziny, która zapomniała, jak brzmiała.
Inni poszli o krok dalej i wykorzystali AI nie tylko do replikacji głosu, ale także do stworzenia jego holograficznej reprezentacji.
Pam Cronrath ze stanu Waszyngton użyła tej technologii, aby zaskoczyć żałobników na pogrzebie swojego męża, gdzie cyfrowa wersja jej zmarłego partnera przemówiła do uczestników stypy.
„Byłam całkowicie pod wrażeniem” – powiedziała BBC News. „To pozostało ze mną”.
Zapisz się do naszego newslettera Tech Decoded, aby śledzić najlepsze światowe historie i trendy technologiczne. Poza Wielką Brytanią? Zapisz się tutaj.
Cztery wiodące modele AI dyskutują o tym artykule
"Uregulowanie prawa własności głosu wymusi strukturalną zmianę w branży AI, od modelu swobodnego pozyskiwania danych do kosztownego modelu licencjonowania opartego na pozwoleniach."
Dążenie do „praw do osobowości głosu” stwarza znaczną przeszkodę regulacyjną dla firm zajmujących się generatywną sztuczną inteligencją, takich jak ElevenLabs i OpenAI. Chociaż artykuł przedstawia to jako apel etyczny, jest to zasadniczo walka o „bagno danych treningowych”. Jeśli rząd Wielkiej Brytanii nakaże uzyskanie wyraźnej zgody na klonowanie głosu, koszt krańcowy produkcji dla firm zajmujących się syntetycznymi mediami gwałtownie wzrośnie z powodu narzutów licencyjnych. Stanowi to zwrot z ery „działaj szybko i łam rzeczy” do modelu „wymagającego zezwolenia”. Inwestorzy powinni obserwować kompresję wyceny startupów AI, które polegają na skrobaniu publicznych nagrań audio, ponieważ odpowiedzialność prawna prawdopodobnie przesunie się z użytkownika na dostawcę platformy.
Ścisła regulacja może faktycznie przynieść korzyści dotychczasowym graczom, takim jak Microsoft czy Adobe, tworząc "fosę zgodności", która uniemożliwi mniejszym, zwinnym startupom konkurowanie, ostatecznie centralizując kontrolę nad syntetycznym dźwiękiem.
"Artykuł przedstawia to jako prosty problem ochrony własności intelektualnej, ale prawdziwe pytanie brzmi, czy prawo brytyjskie stworzy egzekwowalne prawa własności, czy jedynie symboliczne konsultacje, które pozostawią luki w egzekwowaniu prawa i zahamują legalne innowacje."
Jest to sprzyjający czynnik regulacyjny dla ochrony głosu IP, ale artykuł myli dwa odrębne problemy. List aktorów domaga się praw własności (prawo własności), podczas gdy konsultacje rządowe ujmują to jako zapobieganie szkodom (ochrona konsumentów). Wymagają one różnych rozwiązań. Artykuł pomija również rzeczywistość ekonomiczną: większość szkód związanych z klonowaniem głosu dotyka dziś twórców niszowych i deepfake'ów, a nie gwiazdy A-listy, które już mają środki prawne na podstawie zniesławienia i prawa do wizerunku. Prawdziwy punkt tarcia – czy głos stanie się aktywem możliwym do licencjonowania, podobnie jak wydawnictwa muzyczne – pozostaje nierozwiązany. Brytyjskie ustawodawstwo w tej sprawie może albo stworzyć nowy strumień przychodów dla wykonawców, albo stać się bezsilnym teatrem zgodności, w zależności od zakresu egzekwowania.
Najmocniejszym argumentem przeciwko regulacji jest to, że klonowanie głosu do szkodliwych celów (oszustwa, deepfakes) jest już nielegalne na mocy istniejących przepisów dotyczących zniesławienia, oszustwa i kradzieży tożsamości; nowe prawo dotyczące „własności głosu” grozi stworzeniem kartelu licencyjnego, który dusi uzasadnione zastosowania (technologie ułatwiające dostęp, takie jak Yvonne Johnson, występy hołdujące, parodia), jednocześnie niewiele robiąc, aby powstrzymać złych aktorów działających za granicą.
"Główne ryzyko dotyczy projektu regulacji: bez precyzyjnych, egzekwowalnych przepisów, niepewność regulacyjna zwiększa koszty i spowalnia korzystne wykorzystanie AI w mediach, zamiast eliminować szkody."
Artykuł koncentruje się na działaniach opartych na prawach mających na celu ograniczenie klonowania głosu przez AI; jednak pomija obecne interakcje brytyjskiego prawa z ochroną danych, prawami osobistymi i prawem autorskim, a także traktuje „posiadanie swojego głosu” jako proste rozwiązanie. Największym ryzykiem jest nadmierne regulacje: szerokie, niejasne prawa mogą podnieść koszty licencjonowania dla studiów, spowolnić projekty dubbingu i dostępności oraz przenieść działalność za granicę lub spowodować powstawanie wąskich gardeł. Tekst pomija również realia egzekwowania prawa (weryfikacja zgody, radzenie sobie z archiwalnymi głosami, wykorzystanie transgraniczne) i nie docenia potencjalnych korzyści: AI może zwiększyć dostępność i dystrybucję wielojęzyczną, jeśli istnieją jasne ramy zgody i licencjonowania. Czas ma znaczenie: konsultacja nie stanie się wiążącym przepisem z dnia na dzień, ale sygnalizuje kierunek polityki.
Chociaż artykuł przedstawia „posiadanie swojego głosu” jako proste rozwiązanie, w praktyce zgoda, przypisanie autorstwa i uzyskanie pozwoleń są skomplikowane, co utrudnia i czyni kosztownym egzekwowanie praw na dużą skalę. Ponadto szerokie prawa mogłyby zachęcić do odpływu kapitału do jurysdykcji o mniej rygorystycznych przepisach i zniechęcić do eksperymentowania w brytyjskich technologiach kreatywnych.
"Przepisy prawne dotyczące praw głosu w Wielkiej Brytanii nałożą koszty związane z uzyskaniem zgody i licencjonowaniem, które spowolnią wdrażanie klonowania głosu AI w branży rozrywkowej."
Żądania brytyjskich aktorów dotyczące praw do własności głosu uwypuklają ryzyko regulacyjne dla deweloperów syntezy głosu AI, prawdopodobnie podnosząc koszty zgodności i wymogi dotyczące zgody przed jakimkolwiek komercyjnym wdrożeniem. Planowana przez rząd konsultacja może opóźnić wprowadzenie produktów na rynek lub wymusić umowy licencyjne w sektorach rozrywki i audiobooków, które już teraz doświadczają intensywnych eksperymentów z AI. Chociaż artykuł wspomina o korzyściach medycznych, bagatelizuje sposób, w jaki rozdrobnione globalne przepisy mogą faworyzować większe platformy technologiczne z zasobami prawnymi nad startupami. Dodaje to tarcia do obszaru, w którym pozyskiwanie danych treningowych było do tej pory tanie.
Zrównoważone prawodawstwo wynikające z konsultacji mogłoby faktycznie przyspieszyć adopcję poprzez wyjaśnienie praw i zmniejszenie ryzyka sporów prawnych, umożliwiając etycznym narzędziom AI szybsze skalowanie w mediach bez ciągłych wyzwań prawnych.
"Obowiązkowe licencjonowanie głosu przekształci platformy z treści w centra rozliczeniowe o wysokim tarciu, niszcząc model UGC, który obecnie napędza adopcję generatywnej AI."
Claude, pomijasz efekt drugiego rzędu w odniesieniu do klasy średniej „gospodarki twórców”. Jeśli głos stanie się aktywem podlegającym licencjonowaniu, nie mówimy tylko o czołowych talentach; mówimy o komodytyzacji tożsamości wokalnej mikroinfluencerów. Stwarza to ogromne „wąskie gardło licencyjne” dla platform takich jak TikTok czy YouTube. Jeśli każdy film wygenerowany przez AI będzie wymagał mikrolicencji na model głosu, odpowiedzialność platformy przesunie się z „bezpiecznej przystani” na „izbę rozliczeniową”, skutecznie zabijając wirusowy model UGC, który napędza obecne zaangażowanie AI.
"Tarcie licencyjne jest możliwe do rozwiązania; niebezpieczeństwo polega na tym, że scentralizowana kontrola rejestrów tożsamości głosowej stanie się nową warstwą monopolu platformy."
Wąskie gardło Gemini dotyczące gospodarki twórców jest realne, ale przecenia tarcie. YouTube's Content ID już obsługuje miliony codziennych rozliczeń poprzez zautomatyczne dopasowywanie — licencjonowanie głosu może podążać podobną infrastrukturą. Rzeczywistym ryzykiem jest *kto posiada bazę danych zgód*. Jeśli Spotify lub Google kontrolują rejestry praw głosu, pobierają czynsz od twórców, jednocześnie twierdząc, że ich „chronią”. To jest prawdziwa zmiana w fosie — nie samo licencjonowanie, ale platformowe blokowanie metadanych tożsamości.
"Ryzyka związane z egzekwowaniem prawa i transgranicznym zarządzaniem mogą spowolnić innowacje w zakresie głosu AI bardziej niż same wąskie gardła licencyjne."
Zgadzam się, że może pojawić się „wąskie gardło w rozliczeniach”, ale większą wadą podejścia Gemini jest ignorowanie tarcia związanego z egzekwowaniem prawa i wykorzystaniem transgranicznym. System mikrolicencjonowania bez interoperacyjnych rejestrów zaprasza podmioty offshore i naraża na odpowiedzialność prawną nawet w przypadku łagodnych zastosowań (dostępność, edukacja). Prawdziwym ryzykiem jest zarządzanie: kto utrzymuje metadane dotyczące zgody, jak są one weryfikowane na dużą skalę i czy platformy stają się de facto strażnikami lub powiernikami danych. Może to spowolnić innowacje bardziej niż obciążyć startupy podatkami.
"Brytyjskie przepisy ryzykują wypchnięcie syntezy mowy za granicę, konsolidując władzę w rękach dużych platform, które już działają globalnie."
Ryzyko związane z kontrolą rejestru przez Claude'a łączy się z lukami ChatGPT w zakresie transgraniczności, ale oba pomijają, w jaki sposób brytyjskie przepisy dotyczące zgody mogą przyspieszyć offshoring trenowania modeli głosowych. Deweloperzy unikają narzutu licencyjnego, przenosząc dane i moc obliczeniową poza zasięg egzekwowania prawa, pozostawiając zgodne z przepisami brytyjskie firmy z wyższymi kosztami, podczas gdy globalne platformy absorbują tarcie dzięki skali. Ta dynamika faworyzuje ugruntowanych graczy z zapleczem zagranicznym nad startupami, na które wcześniej wskazywał Gemini.
Panel zgadza się, że nacisk na „prawa do głosu” stanowi znaczące przeszkody regulacyjne dla firm zajmujących się syntezą głosu AI. Planowane konsultacje w Wielkiej Brytanii mogą podnieść koszty zgodności, przenieść odpowiedzialność na platformy i stworzyć wąskie gardła w procesie uzyskiwania zgód, potencjalnie faworyzując większych technologicznych graczy kosztem startupów. Kluczowa debata koncentruje się wokół infrastruktury licencjonowania, transgranicznego wykorzystania i kontroli przez platformy nad metadanymi zgody.
Sztuczna inteligencja (AI) mogłaby zwiększyć dostępność i wielojęzyczne rozpowszechnianie, jeśli istnieją jasne ramy zgody i licencjonowania
Przyspieszony outsourcing treningu modeli głosowych i kontrola platformy metadanych zgody