‘Empresa de tecnologia roubou nossas vozes, clonou e vendeu’

A ideia de que o inteligência artificialum dia, pode pegue nossos empregos é uma mensagem que muitos de nós ouvimos nos últimos anos.

Mas para Paul Skye Lehrman, este alerta foi particularmente pessoal, inesperado e assustador. Ele ouviu o aviso em sua própria voz.

Em junho de 2023, Lehrman e sua parceira Linnea Sage estavam dirigindo perto de sua casa em Nova York, Estados Unidos. Eles ouviram um podcast sobre greves em Hollywood e como a inteligência artificial (IA) poderia afetar esse setor.

O episódio foi interessante porque o casal é dublador profissional. E como muitos outros artistas criativos, eles temem que geradores de voz que soam humanos eles poderão em breve ser contratados para substituí-los.

E aquele podcast tinha um atrativo específico. Foi uma entrevista com um chatbot gerado por IA e equipado com um software que transforma texto em fala. A intenção era saber com ele as possíveis consequências do uso da inteligência artificial para empregos em Hollywood.

Mas quando o chatbot falou, sua voz soou exatamente como a de Paul Lehrman.

“Tivemos que estacionar o carro”, diz ele. “A ironia é que a IA está chegando à indústria do entretenimento e aqui estava minha voz, falando sobre a possível destruição da indústria. Foi realmente assustador.”

Naquela noite, eles passaram horas online em busca de pistas sobre o que poderia ter acontecido, até chegarem ao site da plataforma Lovo, que transforma texto em fala. Lá, Sage diz que também encontrou uma cópia de sua voz.

“Fiquei impressionada”, lembra ela. “Eu não conseguia acreditar. Uma empresa de tecnologia roubou nossas vozes, fez delas clones de IA e as vendeu, talvez centenas de milhares de vezes.”

O casal processou Lovo e a empresa ainda não respondeu ao processo, nem aos pedidos de comentários da BBC.

Guerras Clônicas

Mas como Lovo conseguiu recriar as duas vozes? O casal afirma que tudo foi feito sob falsos pretextos.

Um dos fundadores da Lovo, Tom Lee, disse anteriormente que seu software de clonagem de voz só precisa que o usuário leia cerca de 50 frases para criar um clone confiável.

“Conseguimos captar o tom, as características, o estilo, os fonemas e, mesmo que você tenha sotaque, também conseguimos captar”, disse ele ao podcast Future Visionaries, em 2021.

No processo, Lehrman e Sage descrevem como acreditam que Lovo obteve esta gravação de suas vozes.

Eles alegam que funcionários anônimos da Lovo os contataram para gravar trechos de áudio no popular site de talentos freelance Fiverr. Lá, eles venderam seus serviços para fornecer áudio para rádio, televisão, videogames e outras mídias.

Sage diz que, em 2019, um usuário a contatou, pedindo-lhe que gravasse dezenas de testes de roteiro de rádio aparentemente genéricos.

As gravações de testes são frequentemente utilizadas no cinema e na televisão para grupos de referência, reuniões internas ou para reservar espaço para trabalhos em andamento. E como essas gravações não serão amplamente compartilhadas, elas custam muito menos que o áudio destinado à transmissão.

Sage afirma que executou o trabalho, forneceu os arquivos e recebeu US$ 400 por eles.

Lehrman diz que recebeu um pedido semelhante para gravar dezenas de anúncios de rádio com som genérico cerca de seis meses depois.

Em mensagens compartilhadas pelo casal à BBC, o usuário anônimo do Fiverr afirma que o áudio seria usado para pesquisas de “síntese de fala”.

Depois de pedir ao usuário garantia de que os scripts não seriam usados ​​fora de seu projeto de pesquisa específico, Lehrman perguntou qual seria o objetivo do projeto.

“Os scripts não serão usados ​​para outra coisa senão isso”, afirmou o usuário, “e não posso dizer o propósito ainda, pois é um trabalho confidencial em andamento. Desculpe, haha.”

Lehrman perguntou se os arquivos finalizados seriam redirecionados ou usados ​​em outra ordem. O usuário respondeu que os arquivos seriam utilizados apenas para fins de pesquisa.

Ele diz que enviou os arquivos e recebeu US$ 1,2 mil (cerca de R$ 6,7 mil). E a ligação entre o usuário anônimo e Lovo veio, segundo eles, do próprio Lovo.

Eles apresentaram as evidências que encontraram sobre a clonagem de suas vozes a Lovo, que respondeu que não haviam feito nada de errado. A empresa apontou as comunicações entre eles e o usuário anônimo como prova de que havia contatado o casal legalmente.

“Em nossas carreiras, fornecemos mais de 100.000 gravações de áudio”, diz Lehrman, sobre seu trabalho na Fiverr por mais de meia década. “Conseguimos encontrar esta agulha no palheiro.”

Em ambos os casos, Lehrman e Sage afirmam que não tinham nenhum contrato escrito, apenas o diálogo. A BBC não conseguiu verificar todas as suas conversas. O casal afirmou que o usuário com quem conversaram também parece ter deletado algumas mensagens.

A BBC contatou Lovo em diversas ocasiões para solicitar uma entrevista com Lee e buscar uma resposta às alegações do casal. A empresa não respondeu às nossas mensagens.

O que diz a lei?

O casal entrou com a ação em maio. O processo alega que Lovo usou as gravações para criar cópias que competem ilegalmente com as vozes reais de Sage e Lehrman. Eles alegam que a empresa agiu sem permissão ou remuneração adequada.

Trata-se de uma ação coletiva, ou seja, o casal espera que outros demandantes se juntem ao processo, o que, até o momento, não aconteceu.

A professora Kristelia Garcia, especialista em direito de propriedade intelectual da Universidade de Georgetown, em Washington DC, nos Estados Unidos, afirma que o caso provavelmente se enquadra numa área da legislação norte-americana relativa aos direitos de publicidade.

Também chamados de direitos de personalidade, incluem violações da personalidade de alguém, muitas vezes devido ao abuso ou distorção da voz ou imagem de uma pessoa.

Garcia afirma ainda que provavelmente haverá quebra de contrato em relação às licenças concedidas pela Sage e Lehrman ao usuário que encomendou as gravações.

“As licenças são permissões para uso restrito e muito específico”, explicou ela à BBC.

“Posso lhe dar uma licença para usar minha piscina por uma tarde, mas isso não significa que você pode vir quando quiser e fazer uma festa na minha piscina. Isso excederia os termos da licença.”

Qualquer que seja o resultado do processo, este é mais um numa longa lista de processos movidos por artistas, escritores, ilustradores e músicos, que não querem perder o controlo do seu trabalho e do seu sustento. E, provavelmente, são apenas a ponta do iceberg.

No início de setembro, a empresa financeira Klarna anunciou que pretende usar IA para reduzir a sua força de trabalho pela metade. E alguns especialistas prevêem que 40% de todos os empregos serão afetados pela IA.

Mas para Paul Skye Lehrman e Linnea Sage, as preocupações com o futuro chegaram cedo.

Para Sage, “toda essa experiência parece surreal. Quando pensamos em inteligência artificial, pensamos na IA dobrando nossa roupa e fazendo o jantar, e não explorando os esforços criativos dos indivíduos”.

Ouça episódio da série Tech Lifede Serviço Mundial da BBC (em inglês), que deu origem a este relatório, no site Sons da BBC.

Você gostou do artigo? Escolha como acompanhar as principais notícias do Correio:

Receba novidades no WhatsApp

Receba novidades no Telegram

Dê sua opinião! O Correio tem espaço na edição impressa para publicar a opinião dos leitores através do e-mail sredat.df@dabr.com.br