OpenAI Lança Sora: Rede Social de Vídeos Totalmente Gerados por IA

A mais recente inovação da OpenAI, batizada de Sora, a rede social de vídeos, promete redefinir a criação de conteúdo ao permitir que cada segundo de áudio e imagem seja totalmente gerado por inteligência artificial. Lançada em 1º de novembro, após ser disponibilizada aos primeiros usuários em 30 de outubro, esta plataforma, que se assemelha ao TikTok em sua dinâmica, intensifica o debate sobre a fronteira entre o real e o falso em mídias digitais, apresentando cenários cada vez mais convincentes e indistinguíveis da realidade.

Usuários da nova plataforma da OpenAI, criadora do renomado ChatGPT, têm a capacidade de gerar clipes fictícios de alta qualidade, inserindo a si próprios ou a seus contatos em contextos imaginários com realismo notável, complementados por trilhas sonoras autênticas, incluindo vozes. Inicialmente acessível apenas nos Estados Unidos e Canadá, a empresa sinaliza planos para expandir gradualmente o alcance do aplicativo.

OpenAI Lança Sora: Rede Social de Vídeos Totalmente Gerados por IA

Desde suas primeiras horas de disponibilidade, a base de usuários do Sora começou a explorar o vasto potencial da tecnologia avançada de geração de vídeos. A novidade gerou grande entusiasmo, com a possibilidade de criar cenas inusitadas e engraçadas, onde amigos cantam, dançam ou até mesmo voam. Contudo, rapidamente surgiram evidências de como estas ferramentas podem ser utilizadas para enganar, assediar e infringir direitos autorais, levantando sérias preocupações éticas e legais. Exemplos incluem vídeos simulando gravações de câmeras corporais policiais com grande veracidade, recriações de séries televisivas conhecidas e material que contorna mecanismos de proteção contra o uso indevido da imagem de terceiros. Relatos de testes realizados pelo The Washington Post confirmaram a capacidade do Sora de produzir falsificações de indivíduos em uniformes militares nazistas, episódios falsos e realistas de programas como “South Park”, e até mesmo cenas forjadas com personalidades históricas como John F. Kennedy.

Há anos, especialistas em inteligência artificial vêm alertando para a eventualidade de que vídeos produzidos por IA se tornariam virtualmente indistinguíveis daqueles capturados por câmeras tradicionais, o que inevitavelmente corroeria a confiança na autenticidade de filmagens do mundo real. O Sora, com sua fusão de IA sofisticada e a habilidade de integrar realisticamente figuras humanas em contextos fabricados, acentua essa probabilidade. Ben Colman, CEO e cofundador da Reality Defender, uma companhia focada em soluções de detecção de deepfakes e fraudes baseadas em IA para setores financeiros e corporativos, enfatiza a magnitude do desafio. “O grande problema com ferramentas como o Sora é que elas expandem o escopo da questão exponencialmente, devido à sua acessibilidade e qualidade excepcionais”, afirmou Colman. Segundo ele, há poucos meses, a tecnologia de geração de vídeo em IA de alta fidelidade estava restrita a grupos muito específicos, enquanto hoje “está disponível para todos”.

A Ascensão dos Vídeos Gerados por IA e Suas Implicações

Nos últimos doze meses, o conteúdo criado por inteligência artificial experimentou uma popularidade crescente em plataformas como TikTok e YouTube. A indústria cinematográfica de Hollywood, por sua vez, está investindo na tecnologia como meio de otimizar processos de produção. Recentemente, a veiculação de vídeos falsos com propósitos políticos ilustrou o alcance dessa ferramenta. Um clipe gerado por IA com o ex-presidente Donald Trump foi divulgado em sua rede social Truth Social, apresentando uma imagem distorcida de Hakeem Jeffries, líder da minoria na Câmara, com um sombrero e bigodes. Da mesma forma, a conta do governador da Califórnia, Gavin Newsom, no X (antigo Twitter), exibiu vídeos adulterados do vice-presidente J.D. Vance.

Com o lançamento do Sora, a OpenAI marca sua posição como a primeira gigante da tecnologia a edificar uma plataforma de vídeo social centrada exclusivamente em conteúdo sintético. Um dia após seu lançamento, e apesar do acesso restrito a convites de usuários preexistentes, o Sora já ocupava a terceira posição entre os aplicativos mais baixados na App Store da Apple. No ano passado, a primeira iteração do Sora foi introduzida como um instrumento para transcrever comandos de texto em sequências de vídeo falsas e curtas. Outras corporações, como Google e Meta, logo seguiram o exemplo com suas próprias ofertas de IA para vídeo, sendo a Meta a mais recente, ao implementar o recurso “Vibes” em seu aplicativo de IA, permitindo a criação e o compartilhamento de vídeos com inteligência artificial.

Cameos e Controvérsias de Direitos Autorais

Enquanto as ferramentas de Meta e Google possibilitam a criação de personagens com aspecto humano, a OpenAI inovou ainda mais com o Sora. O aplicativo foi arquitetado para incentivar os usuários a confeccionar vídeos com indivíduos específicos, oferecendo a opção de compartilhar sua própria imagem para ser usada por outros. Um porta-voz da OpenAI esclareceu que as diretrizes de seus produtos vetam simulações, fraudes e trapaças. A empresa implementou barreiras adicionais para salvaguardar a imagem de pessoas reais, como o bloqueio de conteúdos que apresentem nudez ou violência explícita.

Questionado acerca de possíveis violações de direitos autorais diante da replicação de conteúdo por usuários, Varun Shetty, chefe de parcerias de mídia da OpenAI, comunicou que os usuários buscam ativamente “interagir com suas famílias e amigos através de sua própria imaginação, assim como com narrativas, personagens e universos que apreciam”. Shetty asseverou que a OpenAI impedirá o uso de personagens com direitos autorais sempre que os titulares dos direitos solicitarem sua remoção. A empresa já foi alvo de notícias passadas do The Post, que sugeriam que uma versão preliminar de sua tecnologia de vídeo fora desenvolvida utilizando materiais de filmes e séries da Netflix. Atualmente, a OpenAI está envolvida em diversas ações judiciais, sob acusações de utilização indevida de textos de livros, notícias e outras fontes para alimentar o treinamento de seus sistemas de IA.

Nesse contexto, a Disney, no mês anterior, enviou um pedido de cessação e desistência à Character AI, um aplicativo de chatbot, com o objetivo de retirar os chatbots personalizados pelos seus usuários para interpretar personagens da Disney. O conteúdo da carta, acessado pelo The Post, destacava: “A Disney não permitirá que sua empresa se aproprie de personagens, cause prejuízo às marcas ou infrinja direitos autorais e/ou marcas registradas.”

Imagem: www1.folha.uol.com.br

A Funcionalidade “Cameos” e o Controle de Imagem

O Sora apresenta uma funcionalidade inovadora denominada “cameos”, que insere imagens de pessoas reais em vídeos falsos. Ao carregar um vídeo curto do rosto, o aplicativo processa essa imagem, que pode então ser empregada para integrar o indivíduo em vídeos criados por inteligência artificial. Os usuários têm controle sobre seus cameos: podem mantê-los privados, autorizar o uso por amigos ou, até mesmo, permitir que qualquer usuário do Sora crie vídeos com sua imagem facial. A OpenAI sustenta que conceder aos usuários essa capacidade de gerenciar sua imagem serve como uma medida de proteção contra usos indevidos. Adicionalmente, usuários podem solicitar a remoção de vídeos produzidos com sua imagem por terceiros caso desaprovem, e o Sora está programado para tentar barrar a criação de vídeos de figuras públicas, como políticos e celebridades.

Contudo, nas primeiras horas após o lançamento público do aplicativo, alguns usuários já descobriram meios de contornar essas salvaguardas. Justine Ezarik, uma youtuber de renome conhecida como iJustine, publicou no Sora que seu rosto estava “aberto para qualquer pessoa que deseje fazer um vídeo comigo agora, então não abusem”. Outros usuários agiram prontamente, adicionando-a a uma variedade de cenários. Uma sequência de vídeos, divulgada sob o nome de usuário “JustineLover”, retratava-a sendo atingida por um líquido branco e pegajoso. Posteriormente, essa conta foi desativada. Ezarik expressou em um e-mail sua satisfação pela remoção da conta “antes mesmo de aparecer em meu feed”, afirmando monitorar o uso de seu cameo no Sora para “excluir qualquer coisa que ultrapasse os limites”.

Desafios na Moderação e Perspectivas Futuras

Os novos usuários do aplicativo são apresentados a um termo de uso com caixas de seleção que solicitam que não criem vídeos com “violência ou temas explícitos”, que retratem crianças ou que incluam pessoas sem seu consentimento. Em algumas ocasiões, o aplicativo impede a geração de vídeos e exibe um alerta de que a solicitação transgrediu suas políticas ou suas “proteções contra assédio, discriminação, bullying ou conteúdo similar proibido”.

Mathieu Samson, fundador da Kickflix, uma agência de produção cinematográfica focada em IA, exemplificou as brechas no sistema ao utilizar o Sora para produzir um comercial de TV realista, porém falso, para uma linha de brinquedos infantis chamada “Ilha Secreta”, com uma referência indireta e questionável a Jeffrey Epstein através de uma “sala de massagem secreta”. Samson criticou a ausência de “filtros suficientes”, e previu que a OpenAI, à semelhança de outras ferramentas de IA recém-lançadas, incrementará as restrições à medida que novos vídeos problemáticos forem denunciados e removidos. No entanto, ele ponderou que os usuários sempre encontrarão métodos para contornar essas limitações. Samson, que mantém contas de vídeo gerado por IA no TikTok e YouTube, previu que a humanidade pode em breve enfrentar dificuldades para competir com a crescente proliferação de conteúdo sintético na internet. Para ele, o vídeo gerado por IA pode ser produzido com maior rapidez e está se tornando mais complexo de identificar. “Mesmo que os espectadores priorizem a autenticidade, se a capacidade de distinguir entre real e falso se tornar ínfima, haverá pouca vantagem”, concluiu Samson.

Confira também: crédito imobiliário

O surgimento do Sora representa um marco significativo na evolução da inteligência artificial aplicada à criação de conteúdo. Enquanto a ferramenta oferece oportunidades inéditas de expressão e diversão, ela igualmente impõe desafios complexos no campo da autenticidade da informação e dos direitos individuais. A maneira como a OpenAI e a sociedade responderão a essas questões moldará o futuro da interação online. Para aprofundar a compreensão sobre os impactos da tecnologia na comunicação moderna, explore outras análises em nossa editoria de Análises e mantenha-se informado sobre os avanços mais recentes. Colaborou na apuração Kevin Schaul.

Crédito da imagem: Stefano Rellandini – 16.fev.24/AFP