A Inteligência Artificial generativa tem o potencial de desbloquear a criatividade no YouTube e transformar a experiência dos espectadores e criadores na plataforma.
No entanto, estas oportunidades devem ser equilibradas com a responsabilidade do YouTube de proteger a comunidade. O conteúdo enviado para a plataforma está sujeito às Diretrizes da Comunidade, independentemente de como for gerado. Mas, a plataforma diz que sabe que a Inteligência Artificial apresentará novos riscos e exigirá novas abordagens.
Leia Mais:
- Robert Kyncl, CEO da Warner Music, diz que a IA impactará a indústria musical no próximo ano
- YouTube Brasil realiza pesquisa para entender a diversidade dos criadores na plataforma
- ‘Made on YouTube’: apostando na IA, plataforma traz novas ferramentas para artistas e criadores
Por isso, a plataforma informa que o site está nos estágios iniciais do trabalho e que continuará evoluindo a abordagem. Confira o que o YouTube lançará nos próximos meses e no novo ano:
Requisitos de divulgação e novos rótulos de conteúdo
Para manter um ecossistema saudável de informações no YouTube, a plataforma tem políticas de longa data que proíbem conteúdo tecnicamente manipulado que engana os espectadores e pode representar um sério risco de danos graves. No entanto, as novas formas de contar histórias da Inteligência Artificial também podem ser usadas para gerar conteúdo que tem o potencial de enganar os espectadores, especialmente se eles não sabem que o vídeo foi alterado ou criado sinteticamente.
Para resolver essa preocupação, a plataforma anuncia que, nos próximos meses, serão apresentadas atualizações que informarão aos espectadores quando o conteúdo que estão vendo for sintético.
Especificamente, será exigido pelo YouTube que os criadores divulguem quando criaram conteúdo alterado ou sintético que seja realista, inclusive usando ferramentas de Inteligência Artificial. Quando os criadores enviarem conteúdo, teremos novas opções para eles selecionarem para indicar que contém material realista, alterado ou sintético. Por exemplo, pode ser um vídeo gerado por IA que retrata de forma realista um evento que nunca aconteceu ou um conteúdo que mostra alguém dizendo ou fazendo algo que na verdade não fez.
A plataforma informa que isso é especialmente importante nos casos em que o conteúdo aborda temas sensíveis, como eleições, conflitos em curso e crises de saúde pública, ou funcionários públicos. Os criadores que optarem consistentemente por não divulgar essas informações poderão estar sujeitos à remoção de conteúdo, suspensão do Programa de Parcerias do YouTube ou outras penalidades. O YouTube afirma que vai trabalhar com os criadores antes do lançamento para garantir que eles entendam esses novos requisitos.
O YouTube ainda anunciará aos espectadores que o conteúdo pode ser alterado ou sintético de duas maneiras. Um novo rótulo será adicionado ao painel de descrição indicando que parte do conteúdo foi alterada ou sintética. E para determinados tipos de conteúdo sobre temas delicados, será aplicado um rótulo mais proeminente ao player de vídeo.
Além disso, há também algumas áreas onde um rótulo por si só pode não ser suficiente para mitigar o risco de danos, e algumas mídias sintéticas, independentemente de estarem rotuladas, serão removidas de nossa plataforma se violarem as Diretrizes da Comunidade do YouTube. Por exemplo, um vídeo criado sinteticamente que mostre violência realista ainda poderá ser removido se o seu objetivo for chocar ou enojar os espectadores.
E daqui para frente, como aponta o YouTube, à medida que as novas atualizações forem lançadas, o conteúdo criado pelos produtos e recursos generativos de IA da plataforma será claramente rotulado como alterado ou sintético.
Novas opções para criadores, espectadores e artistas
O YouTube afirma ouvir o feedback contínuo da nossa comunidade, incluindo criadores, espectadores e artistas, sobre as formas como as tecnologias emergentes poderiam impactá-los.
Assim, nos próximos meses, a plataforma vai tornar possível a solicitar a remoção de conteúdo gerado por Inteligência Artificial ou outro conteúdo sintético ou alterado que simule um indivíduo identificável, incluindo o rosto ou voz, usando o processo de solicitação de privacidade. Nem todo o conteúdo será removido do YouTube e fatores serão considerados ao avaliar essas solicitações. Isto pode incluir se o conteúdo é uma paródia ou uma sátira, se a pessoa que faz o pedido pode ser identificada de forma única ou se apresenta um funcionário público ou um indivíduo bem conhecido, caso em que pode haver uma exigência mais elevada.
Além disso, o YouTube está introduzindo a capacidade dos parceiros musicais solicitarem a remoção de conteúdo musical gerado por Inteligência Artificial que imita a voz de um artista. Ao determinar se será concedido um pedido de remoção, considerado fatores como se o conteúdo é objeto de reportagem, análise ou crítica dos vocais sintéticos. Essas solicitações de remoção estarão disponíveis para gravadoras ou distribuidores que representam artistas participantes dos primeiros experimentos musicais de Inteligência Artificial do YouTube. A plataforma diz que continuará a expandir o acesso a gravadoras e distribuidores adicionais nos próximos meses.
Implantando tecnologia de IA para potencializar a moderação de conteúdo
O YouTube utiliza uma combinação de pessoas e tecnologias de aprendizado de máquina para aplicar as diretrizes da comunidade, com mais de 20 mil revisores do Google operando em todo o mundo. Nos sistemas, os classificadores de Inteligência Artificial ajudam a detectar conteúdo potencialmente violador em grande escala, e os revisores trabalham para confirmar se o conteúdo realmente ultrapassou os limites da política. A plataforma ainda diz que a tecnologia aumenta continuamente a velocidade e a precisão dos sistemas de moderação de conteúdo.
De acordo com o YouTube, uma área clara de impacto tem sido a identificação de novas formas de abuso. Quando surgem novas ameaças, os sistemas têm relativamente pouco contexto para compreendê-las e identificá-las em grande escala.
No entanto, ainda de acordo com o YouTube, a Inteligência Artificial generativa ajuda a expandir rapidamente o conjunto de informações nas quais os classificadores da tecnologia são treinados, o que significa a capacidade de identificar e capturar esse conteúdo com muito mais rapidez. A maior velocidade e precisão dos sistemas também permite reduzir a quantidade de conteúdo prejudicial ao qual os revisores humanos estão expostos.
Incorporando responsabilidade nas ferramentas e recursos de Inteligência Artificial
À medida que o YouTube desenvolve novas ferramentas de Inteligência Artificial para criadores, a abordagem permanece consistente com a forma como é enfrentado alguns dos maiores desafios de responsabilidade: a plataforma acredita que é preciso dedicar tempo para acertar as coisas, em vez de se esforçar para ser os primeiros.
O YouTube diz que está aproveitando os anos de investimento em equipes e tecnologia capazes de moderar conteúdo em escala. Isso inclui, segundo a plataforma, um trabalho significativo e contínuo para desenvolver proteções que impedirão que as ferramentas de Inteligência Artificial gerem o tipo de conteúdo que não pertence ao site.
A plataforma ainda incorporou o feedback dos usuários e o aprendizado para melhorar continuamente as proteções. Além disso, de acordo com o YouTube, dentro da empresa, equipes dedicadas, como o departamento de inteligência, estão especificamente focadas em testes adversários e detecção de ameaças para garantir que os sistemas enfrentem novos desafios à medida que surgem.
A transformação da Inteligência Artificial
O YouTube diz que ainda está no início da jornada para desbloquear novas formas de inovação e criatividade com Inteligência Artificial generativa. A plataforma informa que está dedicando um tempo para equilibrar os benefícios com a garantia da segurança contínua da comunidade neste momento crucial.
