Ao longo dos anos, o Google treinou sistemas de computador para manter conteúdo protegido por direitos autorais e pornografia fora do YouTube. Mas depois de ver os anúncios da Coca-Cola, Procter & Gamble e Wal-Mart aparecem ao lado de vídeos racistas, anti-semitas ou terroristas, seus engenheiros perceberam que seus robôs tinham um ponto cego: eles não entendiam o contexto.
Agora, ensinar os computadores a entender o que os seres humanos podem entender facilmente, pode ser a chave para acalmar os medos entre os anunciantes de grandes desgastes ao ver que seus anúncios têm aparecido ao lado de vídeos de grupos extremistas e outras mensagens ofensivas.
Os engenheiros, os gerentes de produto e os criadores de políticas da Google, estão tentando treinar computadores para entender as nuances do que torna certos vídeos censuráveis. Os anunciantes podem tolerar o uso de um epíteto racial em um vídeo do hip-hop, por exemplo, mas podem ficar horrorizados ao vê-lo usado em um vídeo de um grupo de skinhead racista.
Tudo isso porque os anúncios de empresas bem conhecidas terem ocasionalmente aparecido ao lado de vídeos ofensivos foi considerado um incômodo para os negócios do YouTube.
Esta falha no gigantesco processo automatizado da Google que verifica conteúdos de direitos autorais, mas não vídeos com conteúdo impróprio, se transformou em um pesadelo de relações públicas. Empresas como a AT&T e a Johnson & Johnson disseram que iriam tirar de vez seus anúncios do YouTube, bem como o negócio de publicidade gráfica do Google, até que pudessem obter garantias de que a colocação dos anúncios ao lado de vídeos considerados ofensivos não voltaria a acontecer.
Os consumidores assistem mais de um bilhão de horas no YouTube todos os dias, tornando-se a plataforma de vídeo dominante na internet e um agente importantíssimo como o dinheiro da publicidade fez a empresa se manter cada dia mais próxima ou até mesmo superar a TV aberta, contudo, os recentes problemas abriram os olhos da Google à crítica feita pelos anunciantes, de que não estavam fazendo o suficiente e dando a devida atenção para os anunciantes. Basicamente, a Google inseria os anúncios deles mas nem se importava se o anúncio poderia ser veiculado em um canal com discurso de ódio ou não.
"Levamos isso tão a sério quanto já tomamos um problema", disse Philipp Schindler, diretor de negócios da Google, em entrevista na semana passada. "Estivemos em uma reunião de emergência com todos da equipe."
Ao longo das duas últimas semanas, o Google alterou quais tipos de vídeos poderiam veicular publicidade, impedindo que os anúncios apareçam com discursos de ódio ou conteúdo discriminatório.
Além disso, o Google Inc, está simplificando a forma como os anunciantes podem excluir sites, canais e vídeos específicos no YouTube e na rede de exibição do Google.
Ele também está colocando padrões de segurança mais rigorosos por padrão.O Google criou uma maneira rápida de alertar ao anunciante por exemplo, quando os anúncios aparecem ao lado de conteúdo ofensivo.
O gigante do Vale do Silício está tentando tranqüilizar empresas como a Unilever, o segundo maior anunciante do mundo, com um portfólio de marcas de consumo como Dove e Ben & Jerry's. À medida que outras marcas começaram a fugir do YouTube, a Unilever descobriu três casos em que suas marcas apareceram em canais censuráveis do YouTube.
Mas Keith Weed, diretor de marketing da Unilever, decidiu não retirar seus anúncios porque o número de anúncios exibidos com conteúdo censurável era relativamente pequeno. O valor em média de campanha de anúncios no YouTube é de US$ 100.000 e acontece em mais de 7.000 canais, de acordo de análise de vídeo OpenSlate. A Unilever gasta centenas de milhões de dólares no YouTube. Além disso, o Google descobriu que os anúncios em questão, apareceram por causa de um erro humano ao definir níveis de segurança.
O Sr. Weed disse que era de interesse da Unilever se aproximar cada vez mais do Google em vez de cortar os laços. Como parte de suas novas medidas, o Google concordou em trabalhar com empresas externas para fornecer a verificação de terceiros sobre onde os anúncios vão aparecer no YouTube.
Os esforços do Google estão sendo notados. A Johnson & Johnson, por exemplo, disse que retomou a publicidade do YouTube em vários países. O Google disse que outras empresas estavam começando a voltar e que, aproveitando essa boa notícia, concentraria todos os esforços para que desta vez, a experiência seja outra.
Como os robôs estão sendo treinados para "se sentirem ofendidos"?
Para treinar os computadores, o Google está aplicando técnicas de aprendizado de máquina - uma tecnologia semelhante a muitos de seus maiores avanços, como o carro auto-dirigível. O Google também trouxe em grandes equipes humanas (que se recusou a dizer o quão grande era) para rever a adequação de vídeos que os computadores sinalizados como questionável.
Essencialmente, eles estão treinando computadores para reconhecer imagens de uma mulher em um sutiã esportivo e perneiras fazendo poses de ioga em um vídeo de exercício seguro para publicidade e não conteúdo sexualmente sugestivo. Da mesma forma, eles marcarão o vídeo de uma estrela de ação de Hollywood acenando uma arma como aceitável para alguns anunciantes, enquanto marcam uma imagem similar envolvendo um atirador do Estado islâmico como inapropriado.
O Google usou uma abordagem semelhante no passado para criar um sistema de classificação automatizada para vídeos, semelhante a classificações de filmes, com base na adequação do conteúdo para públicos específicos. Mas o Google está agora tentando resolver um problema diferente.
"Os computadores têm um contexto de compreensão muito mais difícil do tempo, e é por isso que estamos usando todas as nossas mais recentes e melhores habilidades de aprendizado de máquinas agora para ter uma melhor idéia para isso", disse Schindler.
Armados com exemplos verificados por humanos do que é seguro e do que não é, os sistemas de computador do Google dividem as imagens de um vídeo do YouTube quadro a quadro, analisando cada imagem. Eles também digerem o que está sendo dito, a descrição do vídeo do criador e outros sinais para detectar padrões e identificar pistas sutis para o que torna um vídeo inadequado.
A idéia é que as máquinas eventualmente façam as chamadas difíceis. Nos casos em que as marcas acham que o Google não conseguiu sinalizar um vídeo inapropriado, esse exemplo é reenviado para o sistema para que ele melhore ao longo do tempo. O Google disse que já havia sinalizado cinco vezes mais vídeos do que inapropriados para publicidade, embora tenha se recusado a fornecer números absolutos sobre quantos vídeos implicavam.
Com mais de um bilhão de vídeos no YouTube, 400 horas de novos conteúdos sendo carregados a cada minuto e três milhões de canais ad-suportados na plataforma, o Sr. Schindler disse que era impossível garantir que o Google poderia erradicar o problema completamente. Ele fez uma comparação com a forma como uma empresa de automóveis não poderia prometer que mesmo um pneu novo nunca falharia nas primeiras 10.000 milhas.
"Nenhum sistema pode ser 100% perfeito", disse ele. "Mas estamos trabalhando o máximo que pudermos para torná-lo o mais seguro possível."
Se você viu algum erro ou quer adicionar alguma informação ao nosso artigo,
clique aqui
