Em 2015, o Google anunciou que liberaria o TensorFlow, uma ferramenta interna para o desenvolvimento de algoritmos de AI que mudarão a direção da pesquisa e desenvolvimento de AI em todo o mundo. Nas palavras-chave do CEO do Google, o impacto da tecnologia AI pode ser tão profundo quanto a eletricidade e o Google oferece As ferramentas estão abertas, gratuitas e o limiar para começar a AI também é reduzido de um doutorado para apenas uma caneta.
Mas o poder da TensorFlow está agora além do controle do Google. Por mais de dois anos, a academia e o Silicon Valley usaram o TensorFlow para criar uma série de resultados convincentes, mas o usuário do Reddit anônimo deepfakes é o último foco.
A Deepfakes baseia-se no software da AI para costurar quase sempre qualquer imagem facial em um filme, e você pode facilmente imaginar o que seria fazer. "A placa-mãe informa que o software foi usado para colocar qualquer O rosto de uma pessoa (como uma celebridade feminina ou um amigo do rosto) coloca o corpo de uma atriz pornô.
Depois que a "Placa-mãe" divulgou pela primeira vez a notícia, a Deepfakes criou seu próprio subreddit e acumulou mais de 91 mil assinantes. Outro usuário do Reddit, deepfakeapp, também lançou uma ferramenta chamada FakeApp que qualquer pessoa pode baixar e usar para o seu próprio software AI. Atualmente, a Reddit proibiu a comunidade alegando que ela viola o site para normas de sexo não-voluntárias.
Com base no guia do usuário da FakeApp, o software foi desenvolvido no TensorFlow, um funcionário do Google que usou o TensorFlow para fazer algo semelhante com uma configuração e um tema ligeiramente diferentes e um algoritmo de treinamento para criar uma imagem do graffiti, Deepfakes disse Muitos usos divertidos, como colocar o rosto de Nicolas Cage em uma variedade de filmes diferentes, mas sabemos que os 91.000 jogadores que se inscreveram no fórum são para filmes A.
TensorFlow Este recurso de código aberto traz muitos resultados humanos úteis, como a possível detecção de algoritmos de câncer, a presença de FakeApp representa o lado escuro da fonte aberta.
Google (e Microsoft, Amazon, Facebook) são muitas tecnologias, abertas para o mundo, agora qualquer pessoa pode baixar o software AI, experimentar, criar, o que significa que você pode faltar discursos políticos (usando um som como AI ), Também pode produzir falsos vídeos de sexo de retaliação. Todas as mídias digitais são uma série de 1 e 0, a AI pode ser habilmente organizada para produzir algo que não existia.
Como o software funciona diretamente em um único computador, as empresas de grande tecnologia perdem o controle à medida que o software sai do servidor, e o dogma de idéias de código aberto também significa que essas empresas não precisam se sentir culpadas ou culpadas pelas conseqüências.
Uma tempestade para o rosto não é suficiente para mudar o status quo, porque o software livre é um bom negócio para essas empresas, para que mais pessoas desenvolvam IA. Todas as empresas de grande tecnologia estão mergulhadas na luta pelo talento AI tanto quanto possível, mais Quanto melhor o influxo de pessoas no campo, os laboratórios gratuitos escrevem código, inspiram novos produtos, ajudam a identificar erros, corrigir programas e as universidades treinam universitários e estudantes de pós-graduação para usar o software para fornecer um bom pipeline para aumentar a familiaridade com as ferramentas internas Novo talento
Mazin Gilbert, vice-presidente de tecnologia avançada da AT & T, disse: "Todo mundo tem falado sobre um grande avanço no aprendizado de máquina nos últimos cinco anos, mas o grande avanço real não é um algoritmo. Na verdade, o algoritmo é basicamente o mesmo que os anos 1970 e 1980. É de código aberto. "
"A fonte aberta reduziu as barreiras à entrada, então não é a IBM, mas o Google e o Facebook no momento".
À medida que a opinião pública atribui importância à ética de desenvolvimento da AI, a questão do software de código aberto também é complicada pelo fato de que as ferramentas atuais do Google não se destinam a criar a ameaça terrorista do Skynet do Devil Terminator, mas ainda podem causar danos reais. As empresas que oferecem estruturas abertas de AI de código aberto, como o Google e a Microsoft, estão gritando a importância da ética de AI e permitem que os cientistas trabalhem nelas, mas essas empresas não oferecem diretrizes para baixar software livre. Não há guias relevantes para o ética, como o site TensorFlow Descrição.
Deixe a AI deixar de abrir a fonte não parece ser a solução ideal, o ArXiv, o Github e outros sites para compartilhar informações gratuitamente, em nome das partes interessadas, podem identificar possíveis armadilhas e exigir responsabilidade. Como os principais desenvolvedores de tecnologia não estarão dispostos a enfrentar Por exemplo, o Gfycat remove todos os GIFs de deepfakes, o Reddit proíbe o fórum e o PornHub diz que ele irá excluí-los se acharem um similar, mas deepfakes.club O site ainda existe fora das principais plataformas sociais.
Um filme que altera o rosto não prejudicou apenas a atriz que mudou o rosto, mas também depreciou o trabalho profissional da atriz A, tratando-os como "substituíveis" e disseminando-os sem o seu conhecimento, discordância ou controle Manipulação, esta tecnologia pode ser aplicada a celebridades, é claro, algumas pessoas serão inevitavelmente usadas na população em geral, como colegas de classe, colegas, crianças, colegas de classe, ex-namorada, como meio de retaliação sexual, o assédio sexual será Na idade dourada, desde que qualquer mulher tenha sido filmada, muitas fotos têm suspeita, para não mencionar as fotos carregadas no site da comunidade mais tempo pensando em questões de permissões.