En 2015, Google a annoncé la sortie de TensorFlow, un outil interne permettant de développer des algorithmes d'IA qui vont changer la direction de la recherche et du développement de l'IA dans le monde entier. Les outils sont ouverts, gratuits, et le seuil pour commencer l'IA est également réduit d'un doctorat à un seul ordinateur portable.
Mais la puissance de TensorFlow est maintenant hors du contrôle de Google Depuis plus de deux ans, les universités et la Silicon Valley utilisent TensorFlow pour créer un certain nombre de résultats convaincants, mais l'utilisateur anonyme du forum Reddit est le dernier foyer.
Deepfakes se base sur le logiciel AI pour coudre pratiquement n'importe quelle image faciale dans un film, et vous pouvez facilement imaginer ce qu'il ferait. "Motherboard rapporte que le logiciel a été utilisé pour mettre tout Le visage d'une personne (comme une célébrité féminine ou un ami de visage) met sur le corps d'une actrice porno.
Après « mère » d'abord la divulgation de l'information, Deepfakes a créé son propre subreddit, accumulé plus de 91.000 abonnés. Une autre deepfakeapp utilisateur Reddit a également publié un outil appelé FakeApp, tout le monde peut télécharger ce logiciel AI, l'auto-emploi. Actuellement, Reddit a interdit la communauté au motif qu'elle viole le site Web pour les normes sexuelles non volontaires.
Selon le Guide FakeApp, ce logiciel est basé build tensorflow. Les employés de Google une fois par des réglages légèrement différents et thèmes, avec tensorflow fait des choses similaires, algorithme de formation pour générer une image de graffiti. Deepfakes pense qu'il y Beaucoup d'utilisations amusantes, comme mettre le visage de Nicolas Cage dans une variété de films différents, mais nous savons que les 91 000 joueurs qui se sont abonnés au forum sont pour des films.
TensorFlow Cette ressource open-source apporte de nombreux résultats humains utiles, tels que la détection possible des algorithmes de cancer, la présence de FakeApp représente le côté sombre de l'open source.
Google (et Microsoft, Amazon, Facebook) sont beaucoup de technologies, ouvertes au monde, maintenant tout le monde peut télécharger un logiciel IA, expérimenter, créer, ce qui signifie que vous pouvez simuler des discours politiques (en utilisant un son comme AI ), Peut également produire de fausses vidéos de sexe de rétorsion. Tous les médias numériques sont une série de 1 et 0, AI peut être intelligemment arrangé pour produire quelque chose qui n'existait pas.
Parce que le logiciel fonctionne directement sur un seul ordinateur, les grandes entreprises technologiques perdent le contrôle à mesure que le logiciel quitte le serveur, et le dogme des idées open source signifie également que ces entreprises ne doivent pas se sentir coupables ou blâmés des conséquences.
Une crise de pièce de greffe du visage ne suffit pas de changer le statu quo, parce que le logiciel libre est une bonne affaire pour ces entreprises, de sorte que plus de personnes développent AI. Toutes les grandes entreprises technologiques sont pris dans la bataille compétition AI pour le talent autant que possible, plus les gens versés dans le domaine, les meilleurs. ces travailleurs seront libres d'écrire du code de programme, d'inspirer de nouveaux produits, pour aider à trouver bug, fixe, premier cycle universitaire et les étudiants diplômés seront formés à l'utilisation du logiciel, fournir une bonne conduite, de plus en plus familier avec les outils internes de l'entreprise Nouveau talent
Vice-président de la technologie de pointe AT & T Jier Bo (Mazin Gilbert) a dit: « Nous parlons au cours des cinq dernières années, la percée d'apprentissage automatique, mais l'algorithme révolutionnaire vraiment grand est pas, en fait, l'algorithme avec 1970, 1980, 1990 Meiliang Yang, une véritable percée C'est une source ouverte. "
"L'open source a réduit les barrières à l'entrée, donc ce n'est pas IBM, mais Google et Facebook en ce moment."
Avec l'attention du public à l'éthique du développement AI, les problèmes logiciels open source aussi compliquée. Outils actuellement proposés par Google, ne vise pas à créer une Skynet « Terminator » (Skynet) et d'autres menaces terroristes, mais il est encore susceptible de causer un préjudice réel. Google, Microsoft et d'autres entreprises pour fournir un cadre open source a été importance vocale AI AI de l'éthique, mais aussi aux scientifiques de ses recherches, mais la société n'a pas fourni de lignes directrices pour le logiciel gratuit de téléchargement, comme site officiel tensorflow n'ont pas de lignes directrices relatives à l'éthique Description
Que AI source ne plus ouverte ne semble pas être la solution idéale, ArXiv, Github et d'autres sites de partage gratuit d'information, au nom des parties prenantes peuvent identifier les pièges potentiels et exigent la reddition de comptes. Étant donné que cette développeurs de technologie de base ne sont pas prêts à faire face à la transplantation Par exemple, Gfycat supprime tous les GIF de deepfakes, Reddit interdit le forum, et PornHub dit qu'il va les supprimer s'ils en trouvent un similaire, mais deepfakes.club Le site existe toujours en dehors des principales plateformes sociales.
Un film qui change le visage a non seulement fait du tort à l'actrice qui a changé le visage, mais a également rabaissé le travail professionnel de l'actrice A, les traitant comme «remplaçables», les disséminant sans leur connaissance, leur désaccord ou leur contrôle Manipulation: Cette technologie peut être appliquée aux célébrités, bien sûr, certaines personnes seront inévitablement utilisées dans la population générale, comme les camarades de classe, collègues, enfants, camarades de classe, ex-petite amie, comme un moyen de représailles, le harcèlement sexuel sera Dans l'âge d'or, tant que toute femme a été abattu trop de photos ont des soupçons, pour ne pas mentionner les photos téléchargées sur le site communautaire plus de temps à penser à des problèmes de permissions.