2015, Google anunció el lanzamiento TensorFlow herramienta interna desarrollado algoritmos de IA, cambiando así la dirección de la investigación y el desarrollo de AI en todo el mundo. Con las palabras de CEO de Google, la influencia de la tecnología de IA puede ser tan largo alcance como la energía, al tiempo que proporciona Google la herramienta está abierta, de forma gratuita, el umbral de entrada se reduce de AI doctorado sólo necesita un ordenador portátil.
Pero el poder de TensorFlow está ahora fuera del control de Google. Durante más de dos años, la academia y Silicon Valley han utilizado TensorFlow para crear una serie de resultados convincentes, pero el usuario anónimo de Reddit deepfakes es el último enfoque.
Deepfakes se basa en el software de IA para coser casi cualquier imagen facial en una película, y usted puede imaginar fácilmente lo que estaría haciendo. "Motherboard informa que el software se utilizó para poner cualquier La cara de una persona (como una celebridad femenina o un amigo de la cara) se pone el cuerpo de una actriz porno.
Después de que "Motherboard" primero reveló las noticias, Deepfakes creó su propio subreddit y acumuló más de 91,000 suscriptores. Otro usuario de Reddit, deepfakeapp, también lanzó una herramienta llamada FakeApp que cualquiera puede descargar y usar para su propio software de IA. Actualmente Reddit ha prohibido esta comunidad, con el argumento de que viola las normas del sitio de pornografía involuntaria.
De acuerdo con la Guía FakeApp, este software se basa acumulación TensorFlow. Los empleados de Google una vez por ajustes ligeramente diferentes y temas, con TensorFlow hecho cosas similares, algoritmo de entrenamiento para generar una imagen de graffiti. Deepfakes pensar que hay muchos uso diversión, tales como la cara del Nicolas Cage en una variedad de diferentes películas, pero sabemos que suscribirse al foro de 9,1 millones de jugadores son de una hoja.
TensorFlow Este recurso de código abierto trae muchos resultados humanos útiles, como la posible detección de algoritmos de cáncer, la presencia de FakeApp representa el lado oscuro de la fuente abierta.
Google (y Microsoft, Amazon, Facebook) son mucha tecnología, abierta al mundo, ahora cualquiera puede descargar software de IA, experimentar, crear, lo que significa que puede simular discursos políticos (usando un sonido como AI ), También puede producir videos de sexo de venganza falsa. Todos los medios digitales son una serie de 1 y 0, la inteligencia artificial puede organizarse inteligentemente para producir algo que no existía.
Debido a que el software funciona directamente en una sola computadora, las grandes compañías tecnológicas pierden el control a medida que el software abandona el servidor, y el dogma de las ideas de código abierto también significa que estas compañías no necesitan sentirse culpables o culpadas por las consecuencias.
Una pieza crisis de trasplante de cara no es suficiente para cambiar el status quo, ya que el software libre es un buen negocio para estas empresas, para que más personas desarrollan AI. Cada principales compañías de tecnología están atrapados en la competición AI batalla por el talento tanto como sea posible, cuanto más la gente vierte en el campo, mejor. estos trabajadores estarán libres para escribir código de programa, inspirar a nuevos productos, para ayudar a encontrar errores, correcciones, universitaria de grado y los estudiantes graduados estarán capacitados para utilizar el software, proporcionar una buena canalización, aumentando familiarizados con las herramientas internas de la compañía el nuevo talento.
El vicepresidente de la tecnología avanzada de AT & T Jier Bo (Mazin Gilbert), dijo: "Estamos hablando durante los últimos cinco años, la máquina de aprendizaje avance, pero el muy grande algoritmo de avance no es, de hecho, el algoritmo con 1970, 1980, 1990 Meiliang Yang, un verdadero avance es de código abierto ".
"El código abierto reduce las barreras de entrada, por lo que ya no es el más profundos bolsillos de IBM, pero Google y Facebook."
Con la atención pública sobre la ética del desarrollo AI, los problemas de software de código abierto también complicadas. Herramientas ofrecidos por Google, no está destinada a crear una "Terminator" Skynet (Skynet) y otras amenazas terroristas, pero todavía es probable que cause un daño real. Google, Microsoft y otras compañías que proporcionan framework de código abierto ha sido vocal importancia AI AI de la ética, sino también a científicos de sus investigaciones, pero la empresa no proporcionó ninguna directriz para el software libre descarga, como el sitio web oficial TensorFlow no tienen ningún directrices relacionadas con la ética instrucciones.
Dejar que AI ya no abra la fuente no parece ser la solución ideal, ArXiv, Github y otros sitios para compartir información de forma gratuita, en nombre de los interesados pueden identificar riesgos potenciales y demandas de rendición de cuentas. Como los desarrolladores de tecnología central no estarán dispuestos a enfrentar Por ejemplo, Gfycat elimina todos los GIF de deepfakes, Reddit prohíbe el foro, y PornHub dice que los eliminará si encuentran uno similar, pero deepfakes.club El sitio aún existe fuera de las principales plataformas sociales.
Una película que cambia la cara no solo daña a la actriz que cambia la cara, sino que también menosprecia el trabajo profesional de la actriz A, tratándolas como "reemplazables", difundiéndolas sin su conocimiento, desacuerdo o control. Manipulación; Esta tecnología se puede aplicar a las celebridades, por supuesto, algunas personas inevitablemente se utilizarán en la población general, como compañeros de clase, colegas, niños, compañeros de clase, ex novia, como medio de venganza sexual, el acoso sexual será En la edad de oro, mientras que a una mujer le dispararon, demasiadas fotos tienen suspicacias, por no mencionar las fotos cargadas en el sitio web de la comunidad, más tiempo para pensar en los problemas de permisos.