В 2015 году Google объявила, что выпустит TensorFlow, внутренний инструмент для разработки алгоритмов ИИ, который изменит направление исследований и разработок по всему миру. По словам генерального директора Google, влияние технологий ИИ может быть столь же глубоким, как и электричество, а Google обеспечивает Инструменты открытые, бесплатные, и порог для начала работы с ИИ также сокращен от докторантуры до всего лишь одного ноутбука.
Но сила TensorFlow теперь находится вне контроля Google. В течение более двух лет научные круги и Силиконовая долина использовали TensorFlow для создания ряда убедительных результатов, но анонимный пользователь DeepFakes форума Reddit является последним фокусом.
Deepfakes основывается на программном обеспечении AI для почти бесшовного сшивания любого изображения лица в фильме, и вы можете легко представить, что он будет делать ». Материнская плата сообщает, что программное обеспечение использовалось для Лицо человека (например, знаменитость или подруга) надевает тело актрисы.
После того, как «Материнская плата» впервые раскрыла новость, Deepfakes создала собственный субреддит и собрала более 91 000 подписчиков. Другой пользователь Reddit, deepfakeapp, также выпустил инструмент под названием FakeApp, который каждый может загружать и использовать для своего собственного программного обеспечения для ИИ. В настоящее время Reddit запретила сообщество на том основании, что оно нарушает веб-сайт по недобровольным сексуальным нормам.
Основываясь на руководстве пользователя FakeApp, программное обеспечение было построено на TensorFlow, сотруднике Google, который использовал TensorFlow, чтобы сделать что-то подобное с немного другой настройкой и темой, а также алгоритм обучения для создания изображения из граффити, сказал Deepfakes Много удовольствия использует, например, лицо Николаса Кейджа в разных фильмах, но мы знаем, что 91 000 игроков, подписавшихся на форум, предназначены для фильмов A.
TensorFlow Этот ресурс с открытым исходным кодом приносит много полезных человеческих результатов, таких как возможное обнаружение алгоритмов рака, наличие FakeApp представляет собой темную сторону открытого источника.
Google (и Microsoft, Amazon, Facebook) - это много технологий, открытых миру, теперь каждый может скачать программное обеспечение AI, экспериментировать, создавать, что означает, что вы можете подделывать политические речи (используя звук, подобный AI ), Может также генерировать ложные ответные видеоролики секса. Все цифровые медиа - это серия из 1 и 0, ИИ может умело устроить, чтобы создать нечто, чего не было.
Поскольку программное обеспечение работает непосредственно на одном компьютере, крупные технологические компании теряют контроль, поскольку программное обеспечение покидает сервер, а догма идей с открытым исходным кодом также означает, что эти компании не должны чувствовать себя виноватыми или обвинять в последствиях.
Шторма для лица недостаточно для изменения статус-кво, потому что бесплатное программное обеспечение является хорошим бизнесом для этих компаний, так что больше людей разрабатывают ИИ. Все крупные технологические компании как можно больше погружаются в борьбу за талант ИИ, тем больше Чем лучше приток людей в поле, тем свободная лаборатория пишет код, вдохновляет новые продукты, помогает выявлять ошибки, исправлять программы и университеты обучать студентов колледжей и аспирантов, чтобы использовать программное обеспечение для обеспечения хорошего конвейера, чтобы улучшить знакомство с собственными инструментами Новый талант
Мазин Гилберт, вице-президент по передовым технологиям AT & T, сказал: «В течение последних пяти лет все говорили о большом прорыве в машинном обучении, но настоящий большой прорыв не является алгоритмом. На самом деле алгоритм в основном такой же, как в 1970-х и 1980-х годах. Это с открытым исходным кодом.
«Открытый исходный код уменьшил барьеры для входа, поэтому на данный момент это не IBM, а Google и Facebook».
Поскольку общественное мнение придает важность этике развития ИИ, проблема с программным обеспечением с открытым исходным кодом также осложняется тем фактом, что действующие инструменты Google не предназначены для создания террористической угрозы для Skynet Дьявольского Терминатора, но все равно могут нанести реальный вред. Компании, предлагающие открытые AI-структуры с открытым исходным кодом, такие как Google и Microsoft, выкрикивали важность этики AI и позволяли ученым работать над ними, но эти компании не предлагают никаких рекомендаций по загрузке бесплатного программного обеспечения, и нет таких ориентированных на этику руководств, как веб-сайт TensorFlow инструкции.
Пусть ИИ уже не является открытым исходным кодом, похоже, не идеальное решение, ArXiv, Github и другие сайты для обмена информацией бесплатно, от имени заинтересованных сторон могут выявлять потенциальные проблемы и требовать подотчетности. Поскольку разработчики основных технологий не захотят Например, Gfycat удаляет все GIF из глубоких фонов, Reddit запрещает это, и PornHub говорит, что он удалит их, если они найдут похожие, но deepfakes.club Сайт по-прежнему существует за пределами крупных социальных платформ.
Фильм, меняющий лицо, не только навредил актрисе, изменяющей лицо, но и умалял профессиональную работу актрисы А, рассматривая их как «сменные», распространяя их без их ведома, несогласия или контроля Манипуляция: эта технология может быть применена к знаменитостям, конечно же, некоторые люди неизбежно будут использоваться среди населения в целом, таких как одноклассники, коллеги, дети, одноклассники, бывшая подруга, в качестве средства ответного секса, сексуальные домогательства будут В золотой век, до тех пор, как любая женщина была застрелена, слишком много фотографий имеют подозрение, не говоря уже о том, что фотографии, загруженные на веб-сайт сообщества, больше времени думают о проблемах с разрешениями.