1 июня, по местному времени, Google заявила, что не будет продлевать проект Maven с Министерством обороны США. Генеральный директор Google cloud Diane Greene объявил о вышеупомянутом сообщении сотрудникам на очередной встрече Google Cloud в пятницу. Она сказала, что в настоящее время контракт Maven, подписанный между Google и американскими военными, истекает в 2019 году. К тому времени Google больше не будет стремиться продлить контракт.
Кроме того, Грин также сказал на встрече, что Google больше не будет продвигать проект Maven, потому что обратная связь от проекта оказала плохое влияние на компанию. Она также добавила, что на следующей неделе компания планирует внедрить использование искусственного интеллекта (AI). Новый принцип прибытия.
В апреле прошлого года военные США предложили проект Maven. Цель Maven - «ускорить работу Министерства обороны для интеграции больших данных и машинного обучения», а Министерство обороны США назвало Cross-Functional Team (AWCFT) Алгоритмической войны. Основная задача проекта Maven заключается в том, чтобы помочь Министерству обороны США эффективно обрабатывать огромное количество видеоданных со всего мира. Министерство обороны США ежедневно собирает большое количество снимков с помощью беспилотных летательных аппаратов, но аналитики по человеческим изображениям значительно отстают от количества видеороликов. Таким образом, министерство обороны надеется использовать машинное обучение для идентификации транспортных средств и других объектов в кадре, что уменьшает нагрузку на аналитиков. В отсутствие собственных ресурсов министерство обороны обратилось к экспертам в области искусственного интеллекта и промышленности. сотрудничество.
В этом проекте Google предоставил интерфейс TensorFlow API для приложений машинного обучения в министерстве обороны США, чтобы помочь военным аналитикам обнаруживать объекты на изображении. Но в какой степени сотрудничество не было раскрыто внешнему миру.
Сотрудничество между Google и американскими войсками изначально вызвало неудовлетворенность внутри компании. Внутренние сотрудники Google считают, что это сотрудничество влияет на репутацию и корпоративную культуру, а также на моральные проблемы разработки машинного обучения и использования. В апреле этого года у Google были внутренние Более 3000 сотрудников написали открытые письма руководителям Google и потребовали, чтобы они прекратили сотрудничество с американскими военными. К маю у Google было более дюжины сотрудников, официально ушедших из Google для этого проекта.
С другой стороны, внешний мир также дал Google огромное количество давления общественного мнения. В академическом сообществе есть 364 специалиста по искусственному интеллекту, которые также совместно пишут книги против Google.
Для внутренних отставку и внешнего давления в Google Google однажды выбрала «холодную обработку». Когда Google в сентябре прошлого года обсуждала этот вопрос внутри страны, главный ученый Google и вице-президент Ли Фейфи настоятельно предложили в письме, что обе стороны Избегайте слова «AI» (искусственный интеллект) в контракте.
«Независимо от того, какую цену вы платите, вы должны избегать упоминания или использования слова AI. Оружие с оружием может быть самой чувствительной темой в мире ИИ. Никого нет. Для СМИ это просто красное мясо (красное). () мясо) Они найдут все способы уничтожить Google ». Ученый из лаборатории искусственного интеллекта в Стэнфордском университете сказал по электронной почте.
«Я не знаю, начали ли СМИ обсуждать, что Google тайно строит оружие AI или технологию ИИ, и что будет с оборонной промышленностью», - сказал Ли Фейфи, поэтому она надеется представить проект как Google Cloud Platform, когда объявляет контракт. Крупнейшая победа Ли Лифэй всегда верил в искусственный интеллект, ориентированный на человека, который может принести пользу человечеству позитивным и благотворительным способом. Она также сказала, что любые исследования проекта по искусственному интеллекту будут нарушать ее принципы.
Однако Google в конечном итоге решил не публиковать проект Maven. Только когда противники начали протестовать через внутреннюю коммуникационную платформу Google, роль Google в качестве субподрядчика для проекта Maven привлекла внимание общественности.
В апреле этого года голос оппозиции усилился. Google провел внутреннюю конференцию, чтобы представить своих сотрудников тем, что делал Google. На этом также сказал нынешний генеральный директор Google Сундар Пичай. Google разработает ряд принципов для руководства своим искусственным интеллектом в контрактах на оборону и разведку, о том, как преодолеть этическое минное поле. Google также рассказал о внешнем мире, новый принцип позволит избежать развития искусственного интеллекта в отношении оружия.
На более ранней встрече Google Weekly по всей TGIF (спасибо Богу, это пятница) Грин также пытался развеять заботы сотрудников. На встрече она сказала, что проект Maven не предназначен для нападений, контракты обеих сторон Стоимость довольно небольшая, всего 9 миллионов долларов США. Руководители Google считают, что этот проект способствует расширению Google Cloud и правительства, военного сотрудничества.
Однако, согласно «Подключенному» 29 мая, проект Maven начнет расширяться к новым областям к 2018 году, включая использование средств разработки для более эффективного управления жесткими дисками. Кроме того, ожидается, что финансирование проекта Maven в этом году достигнет 131 миллиона. Пентагон США также планирует создать объединенный центр искусственного интеллекта с Силиконовой долиной, который может следовать проекту Maven для поддержки военных США и предоставлять услуги спецслужбам. Это вызывает разногласия, вызванные тем, что проект Maven может увеличиться в ближайшие месяцы.
Эта ситуация также заставила Google пойти на компромисс. Хотя он не хотел потерять контракт с армией, под давлением общественного мнения Google выбрал «не делать зла».