初創公司參與美軍AI項目遇黑客 | 軍事技術或遭泄漏

去年夏天, 位於曼哈頓的人工智慧創業公司Clarifai的辦公室裡, 有一間悶熱, 無窗的房間, 房門上掛了一個牌子, 根據三名見過這個牌子的人說, 上面寫著的是 '機密之地, 禁止入內' .

這個通知是一個玩笑, 其實暗指的是在Clarifai公司, 這個小小團隊裡的工作人員被禁止與他人討論相關工作. 離職員工和現任員工說, 該團隊正在忙於開發一項有爭議的五角大樓項目, 這一項目使用機器學習演算法來讀取無人機監控映像, 而Clarifai公司的秘密的安全程度並未達到應有的級別. 前僱員Amy Liu在本月提起的訴訟中稱, Clarifai的計算機系統受到了俄羅斯一個或多個人的威脅, 有可能將泄露美國軍方打擊敵人所使用的技術.

這起訴訟稱, Clarifai在去年11月發現了這一漏洞, 但公司的首席執行官和其他高管並沒有立即向五角大樓報告此事. 在她的訴狀中, 曾在軍事情報部門工作過的前空軍上尉劉說, 因為她認為公司需要公開報告這起事件而被不公正地解僱了. 她被開除前是公司的市場部主管.

另一名前僱員告訴《連線》雜誌, 他對高管面對黑客攻擊的行為不聞不問感到很擔憂, 並決定離開公司.

該公司的前任和現任員工都說, Clarifai公司正在忙一個名為Project Maven的項目, 五角大樓發起這一項目的目的在於為美國軍方加入人工智慧力量. 該項目在穀歌內部引發了異議, 穀歌也實行了類似的無人機項目. 而後, 公司4500名員工聯合署名抗議, 稱他們不願意穀歌的智能技術成為美軍方的殺人幫凶. 這一事件促使該公司緊接著發布了有關其人工智慧技術使用的道德準則, 並承諾在明年到期後不再續簽.

Clarifai拒絕回應其是否曾參與過Maven項目. 一名發言人表示, 涉及此次安全事故的是一種 '非目標機器人' , 它感染了一種無法訪問任何數據或代碼的研究伺服器. 該發言人表示, 公司已就該事件通知了客戶, 但拒絕透露公司是何時通知的客戶, 或者是否也向五角大樓通知了這一情況.

Clarifai公司於2013年由馬修·澤勒創立, 他是一名博士, 與教授一起研究機器學習, 他後來成為穀歌和Facebook的頂級人工智慧研究人員. 這家創業公司為企業提供映像識別功能的服務, 可完成識別名人和食物等任務. 劉女士說, 她理解為什麼美國軍方需要擴大人工智慧技術的使用範圍. 她還說, Clarifai公司缺乏透明度和安全保障, 使該公司不太合適成為五角大樓實現其計劃的助手. 劉女士說: '如果現在穀歌退出了市場, 他們能選擇的就只有像Clarifai公司這樣的公司, 這是令人傷心和害怕的事情' .

在回答有關其開發人工智慧技術的方法的問題時, 一位發言人在其網站上提到了Clarifai公司的核心價值觀. 他們形容這家公司 '是在我們的使命的推動下, 通過不斷改進人工智慧來加速人類的進步. ' 劉女士說, 她在2017年6月幫助起草Clarifai公司有關Maven項目的合同時, 被選派到加入Clarifai公司的軍事工作中.

這篇文章認為, Clarifai公司為商業客戶開發的技術可以被用於做一些事情, 比如檢測和計算無人機映像中出現的汽車和人. 劉女士說, Clarifai公司在去年夏天簽署了一份為期6個月, 價值700萬美元的合同. 和穀歌一樣, Clarifai公司也曾是ECS聯邦公司的一家分包商. 這家公司是一家IT承包商, 總部位於維吉尼亞州費爾法斯.

能得到Maven項目的合同對Clarifai公司來說是一個巨大的勝利. 一份自2017年底開始的內部檔案顯示, 該公司的大部分交易前景都不到10萬美元.

但劉女士和其他熟悉該項目的人說, 高管們掩蓋了克拉費參與軍事工作的事實, 他將該項目描述為一項可以拯救生命的政府合同, 兩名參與該項目的人表示, 他們最初並沒有被告知, 他們所建造的監控技術是為軍方服務的.

現任員工和前任員工均表示, Clarifai公司大約有10人在Maven項目部工作, 他們的工作間後來被標記為 '機密之地' . 對一些人來說, 這個項目的目的只有在看起來像是軍方人員的政府工作人員來訪問Clarifai公司的辦公室, 討論正在開發的系統時, 方能完全展現出來. Clarifai的發言人表示, 該公司已確保員工了解他們所從事的項目.

根據《連線》雜誌看到的一份原始事故報告, 在11月初, Clarifai被互聯網服務提供商Cogent告知, 該公司的一個伺服器似乎在攻擊印地安納大學. 該報告稱, 該公司所有的代碼和其亞馬遜網路服務賬戶的憑證都可能被泄露, 而造成這一切的惡意軟體似乎是來源於俄羅斯的一台電腦. Clarifai公司的發言人表示, 該公司的調查發現, 該公司的數據和代碼都沒有受到影響.

在11月7日由《連線》雜誌審閱的聊天記錄中, 該公司首席執行官澤勒表示, 該惡意軟體試圖將 '世界各地的計算機' 聯繫在一起, 其中包括一些屬於美國政府的電腦, 澤勒寫道: '有意思. 其中有一個是國防部網路資訊中心. '

劉女士說, 第二天她從其他員工那裡聽說公司被黑客攻擊了. 不久之後, 她抱怨說, Clarifai公司的總法律顧問卡洛琳·麥卡弗瑞通過Slack資訊約她在雜物間會面.

在那裡, 麥卡弗瑞詳細描述了高管們對此次黑客攻擊的了解, 並請求幫助策劃有關此次事件的內部消息. 她表示, 她擔心五角大樓, 或許還有其他的公司客戶, 也應該得到通知, 但麥卡弗瑞稱, 在內部調查完成之前, 這些都是多餘的.

前任員工和現任員工都說, 當天晚些時候, 麥卡弗瑞在一次公司會議上宣布, 不準對此次黑客攻擊事件進行任何記錄. 在她的訴訟中, 劉女士說, 她在與她的經理的下一次會面中, 提到了向政府報告黑客事件的日程安排. 然後, 她在幾天后被解僱了.

一名前員工和一名現任員工表示, 公司在幾周后仍未向五角大樓透露這一事件. 一名公司發言人表示, 該公司的客戶收到了這一事件的通知, 但拒絕透露何時. 劉女士的訴狀稱, 五角大樓通過其他方式了解了這起事件, 但她和她的律師拒絕對此詳細說明.

劉女士說, 她被告知她被解僱了, 因為她的工作與Clarifai公司的銷售團隊不一致. 她的訴訟聲稱, 她被解僱的真正原因是她曾敦促公司向五角大樓通報這一事件.

她的投訴是向國防部監察長提交的, 聲稱Clarifai公司違反了五角大樓的規定, 在72小時內沒有報告泄密事件, 並違反了禁止對試圖披露違反部門規定資訊的承包商僱員進行報複的這條軍事法律. Clarifai的發言人證實, 劉女士在去年11月被解僱, 但否認該公司做了任何不正當的事情.

知情人士說, 今年早些時候, Clarifai的Maven合同的有效時間延長了兩個月, 因為五角大樓喜歡該公司的技術. 那時, 已經有幾名員工被離職或被指派到該項目中去.

Clarifai公司在曼哈頓和舊金山都設有辦事處, 它仍在努力擴大政府和國防部門的工作, 部分原因是僱傭了更接近五角大樓的新員工. 這家創業公司的網站列出了華盛頓特區的五個開放式工程師職位.

2016 GoodChinaBrand | ICP: 12011751 | China Exports