NEC開發了深度學習自動優化技術, 更易於提高識別精度

近日, NEC宣布開發了更易於提高識別精度的深度學習自動優化技術.

以往進行深度學習時,很難基於神經網路構造(注1)進行調整,所以無法在整個網路進行最佳化的學習, 因而無法充分發揮其識別性. 此次開發的技術, 可以基於其結構自動優化神經網路學習的進度,從而輕鬆實現比以往更加精準的識別.

此技術的出現, 使得應用了映像識別及聲音識別等深度學習技術的各個領域, 均有望實現識別精度的進一步提高. 例如, 人臉識別和行為分析等視頻監控識別精度的提高, 基礎設施等點檢工作效率的提高, 實現自動檢測災害, 事故和災難等.

一, 背景

近年來, 深度學習的研究取得了飛躍性的進展. 在映像識別, 聲音識別等廣泛領域內得到了應用. 深度學習使用具備深層構造的神經網路, 學習事先準備好的數據來實現高精度化. 但是, 如果數據被過度地學習, 則會出現 '過學習(注2)' 的現象, 即只能高精度地識別學習過的數據, 而未用於學習的數據的識別精度則降低. 為了避免這種情況的發生, 就需要使用 '正則化(注3)' 技術進行調整.

由於神經網路的學習過程因其結構而複雜多變, 所以過去只能對整個網路使用相同的正則化技術. 結果出現了網路各層有的過度學習, 有的學習停滯等問題, 因而很難充分發揮原有的識別性能. 另外, 由於手動調整各層的學習進度極為困難, 所以對於逐層自動調整學習進度的需求呼聲很高.

此次開發的技術是基於神經網路的結構, 逐層預測學習進度, 並自動配置適合各層進展的正則化技術. 通過此技術, 在整個網路中學習被優化, 並且可以將識別錯誤率降低約20%, 改善識別精度.

【圖】各層神經網路中正則化技術自動設置示意圖

二, 新技術的優點

1, 根據神經網路結構的自動學習優化

基於神經網路的結構, 我們預測每層的學習進度, 並逐層自動設置適合於各層進展的正則化. 據此, 整個網路的學習進度就得到了優化, 解決了過去各層過度學習和學習停滯的問題. 在使用該技術的手寫數字數據的識別實驗中, 識別錯誤率降低了約20%, 識別精準度已經得到明顯改善.

【圖】相對於學習數據量的識別錯誤率的變化

2, 與以往相同的計算量下, 輕鬆實現高精度

該技術僅在學習神經網路前實施一次, 即可在與以往同等的學習計算量下輕鬆地實現高精度.

NEC集團致力於在全球範圍內推進社會解決方案, 提供安心, 安全, 高效, 公平的社會價值, 將先進的ICT技術與知識相融合, 為實現更加光明, 更加豐富多彩的高效社會盡一份力量.

(注1) 神經網路: 由人造神經細胞(神經元)組成的神經網路.

(注2) 過學習: 對給定數據過度學習, 而對未學習的數據的

識別精度度下降的現象.

(注3) 正則化: 通過對模型的複雜性加以約束, 來抑制過學習的方法.

天極新媒體 最酷科技資訊

掃碼贏大獎