人們不理解AI發展有多快的一個原因很簡單, 甚至可以說是可笑的: 當我們試圖在紙上捕捉它們時, 指數曲線表現得並不好. 出於實際原因考慮, 幾乎不可能在狹小空間(如圖表或幻燈片)中完全描述指數曲線的陡峭軌跡. 直觀地描繪指數曲線的早期階段是很容易的. 然而, 隨著曲線的陡峭部分開始顯現, 以及數字迅速增大, 事情變得更加具有挑戰性.
捕捉指數曲線
為了解決這個視覺空間不足的問題, 我們使用了一個簡單的數學技巧, 叫做對數 (logarithm) . 使用所謂的 '對數標度' (logarithmic scale) , 我們學會了將指數曲線進行壓縮. 不幸的是, '對數標度' 的廣泛使用也會導致短視的結果. 對數標度的工作原理是, 垂直y軸上的每一個刻度並非對應一個常數增量(如典型的線性標度), 而是一個倍數, 例如100倍. 下面的經典摩爾定律圖表使用 '對數標度' 來描述過去120年裡計算能力的成本指數增長趨勢, 從1900年的機械設備到今天強大的矽基GPU.
圖1: 對數標度中顯示過去120年間計算成本的指數變化情況
如今, 對於那些意識到視覺失真的人來說, 對數圖已經成為非常有價值的速記形式. 事實上, '對數標度' 是一種簡便而緊湊的方法, 可以用來描述隨著時間的推移以急速方式上升的任何曲線. 然而, 對數圖卻隱藏著巨大的代價: 它們愚弄了人類的眼睛. 通過數學上的大數字坍縮, 對數圖使得指數增長看起來是呈線性的. 由於它們將不規則的指數增長曲線壓縮成線性形狀, 對數圖使人們很容易對未來計算能力的指數增長速度和規模感到滿意, 甚至產生自滿.
我們的邏輯大腦理解對數圖. 但是, 我們的潛意識卻看到了一條線性曲線, 並選擇對其缺陷視而不見. 那麼, 如何有效地消除由對數圖引起的戰略短視呢? 部分解決方法是回到原來的線性尺度. 在下面的圖2中, 我們使用數據來擬合指數曲線, 然後用垂直軸上的線性刻度繪製它. 同樣, 縱軸表示一美元可以購買的處理速度(單位為gigaflops), 橫軸表示時間.
然而在圖2中, 縱軸上的每個刻度都對應於一個簡單的線性增加趨勢(相當於1gigaflops, 而不是像圖表1那樣增加100倍). 'FLOP' 這個詞是測量計算速度的標準方法, 代表著每秒進行的浮點操作, 其他單位還包括megaFLOPS, gigaFLOPS以及teraFLOPS等.
圖2顯示了描述摩爾定律的真實指數曲線. 這張圖表的繪製方式, 讓我們的人眼很容易理解: 在過去的十年裡, 計算性價比發生了多麼快的變化. 然而, 圖2中同樣存在嚴重的錯誤. 對於這張圖表的天真讀者來說, 似乎在20世紀的整個過程中, 計算機的性價比根本沒有提高. 很明顯, 這是錯誤的.
圖2顯示, 使用線性標度來證明摩爾定律隨時間變化而變化時, 也存在相當大的盲目性. 它可以讓過去顯得平淡無奇, 就好像直到最近才取得進展一樣. 此外, 同樣的線性標度圖也會導致人們錯誤地認為, 他們目前的優勢點代表了獨特的, '幾乎垂直' 的技術進步時期. 這一點讓我想到了導致AI盲點的圖表出現的下一個主要原因: 線性標度圖表可以欺騙人們, 讓他們相信自己的生活正處於變化高峰期.
活在當下的短視
讓我們再看下錶2: 從2018年的情況來看, 20世紀大部分時間裡每十年就會出現的性價比翻倍似乎已經平淡無奇, 甚至顯得無關緊要. 看了表2的人可能會對自己說: '孩子, 我今天活得很幸運嗎? 我記得2009年, 當時我認為自己的新iPhone很快! 但實際上我不知道它有多慢, 現在我終於到達了令人興奮的垂直部分! '
我聽人說過, 我們剛剛通過了 '曲棍球棒的肘部' . 但還沒有這樣的過渡點. 任何指數曲線自身都是相似的, 也就是說, 未來曲線的形狀和過去的曲線幾乎沒有太大變化. 下面的圖3再次顯示了摩爾定律線上性標度圖表上的指數曲線, 但這次是從2028年的角度來看. 這條曲線假設, 我們在過去100年裡經曆的增長至少還將持續10年. 這張圖表顯示, 在2028年, 一美元將購買大約200gigaflop的計算能力.
圖3: 線性標度圖上的摩爾定律
然而, 圖3也代表了一個潛在的分析困境. 仔細看看圖3所示曲線位置, 它代表了今天的計算能力(2018年). 以生活和工作在2028年的人來看, 即使在21世紀初, 計算能力幾乎沒有任何實質性改善. 看起來, 2018年使用的計算設備只是比1950年使用的計算機稍強. 觀察人士還可以得出結論, 2028年是摩爾定律的頂點, 那一年計算能力的進步終於開始了.
每年, 我都可以重新建立圖表3, 只改變時間範疇的描述. 曲線的形狀十分相似, 只有垂直刻度上的刻度會改變. 請注意, 除了垂直標度之外, 圖2和圖3的形狀看起來是一樣的. 在每個這樣的圖表上, 從未來的角度來看, 過去的每個點都是扁平的, 而未來的每個點看起來都是與過去截然不同的. 這種錯誤的看法正被引入有缺陷的商業戰略中, 至少在AI方面是如此.
這代表著什麼?
指數式的變化速度對人類的頭腦和眼睛來說都是難以理解的. 指數曲線是唯一的, 因為從數學角度來看, 它們在每個點上都是相似的. 這就意味著, 曾經不斷加倍的曲線沒有平坦部分可言, 也沒有上升的部分; 同樣沒有許多商業人士習慣於談論的 '肘' 和 '曲棍球棒' 彎曲. 即使你放大過去或未來的任何部分, 它的形狀看起來都是一樣的.
隨著摩爾定律繼續發揮作用, 我們不禁會想, 就在此刻, 我們正處於AI(或任何其他依賴摩爾定律的技術)發展的獨特時期. 然而, 只要處理能力繼續遵循指數級的性價比曲線, 未來的每一代人都可能會回顧過去, 認為這是個進步相對較小的時代. 反過來, 情況也將是這樣: 每一代人都將展望未來10年, 卻無法預測到AI還有多少進步空間.
因此, 對於任何計劃由計算機指數增長驅動未來的人來說, 挑戰在於與他們大腦中的錯誤解釋作鬥爭. 雖然這聽起來很難, 但你需要同時記住這三張圖——對數圖的視覺一致性, 戲劇性和線性圖的欺騙性尺度, 這樣你才能真正領會指數增長的力量. 因為過去總是顯得平淡無奇, 而未來將永遠充滿了巨變.