復制理論表明深度神經網絡的想法是相似的

你怎么知道你正在看一只狗?你是對的幾率有多大?如果你是一個機器學習算法，你會篩選數千張圖像和數百萬個概率，以得出“真實”答案，但不同的算法會采取不同的路線來到達那里。

康奈爾大學和賓夕法尼亞大學的研究人員合作找到了一種方法來分析大量數據，并表明最成功的深度神經網絡在同一“低維”空間中遵循類似的軌跡。

“有些神經網絡采取不同的路徑。它們以不同的速度運行。但令人驚訝的是，它們都以相同的方式運行，”康奈爾大學團隊的領導者、藝術與科學學院的物理學教授詹姆斯·塞斯納(James Sethna)說。

該團隊的技術有可能成為確定哪些網絡最有效的工具。

該小組的論文“許多深度網絡的訓練過程探索相同的低維流形”發(fā)表在《美國國家科學院院刊》上。主要作者是賓夕法尼亞大學的毛家林。

該項目源于凱瑟琳·奎因 (Katherine Quinn) 開發(fā)的一種算法，該算法可用于對大型概率數據集進行成像并找到最基本的模式，也稱為取零數據的極限。

塞斯納和奎因之前曾使用這種“復制理論”來梳理宇宙微波背景數據，即宇宙早期留下的輻射，并根據不同宇宙的可能特征繪制出我們宇宙的質量。

　　免責聲明：本文由用戶上傳，與本網站立場無關。財經信息僅供讀者參考，并不構成投資建議。投資者據此操作，風險自擔。 如有侵權請聯(lián)系刪除！