你怎么知道你正在看一只狗?你是對的幾率有多大?如果你是一個(gè)機(jī)器學(xué)習(xí)算法,你會篩選數(shù)千張圖像和數(shù)百萬個(gè)概率,以得出“真實(shí)”答案,但不同的算法會采取不同的路線來到達(dá)那里。
康奈爾大學(xué)和賓夕法尼亞大學(xué)的研究人員合作找到了一種方法來分析大量數(shù)據(jù),并表明最成功的深度神經(jīng)網(wǎng)絡(luò)在同一“低維”空間中遵循類似的軌跡。
“有些神經(jīng)網(wǎng)絡(luò)采取不同的路徑。它們以不同的速度運(yùn)行。但令人驚訝的是,它們都以相同的方式運(yùn)行,”康奈爾大學(xué)團(tuán)隊(duì)的領(lǐng)導(dǎo)者、藝術(shù)與科學(xué)學(xué)院的物理學(xué)教授詹姆斯·塞斯納(James Sethna)說。
該團(tuán)隊(duì)的技術(shù)有可能成為確定哪些網(wǎng)絡(luò)最有效的工具。
該小組的論文“許多深度網(wǎng)絡(luò)的訓(xùn)練過程探索相同的低維流形”發(fā)表在《美國國家科學(xué)院院刊》上。主要作者是賓夕法尼亞大學(xué)的毛家林。
該項(xiàng)目源于凱瑟琳·奎因 (Katherine Quinn) 開發(fā)的一種算法,該算法可用于對大型概率數(shù)據(jù)集進(jìn)行成像并找到最基本的模式,也稱為取零數(shù)據(jù)的極限。
塞斯納和奎因之前曾使用這種“復(fù)制理論”來梳理宇宙微波背景數(shù)據(jù),即宇宙早期留下的輻射,并根據(jù)不同宇宙的可能特征繪制出我們宇宙的質(zhì)量。
標(biāo)簽:
免責(zé)聲明:本文由用戶上傳,如有侵權(quán)請聯(lián)系刪除!