人工神經(jīng)網(wǎng)絡(luò)是一個機(jī)器學(xué)習(xí)系統(tǒng)，它由大量被稱為人工神經(jīng)元的連接節(jié)點(diǎn)組成。類似于生物大腦中的神經(jīng)元，這些人工神經(jīng)元是執(zhí)行神經(jīng)計(jì)算和解決問題的主要基本單位。神經(jīng)生物學(xué)的進(jìn)展解釋了樹突狀細(xì)胞結(jié)構(gòu)在神經(jīng)計(jì)算中的重要作用，這導(dǎo)致了基于這些結(jié)構(gòu)的人工神經(jīng)元模型的發(fā)展。
最近發(fā)展起來的近似邏輯神經(jīng)元模型(ALNM)是一種具有動態(tài)樹枝狀結(jié)構(gòu)的單一神經(jīng)模型。ALNM可以在訓(xùn)練中使用神經(jīng)修剪功能來消除樹過程中不必要的分支和突觸，以解決特定的問題。然后，簡化模型可以以硬件邏輯電路的形式實(shí)現(xiàn)。
然而，眾所周知的反向傳播算法實(shí)際上限制了神經(jīng)元模型的計(jì)算能力。金澤大學(xué)電氣與計(jì)算機(jī)工程學(xué)院對應(yīng)作者Yuki Todo表示：“BP算法對初始值敏感，容易陷入局部極小值。"因此，我們評估了幾種啟發(fā)式優(yōu)化方法訓(xùn)練ALMN的能力."
經(jīng)過一系列實(shí)驗(yàn)，選擇了材料搜索算法作為最適合ALMN的訓(xùn)練方法。然后，使用六個基準(zhǔn)分類問題來評估ALNM在使用SMS作為學(xué)習(xí)算法時的優(yōu)化性能。結(jié)果表明，與BP等啟發(fā)式算法相比，短消息系統(tǒng)在準(zhǔn)確性方面具有良好的訓(xùn)練性能。收斂速度。
托多副教授說：“基于ALNM和短信的分類器也與其他幾種流行的分類方法進(jìn)行了比較。"統(tǒng)計(jì)結(jié)果驗(yàn)證了分類器在這些基準(zhǔn)問題上的優(yōu)勢."
在訓(xùn)練過程中，ALNM通過突觸修剪和樹突修剪程序簡化了神經(jīng)模型，然后用邏輯電路代替簡化的結(jié)構(gòu)。這些電路還為每個基準(zhǔn)問題提供了令人滿意的分類精度。這些邏輯電路硬件實(shí)現(xiàn)的簡單性表明，未來的研究將看到ALNM和SMS被用來解決日益復(fù)雜和高維的實(shí)際問題。
標(biāo)簽：
免責(zé)聲明：本文由用戶上傳，如有侵權(quán)請聯(lián)系刪除！