使用材料搜索算法進行訓練可以修剪心理元模型

人工神經(jīng)網(wǎng)絡是一個機器學習系統(tǒng)，它由大量被稱為人工神經(jīng)元的連接節(jié)點組成。類似于生物大腦中的神經(jīng)元，這些人工神經(jīng)元是執(zhí)行神經(jīng)計算和解決問題的主要基本單位。神經(jīng)生物學的進展解釋了樹突狀細胞結構在神經(jīng)計算中的重要作用，這導致了基于這些結構的人工神經(jīng)元模型的發(fā)展。

最近發(fā)展起來的近似邏輯神經(jīng)元模型(ALNM)是一種具有動態(tài)樹枝狀結構的單一神經(jīng)模型。ALNM可以在訓練中使用神經(jīng)修剪功能來消除樹過程中不必要的分支和突觸，以解決特定的問題。然后，簡化模型可以以硬件邏輯電路的形式實現(xiàn)。

然而，眾所周知的反向傳播算法實際上限制了神經(jīng)元模型的計算能力。金澤大學電氣與計算機工程學院對應作者Yuki Todo表示：“BP算法對初始值敏感，容易陷入局部極小值。"因此，我們評估了幾種啟發(fā)式優(yōu)化方法訓練ALMN的能力."

經(jīng)過一系列實驗，選擇了材料搜索算法作為最適合ALMN的訓練方法。然后，使用六個基準分類問題來評估ALNM在使用SMS作為學習算法時的優(yōu)化性能。結果表明，與BP等啟發(fā)式算法相比，短消息系統(tǒng)在準確性方面具有良好的訓練性能。收斂速度。

托多副教授說：“基于ALNM和短信的分類器也與其他幾種流行的分類方法進行了比較。"統(tǒng)計結果驗證了分類器在這些基準問題上的優(yōu)勢."

在訓練過程中，ALNM通過突觸修剪和樹突修剪程序簡化了神經(jīng)模型，然后用邏輯電路代替簡化的結構。這些電路還為每個基準問題提供了令人滿意的分類精度。這些邏輯電路硬件實現(xiàn)的簡單性表明，未來的研究將看到ALNM和SMS被用來解決日益復雜和高維的實際問題。

　　免責聲明：本文由用戶上傳，與本網(wǎng)站立場無關。財經(jīng)信息僅供讀者參考，并不構成投資建議。投資者據(jù)此操作，風險自擔。 如有侵權請聯(lián)系刪除！