生活知识小技巧网logo.png生活知识小技巧网

生活知识小技巧网
生活知识小技巧网是中国最大的生物技术、生物科学门户网站。
生活知识小技巧网

使用素材搜索算法进行训练 可以修剪心经的元模型

导读 人工神经网络是一种机器学习系统,它由大量相互连接的称为人工神经元的节点组成。类似于生物大脑中的神经元,这些人工神经元是用于执行神经

人工神经网络是一种机器学习系统,它由大量相互连接的称为人工神经元的节点组成。类似于生物大脑中的神经元,这些人工神经元是用于执行神经计算和解决问题的主要基本单元。生物学的进展表明,树突细胞结构在神经计算中起着重要作用,这导致了基于这些结构的人工神经元模型的发展。

最近开发的近似逻辑神经元模型(ALNM)是一种具有动态树状结构的单神经元模型。ALNM可以在训练中使用神经修剪功能来消除不必要的树突分支和突触,以解决特定的问题。然后,简化的模型可以以硬件逻辑电路的形式实现。

然而,众所周知的用于训练ALMN的反向传播(BP)算法实际上限制了神经元模型的计算能力。“BP算法对初值敏感,容易陷入局部极小,”金泽大学电气与计算机工程学院通讯作者Yuki Todo说。"因此,我们评估了几种启发式优化方法训练ALMN的能力."

经过一系列实验,材料搜索(SMS)算法被选为最适合ALMN的训练方法。然后,使用六个基准分类问题来评估使用SMS作为学习算法时ALNM的优化性能。实验结果表明,与BP算法和其他启发式算法相比,SMS在准确性方面具有优异的训练性能。收敛速度。

“基于ALNM和短信的分类器也与其他几种流行的分类方法进行了比较,”副教授Todo说。"统计结果验证了该分类器在这些基准问题上的优势."

在训练过程中,ALNM通过突触修剪和树突修剪程序简化了神经模型,然后用逻辑电路取代了简化的结构。这些电路还为每个基准问题提供了令人满意的分类精度。这些逻辑电路硬件实现的简单性表明,未来的研究将看到ALNM和SMS用于解决日益复杂和高维的实际问题。

免责声明:本文由用户上传,如有侵权请联系删除!

相关推荐

最新文章