3.
$ \ begingroup $

我熟悉目前流行的具有权值的神经网络模型,并使用反向传播和梯度下降进行训练。

然而,我在20世纪80年代和20世纪90年代遇到了一种不同类型的神经网络。这Hopfield网络是最经典的。这些神经网络模型在以下方面有所不同:

  1. 它们没有参数权重和偏向训练或从数据中学习。
  2. 它们使用电路图来呈现模型。
  3. 该模型可被简化为ode系统,并具有Lyapunov功能作为目标。

请在20世纪80年代来看看这两篇论文:

  1. 具有分级响应的神经元具有像两个州神经元那样的计算性质(J.J. Hopfield)

  2. 非线性规划的神经网络(M.P Kennedy&L.O Chua)

$ \ endgroup $
4.
  • $ \ begingroup $ 你似乎问我们为什么John H必威电竞opfield在写下他的神经网络时使用了一个电路图。鉴于我们无法阅读Hopfield的思想,我不认为可以回答这个问题(除了给出明显的答案之外,这是“因为Hopfield认为这是描述他神经网络的好方法”)。 $ \ endgroup $-坦纳斯韦特 4月29日21:29
  • $ \ begingroup $ 我同意前面的看法。我不太明白你的问题到底是什么。你能解释一下吗?而且,在正文中,你只谈论Hopfield网络,而在标题中你谈论的是“一些神经网络”。除了Hopfield网络,还有哪些?换句话说,如果您只是指Hopfield网络,不要使用“some”,但要尽可能具体。 $ \ endgroup $-nbro 4月30日10:56
  • $ \ begingroup $ 1.我不同意用户的NBRO评论。我相信我已经明确说明了这个问题。我询问了电必威电竞路图所呈现的一般类型的神经网络模型(许多),我称为Hopfield网络(一个)作为经典示例。Hopfield网络(一)显然属于我谈论的一般类型的神经网络模型(许多)。我没有看到任何困惑。 $ \ endgroup $-Dawen. 4月30日12:31
  • $ \ begingroup $ 2.我不同意用户“Tanner Swett”的评论。回答这个问题是可能的。你不需要进入一个人的大脑就能理解他的想法。使用电路图肯定有一些原因或一些好处,原因可能在我不知道的地方陈述。这就是为什么我在这里问这个问题,希望有人知必威电竞道它能给出答案。 $ \ endgroup $-Dawen. 4月30日12:38
3.
$ \ begingroup $

在神经网络的早期,理论家和实践者在数学、心理学、神经生理学、电气工程和神经生物学。计算机科学仍处于起步阶段。第一神经网络被建模为电路。

这在1943年Warren McCulloch和Walter Pitts的论文和1956年Rochester等人的论文中有证据。

后一篇论文使用诸如“电路”和“切换”的术语。本文中的一个想法是在“ECCLES-JORDAN触发器电路”方面解释,尽管没有图纸。纳撒利亚罗切斯特设计了IBM 701K [3],并“领导了模拟神经网络的第一次努力[4]

早在1937年的“神经电路”方面讨论了脑结构[5]。

我不确定第一个电路图出现在出版物中,但它有意义的是,早期神经网络设计师将想到它们的实现。

引用:

$ \ endgroup $
    2
    $ \ begingroup $

    任何论文的目标都是让读者理解作者试图描述的内容。

    很多人都有很多看电路图和弄清楚这些电路。对于这些人来说,一个电路图可能是他们了解特定事物如何工作的最清晰和最简单的方法。因此,作者将包括一个电路图,它是有意义的,以便让这些人能够容易地理解概念。

    有两种特定的原因,为什么电路图特别可能在关于神经网络的论文中出现:

    第一个原因是与模拟电路密切相关常微分方程而且数字电路与之密切相关时序逻辑。因此,如果您有一个神经网络或使用普通微分方程或顺序逻辑的内容,那么电路图可能是表达它的工作原理的简单方法。

    第二个原因是,很多熟悉计算机的研究人员也熟悉电子电路。当人们的时候,这在计算机的早期尤其如此熟悉电子,数学或两者,以了解如何编程计算机。

    $ \ endgroup $
    2
    • $ \ begingroup $ 谢谢你的回答。你能给更多的细节或解释或参考,电路图是密切相关的ODE系统? $ \ endgroup $-Dawen. Apr 30 17:02
    • $ \ begingroup $ @Dawen这是“电子电路介绍”课程所涵盖的材料。 $ \ endgroup $-坦纳斯韦特 4月30日17:27

    你的答案

    点击“发布答案”,您同意我们的同意服务条款隐私政策饼干的政策

    不是您要找的答案?浏览其他标记的问题必威英雄联盟或者必威电竞问你自己的问题