服务热线:13249870795
新闻中心
当前位置: 主页 > 解决方案 > IT专业服务 >

联系我们

地址:贵州省贵阳市南明区花溪大道北段262号贵州龙城大厦二层南栋3号
电话:0755-26813903
24小时热线:13249870795
邮箱:leo@isunit.com
客服:qq交谈(点击QQ咨询)

赫尔辛基大学AI基础教程:神经网络是如何

  正如我们前面所说,神经元是非常简单的处理单元。在第4章讨论了线性和逻辑回归之后,神经网络的基本技术细节可以被看作是同一个思路的变种。

  基本的人工神经元模型包含一组自适应参数,赫尔辛基大学AI基础教程:神经网络是如何构建的称为权重,类似于线性和逻辑回归中的权重。并且就像在回归中一样,这些权重被用作神经元输入的乘数,然后相加。权重乘以输入的和称为输入的线性组合。你大概可以回顾一下购物账单的做类比:将每件商品的数量乘以每件商品的价格并加起来得到总价。

  如果我们有一个具有六个输入的神经元(类似于六个购物项:土豆,胡萝卜等等),输入1,输入2,输入3,输入4,输入5和输入6,我们还需要六个权重。权重类似于物品的价格。我们称它们为权重1,权重2,权重3,权重4,权重5和权重6。另外,我们通常会像在线性回归中那样包含一个截距项。举个例子,你可以想象你使用信用卡付款的固定附加费用。

  正如前面讨论的那样,权重几乎总是通过使用与线性或逻辑回归相同的原理从数据中学习。但在我们更详细地讨论这个之前,我们要介绍神经元在发出输出信号之前完成的另一个重要阶段。

  线性组合计算出来后,神经元还要再做一次操作。即,将得到的线性组合通过激活函数。激活函数的典型例子包括:

  阶梯函数:如果线性组合的值大于零,则发送一个脉冲(ON),否则不执行任何操作(OFF)

  请注意,第一个激活函数,恒等函数,神经元与线性回归完全相同。这就是为什么恒等函数很少用于神经网络的原因:它不会引起任何新鲜和有趣的东西。

  真正的生物神经元通过被称为“spikes ”尖锐的电脉冲来进行通信,因此在任何给定的时间,它们发出的信号要么是开,要么是关(1或0)。阶梯函数就是模仿这种行为。人工神经网络倾向于使用第二种激活函数,以便它们始终输出连续的数字激活水平。因此,用一个不太恰当的比喻,真实的神经元通过类似于莫尔斯电码的方式进行通信,而人造神经元就像约德尔唱法那样通过调整其语音的音调来进行通信。

  由线性组合和激活函数确定的神经元输出可用于预测或决策。例如,如果网络的设计目的是识别自动驾驶汽车前的停车标志,则输入可以是由安装在汽车前面的摄像头捕获的图像像素,而输出可以用于激活在标志前停车的停车程序。

  网络中的学习或适应发生在对权重进行调整以使网络产生正确的输出时,就像线性或逻辑回归一样。许多神经网络非常大,最大的神经网络包含上千亿的权重。优化它们都是一项艰巨的任务,需要大量的计算能力。

  以下是具有不同属性的三种不同激活函数的图。第一个是sigmoid函数,然后是阶梯函数,最后是恒等函数。

  上面描述的哪个激活给出(A.Sigmoid,B.恒等函数,C.阶梯函数):

  感知器只是带有我们上面介绍的阶梯激活函数的简单的神经元模型的一个花哨的名字。它是最早的神经计算模型之一,并且由于它在神经网络的历史中的重要作用,将其称为“所有人工神经网络的母亲”也不为过。

  它可以用作二元分类任务中的简单分类器。1957年,心理学家弗兰克·罗森布拉特(Frank Rosenblatt)介绍了一种从数据中获取感知器权重的方法,叫做感知器算法。在这里,我们不会详细研究感知器算法。你只要知道它就像最近邻分类一样简单就够了。它的基本原理是一次只给网络提供一个训练数据的实例。每次误分类都会更新权重。

  在发现感知器算法之后,它受到了很多关注,尤其是因为其发明人弗兰克所做的乐观表述。AI夸张的典型例子是1958年7月8日发表的纽约时报文章:

  “海军今天透露了电子计算机的胚胎,预计它将能够走路,谈话,看东西,繁衍并意识到自己的存在“。

  请注意神经网络爱好者并不是唯一倾向于乐观的人。基于逻辑的专家系统方法在人工智能方面的兴衰具有人工智能炒作的相同特征,人们声称不久之后就有线年代末期的名为AI寒冬的研究经费崩溃。

  最终导致在20世纪60年代几乎完全放弃神经网络方法并持续了二十年的辩论历史非常迷人。米克尔·奥拉扎兰(发表在《科学社会研究》1996年)的一篇关于感知器官方争议史的社会学研究,从科学社会学的角度回顾了这一事件(。今天读这本书真是发人深思。阅读关于“已经开发出很快达到人类智能水平并变得自觉的神经网络算法”的著名的AI人的故事,可以与当前炒作中的一些言论相比较。以2017年9月发表在《麻省理工学院技术评论》上的一篇文章为例。


相关文章