人工神经网络是一种运算模型,由大量的节点(或称神经元)之间相互联接构成。每个节点代表一种特定的输出函数,叫做激励函数。每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重,这相当于人工神经网络的记忆。网络的输出则依网络的连接方式、权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近,也可能是对一种逻辑策略的表达。ai 中一种常常出现在大家视野里的训练模型是人工神经网络(一种松散地基于人脑的模型)。
神经网络是人工神经元系统(有时叫做感知机),该系统是用于对数据进行分类和分析的计算节点。数据被输入神经网络的第一层,每个感知机都会做出决定,然后将该信息传递到下一层的多个节点。超过三层的训练模型叫做“深度神经网络”或“深度学习”。某些现代神经网络有数百或数千层。最终感知机的输出完成神经网络的任务集,例如对对象进行分类或在数据中查找模式。
您可能会遇到的一些最常常出现在大家视野里的人工神经网络类型包括:
前馈神经网络 (ff):一种最早的神经网络形式,其中数据单向流过人工神经元层,直到得到输出。在现代,大多数前馈神经网络都被视为具有多个层(以及多个“隐藏”层)的“深度前馈神经网络”。前馈神经网络通常与叫做“反向传播算法”的纠错算法配对使用。简单说来,该算法从神经网络的结果开始,然后一直反向工作到开始,发现错误以提高神经网络的准确率。许多简单但强大的神经网络都是深度前馈神经网络。
循环神经网络 (rnn):一种与前馈神经网络不同的神经网络,它们通常使用时序数据或涉及序列的数据。与在网络的每个节点中使用权重的前馈神经网络不同,循环神经网络对前一层发生的事情具有“记忆”,这取决于当前层的输出。比如,执行自然语言处理时,rnn 可以“记住”一个句子中使用的其他字词。rnn 通常用于语音识别、翻译和图片说明。
长/短期内存 (lstm):一种高级形式的 rnn,它可以使用内存来“记住”先前的层中发生的事情。rnn 和 lstm 之间的差别在于,lstm 可以借助使用“内存单元”来记住几层之前发生的事情。【译注:原英文中的 ltsm 可能是 lstm 的笔误】lstm 常用于语音识别和预测。
卷积神经网络 (cnn):一种神经网络,其中包含现代人工智能中一些最常常出现在大家视野里的神经网络。cnn 最常用于图像识别,它使用几个不同的层(一个卷积层,然后是一个 pooling 层),这些层在将图像重新组合在一起(在全连接层中)之前过滤图像的不同部分。较早的卷积层可能会寻找图像的简单特征,例如颜色和边缘,然后在附加层中寻找更复杂的特征。
生成对抗网络 (gan):一种网络,涉及两个在游戏中相互竞争的神经网络,该游戏最终会提高输出的准确率。一个网络(生成器)创建另一个网络(判别器)尝试证明真假的样本。gan 用于制作逼真的图片,甚至用于制作艺术品。