1.1 神经网络简介

1.1.1 神经网络的定义

早期研究者对神经网络有很多种不同的叫法，包括：人工神经网络（arti-ficial neural network）、人工神经系统（artificial neural system）、神经网络（neural network）、自适应系统（adaptive system）、自适应网络（adaptive network）、连接模型（connectionism）、神经计算机（neurocomputer）等。这些叫法都是对神经网络的不同侧面的描述。其中，“人工神经网络”强调通过人工来模拟神经网络；“人工神经系统”强调将神经网络视为一个系统；“神经网络”把人工两个字省掉，也是目前使用最为广泛的叫法之一；“自适应系统”和“自适应网络”强调的是网络的自适应性；“连接模型”强调的是神经元与神经元之间的连接关系；“神经计算机”是从计算的角度理解神经网络。这些不同的叫法都是指神经网络，只是从不同的角度对神经网络进行描述。读者可以根据自己的科研实际情况，从不同的角度理解和应用神经网络。

在机器学习和认知科学领域，神经网络是一种模仿生物神经网络的结构和功能的数学模型或计算模型，被广泛应用于处理非线性关系和进行函数近似，可以通过数学公式来描述。神经网络是一种通过大量的人工神经元连接进行计算的数学模型或计算模型，它可以通过外部信息来改变内部结构和参数，从而更好地适应所处理的数据。具体地说，这种改变有两个方面。首先，神经网络的自身结构可能需要改变，一般来说，神经网络设计好后其自身结构不太容易改变，但在一些新兴领域会有此类需求，如自动机器学习，旨在自主学习神经网络的结构。其次，神经网络的内部参数需要根据输入数据来进行调整，这就是神经网络的学习过程。通过学习，神经网络可以逐步提高对输入数据的理解和响应能力，从而实现更准确的输出。神经网络作为一种自适应系统，能够根据外部输入信息进行自我调整，输入信息相当于神经网络的“生存环境”。随着外部环境的变化，神经网络不断地调整自身，以适应新的输入信息。神经网络还可以被看作一种复杂的数学函数，它包含大量参数，这使得它可以拟合不同的数据，同时也具备拟合复杂数据的能力。