起源：

1943年数理逻辑学家Pitts和McCulloch建立的MP模型。MP模型只是以单个神经元的形式化数学描述，具有执行逻辑运算的功能。开创了人工神经网络的时代。

1949年Hebb提出了神经网络学习的思想。

1958年Rosenblatt提出了感知器模型及其学习算法。

20世纪70年代出现了衰退期，因为单层感知器不能解决异或问题。

20世纪80年代迎来了复苏。1982年出现了hopfiled  1983年出现了退火算法。1986年出现了BP算法。

20世纪90年代出现了SVM

2006年深度学习的理念正式被提出。

2016年AlphaGo的出现把深度学习推向了一个新的高度。