一小时从函数到Transformer

该播客主要讲解了从函数到神经网络的演变过程，以及现代人工智能中连接主义的核心思想。内容从早期人工智能对精确函数关系的追求，转向通过猜测和简化问题来寻找近似解，并介绍了线性回归和梯度下降等概念。详细解释了如何通过线性变换和非线性激活函数的组合构建复杂的神经网络，以及如何通过反向传播算法来训练网络参数。此外，还探讨了卷积神经网络（CNN）在图像识别领域的应用，循环神经网络（RNN）在处理序列数据中的作用，以及词嵌入等自然语言处理技术。最后，概述了 Transformer 架构的核心逻辑，包括位置编码和多头注意力机制。