50期末+30课程编程作业+10大作业+10平时 智能计算系统：智能的物质载体 集成CPU和智能芯片的异构系统 面向开发者的智能计算编程环境

卷积神经网络（CNN） 局部连接：一个像素与它周围的几个像素有很强的联系，但是与离它很远的像素联系可能很弱 权重共享：卷积神经网络中，权重又称为卷积模板，用于表达一种图像的特征。在图像的不同位置找特征，可以使用一样的卷积模板 CNN组成： 卷积层 池化层 全连接层 Softmax 卷积层 边界扩充（padding） 扩大图像的尺寸并填充像素 防止深度网络中图像被动持续减小 强化图像边缘信息

线性函数拟合线性回归可以找到一些点的集合背后的规律：一个点集可以用一条直线来拟合，这条拟合出来的直线的参数特征，就是线性回归找到的点集背后的规律 感知机感知机模型𝐻 𝒙 = sign(𝒘_𝑇 𝒙 + 𝑏)对应一个超平面𝒘_𝑇 𝒙 + 𝑏 = 0，模型参数是(𝒘, 𝑏)。感知机的目标是找到一个(𝒘, 𝑏)，将线性可分的数据集T中的所有的样本点正确地分为

深度学习编程框架：将深度学习算法中的基本操作封装成一系列组件，这一系列深度学习组件，即构成一套深度学习框架 pytorch概述主要优点简洁易懂：API设计简洁一致，基本上是tensor、autograd、nn三层封装便于调试：采用动态图，可以进行调试强大高效：提供了非常丰富的模型组件 pytorch和tensorflowTensorflow在工业界拥有完备的解决方案和用户基础 pytorch编程模

计算AlexNet、VGG19、ResNet152三个网络中的神经元数目及可训练的参数数目AlexNetproceedings.neurips.cc/paper/2012/file/c399862d3b9d6b76c8436e924a68c45b-Paper.pdf 根据论文中给出的网络结构AlexNet共有五层卷积层和三层全连接层其中第一层卷积层有96个卷

Pytorch的设计原则 要性能更要易用 简介抽象而非隐藏细节 始于python，忠于python Pytorch的计算图机制常见求导方法： 手动求解法 数值求导法 符号求导法 自动求导法 分布式计算机制 不同的分布式计算方法：数据并行：对数据进行分区模型并行：对程序进行分区混合并行：同时对数据和程序进行分区 编译机制

• A2.1 (5 points) 尝试解释Epoch、Iteration、Batch几个概念及其不同，尝试说明batch_size的选择依据和影响。Epoch代表全部的训练数据在模型中训练的次数Iteration表示在一个Epoch中参数更新的次数Batch表示一次正向和反向传播中的一组数据样本batch_size表示Batch中的数据量。小的batch_size可能会导致训练过程不稳定，但梯度

A6.1 (5分) 分析卷积神经网络中用1×1的卷积核的作用。一文读懂卷积神经网络中的1x1卷积核 - 知乎 改变通道数 当卷积核的个数大于或小于输入通道数时，可以改变输出的通道数 增加非线性 1x1卷积核可以在不改变特征维度的情况下添加非线性激活 A6.2 (5分) 计算函数$𝑦 = max(𝑥_1,⋯,𝑥_𝐷)$和函数$𝑦 = argmax(𝑥_1,⋯,𝑥

激活函数激活函数：最关键部分 激活函数：连续并可导的非线性函数 激活函数及其导函数要尽可能简单 激活函数的导函数要在一个合适的区间内 Sigmoid型函数：指一类S型曲线函数，为两端饱和函数，包括Logistic函数和Tanh函数 Logistic函数：Logistic 函数可以看成是一个“挤压”函数，把一个实数域的输入“挤压”到 (0, 1) Tanh函数：Tanh函数可以看作放大并平

全连接神经网络： 参数太多 训练困难 网络结构复杂 没有考虑到图像的空间结构信息 动机比起浅层神经网络，深度神经网络会更难训练，然而，如果训练好一个深度网络，它会比浅层网络强大的多因此，有必要开发一种能够训练的深度网络结构卷积神经网络可以简化网络结构，同时利用空间结构信息 卷积神经网络卷积运算卷积经常用在信号处理中，用于计算信号的延迟累积 局部感受野单个视觉细胞仅对部分区域的特定模式反应局部感