注意力机制
软性注意力机制： 打分函数： 记忆网络
生成对抗网络
VAE通过引入隐变量z定义了一个显式的密度函数生成对抗网络（GANs）通过对抗网络生成样本，而无需显式的密度函数对抗学习是一种机器学习领域常用的学习策略，通过引入假样本迷惑模型 基本思想：训练两个网络 生成器G：生成虚假样本，试图迷惑判别器 判别器D：试图区分真实样本和虚假样本 对抗学习：二者对抗训练 零和博弈：最终通过充分训练，渴望算法收敛于一个好的关于数据分布的估计$p_g$，由$p_g
生成模型
有监督：给定数据(x,y)，x为输出，y是对应的标签目的：学习一个映射f: x→y用于分类、回归、目标检测、语义分割、图像描述等 无监督：数据：只有x，没有标签目标：学习隐藏的信息（数据背后隐藏的结构、主题、情感等）用于聚类、特征降维、特征学习、密度估计等 判别模型：同时需要输入X和标签Y，试图通过某个判别函数建模条件分布P(Y|X)例如softmax回归，SVM等不能建模P(X)，即观测到某个样
神经网络与深度学习
教材： 神经网络与深度学习，邱锡鹏 神经网络与深度学习 动手学深度学习 阿斯顿·张、李沐 深度学习，Ian Goddfellow 公开课： 李宏毅：机器学习 CS224n CS231n 考核：平时作业80（选够100分的题量）+其他20（随堂考试、问答） 随堂考试： 前馈神经网络的反向传播 [[前馈神经网络#反向传播算法]] 循环神经网络的反向传播 [[循环神经网络#随时间反向传播（B
网络优化与正则化
激活函数梯度截断：防止梯度爆炸学习率衰减 余弦衰减：不引入任何参数 分段衰减 逆时衰减 指数衰减 自然指数衰减 批量大小批量的大小不影响随机梯度的期望，但是会影响随机梯度的方差 批量越大，随机梯度的方差越小，训练稳定，可以设置较大的学习率 批量越小，设置小的学习率 优化方法动量梯度下降法RMSPropAdam参数初始化权重全零初始化使用较小的随机值初始化权重从均值等于0，方差等于0.01的高
UML
UML：统一建模语言 UML是一种标准的图形化建模语言，它是面向对象分析与设计的一种标准表示 是一种可视化的建模语言，不是一种可视化的程序设计语言 是一种建模语言规格说明，不是工具或知识库的规格说明 UML的基本结构基本构造块： 事物 Thing 关系 Relationship 图 Diagram 语义规则： name、scope、visibility、integrity、executi
作业
课后阅读1问题1：时至今日的软件开发过程中是否还存在软件危机中存在的现象？如果存在，软件工程的方法能否解决？未来的AI能否解决？ 存在。软件危机中主要存在以下现象： 对软件开发成本和进度的估计常常很不准确 用户对“已完成的”软件系统不满意 软件常常是不可维护的 软件通常没有适当的文档资料随着人们使用软件工程的方法进行软件开发，这些问题逐渐减少，但不会完全消灭。利用软件工程的方法可以有效解决这些问
大作业 酒店控温计费系统 规划
需求阶段 设计阶段 开发阶段 第七周： 第八周：前端简单的页面写好，后端功能基本实现 第九周：前后端交互，找验收组开会 第十周：debug，完善功能 测试阶段：测试阶段 做好版本管理，实现 注册 登录 登录：用户登陆成功进入空调管理界面，失败返回该界面重新登陆，在view的login_room中进行实现 管理员界面 用户开启空调功能： tem_