人工智能与深度学习实践_公开课

课程大纲

内容模块	课程介绍	授课详细内容
模块一	人工智能概述	1.人工智能——世纪对弈 ?AlphaGo围棋胜利的深度透视 ?AlphaGo的身世 ?AlphaGo的算法秘密以及三代AlphaGo技术对比 ?对弈的意义 ?AI发展的意义 2.人工智能发展概况 ?什么是智能 ?什么是人工智能 (AI) ?AI研究的方法和途径. ?AI的历史. ?ＡI的研究特点 ?人工智能学科体系 3.人工智能中人文趣事 ?图灵（Turing）赫伯特·西蒙（Herbert Simon）
模块二	人工智能基本原理及应用	1.人工智能数学知识 ?线性代数 ?标量、向量、矩阵和张量 ?矩阵和向量相乘 ?单位矩阵和逆矩阵 ?线性相关和生成子空间 ?范数 ?特殊类型的矩阵和向量 ?特征分解 ?奇异值分解 ?概率与信息论 ?随机变量 ?概率分布 ?离散型变量和概率质量函数 ?连续型变量和概率密度函数 ?边缘概率 ?条件概率 ?条件概率的链式法则 ?独立性和条件独立性 ?期望、方差和协方差 ?常用概率分布 ?Bernoulli分布 ?Multinoulli分布 ?高斯分布 ?指数分布和Laplace分布 ?Dirac分布和经验分布 ?分布的混合 ?常用函数的有用性质 ?贝叶斯规则 ?连续型变量的技术细节 ?信息论 ?结构化概率模型 ?数值计算 ?上溢和下溢 ?病态条件 ?基于梯度的优化方法 ?梯度之上：Jacobian和Hessian矩阵 ?约束优化 2.人工智能基础知识 ?知识表示的概念 ?知识的特性 ?知识的分类 ?知识表示的方法 ?推理的定义 ?Agent 3.智能机器人 ?专家系统 ?服务机器人 ?工业机器人 ?达芬奇机器人
模块三	机器学习技术	1.学习算法 ?任务T ?性能度量P ?经验E ?示例：线性回归 2.容量、过拟合和欠拟合 ?没有免费午餐定理 ?正则化 3.超参数和验证 ?交叉验证 4.估计、偏差和方差 ?点估计 ?偏差 ?方差和标准差 ?衡偏差和方差以最小化均方误差 ?一致性 5.大似然估计 ?条件对数似然和均方误差 ?大似然的性质 6.贝叶斯统计 ?大后验(MAP)估计 7.监督学习算法 ?概率监督学习 ?支持向量机 ?其他简单的监督学习算法. 8.无监督学习算法. ?主成分分析 ?k-均值聚类 9.增强学习 10.随机梯度下降 11.构建机器学习算法 12.促使深度学习发展的挑战 ?维数灾难 ?局部不变性和平滑正则化 ?流形学习 13.人工神经网络及其应用 ?神经网络的发展简史 ?神经元数学模型 ?神经网络的分类 ?神经网络的学习算法 ?神经网络的特征 14.遗传算法及其应用
模块四	深度网络	四、深度网络 1.深度前馈网络 ?实例：学习XOR ?基于梯度的学习 ?代价函数 ?输出单元 ?隐藏单元 ?整流线性单元及其扩展 ?Logistic sigmoid与双曲正切函数 ?其他隐藏单元 ?架构设计 ?多能近似性质和深度 ?其他架构上的考虑 ?反向传播和其他的微分算法. ?计算图 ?微积分中的链式法则 ?递归地使用链式法则来实现反向传播 ?全连接MLP中的反向传播计算 ?符号到符号的导数 ?一般化的反向传播 ?实例：用于MLP训练的反向传播 ?复杂化 ?深度学习界以外的微分 ?高阶微分 ?历史小记 2.深度学习中的正则化 ?参数范数惩罚 ?L2参数正则化 ?正则化 ?作为约束的范数惩罚 ?正则化和欠约束问题 ?数据集增强 ?噪声鲁棒性 ?向输出目标注入噪声 ?半监督学习 ?多任务学习 ?提前终止 ?参数绑定和参数共享. ?卷积神经网络 ?稀疏表示. ?Bagging和其他集成方法 ?Dropout ?对抗训练. ?切面距离、正切传播和流形正切分类器 3.深度模型中的优化 ?学习和纯优化有什么不同 ?经验风险*小化 ?代理损失函数和提前终止 ?批量算法和小批量算法 ?神经网络优化中的挑战 ?病态 4.深度学习常见网络
模块五	深度学习必备框架	1. Tensorflow基础操作 2. Tensorflow建立机器学习模型 3. Tensorflow神经网络详解 4. 基于Tensorflow的CNN与RNN模型 5. Caffe框架配置参数详解 6. Caffe两种常用数据源制作 7. Caffe技巧与应用深度学习两大神器Caffe与Tensorflow实战，代码示例演示如何应用框架进行深度学习建模任务。
模块六	深度学习项目实战（一）	1. 验证码识别（基于Tensorflow） 2. 文本分类（基于Tensorflow） 3. 图像风格转换（基于Tensorflow）
模块七	深度学习项目实战（二）	4. 词向量模型Word2vec（基于Tensorflow） 5. 强化学习让AI自己玩游戏（基于Tensorflow） 6. 人脸检测（基于Caffe） 7. 人脸关键点定位（基于Caffe）基于深度学习框架Tensorflow与Caffe从数据源制作开始进行数据预处理与网络模型训练，完整演示如何应用深度学习到实际任务中。

培训师介绍

周辉男，中国科学院通信与信息系统专业博士。北京邮电大学移动互联网与信息化实验室特聘研究员、对外经贸大学信息学院特聘兼职教师、中国移动集团高级培训讲师，长期从事大数据、4G、移动互联网安全、管理及大数据精确营销等研究方向。国内顶级信息系统架构师，金牌讲师，技术顾问，移动开发专家。拥有丰富的通信信息系统设计、开发经验及培训行业经验，先后为全国超过15家省移动公司，超过30家地市移动公司有过项目开发合作及授课，担任多个大型通信项目的总师。钟老师男，博士毕业于中国科学院，获工学博士学位（计算机系统结构方向），曾在国内某高校和某大型通信企业工作过，目前在中国科学院某研究所工作，高级工程师，副研究员，课题组长，团队成员二十余人。大数据、云计算系列课程建设与教学专家，新技术课程开发组长。近八年来带领团队主要从事大数据管理与高性能分析处理（Hadoop、Spark、Storm）、大数据仓库（HIVE）和实时数据仓库（SparkSQL、Shark），大数据建模挖掘与机器学习（Mahout、MLib、Oryx、Pentaho BI、SAS、SPSS、R等）、MPP并行数据仓库（Greenplum etc）、NoSQL与NewSQL分布式数据库（HBase、MongoDB、Cassandra etc）、（移动）电子商务平台、大数据搜索平台（ElasticSearch、Solr、Lucene等）、云计算与虚拟化（OpenStack，VMware，XenServer，CloudStack，KVM，Docker，SaaS服务）、云存储系统、Swift对象存储系统、网络GIS地图服务器、互联网+在线教育云平台方面的项目研发与管理工作。课程对象各企事业单位，项目经理、技术总监、系统架构师、系统分析师、高级程序员、资深开发人员、高校、科研院所牵涉到数据挖掘与统计分析处理的项目负责人。

课程介绍评价详情(0)

培训受众:

各企事业单位，项目经理、技术总监、系统架构师、系统分析师、高级程序员、资深开发人员、高校、科研院所牵涉到数据挖掘与统计分析处理的项目负责人。

内容模块	课程介绍	授课详细内容
模块一	人工智能概述	1.人工智能——世纪对弈 ?AlphaGo围棋胜利的深度透视 ?AlphaGo的身世 ?AlphaGo的算法秘密以及三代AlphaGo技术对比 ?对弈的意义 ?AI发展的意义 2.人工智能发展概况 ?什么是智能 ?什么是人工智能 (AI) ?AI研究的方法和途径. ?AI的历史. ?ＡI的研究特点 ?人工智能学科体系 3.人工智能中人文趣事 ?图灵（Turing）赫伯特·西蒙（Herbert Simon）
模块二	人工智能基本原理及应用	1.人工智能数学知识 ?线性代数 ?标量、向量、矩阵和张量 ?矩阵和向量相乘 ?单位矩阵和逆矩阵 ?线性相关和生成子空间 ?范数 ?特殊类型的矩阵和向量 ?特征分解 ?奇异值分解 ?概率与信息论 ?随机变量 ?概率分布 ?离散型变量和概率质量函数 ?连续型变量和概率密度函数 ?边缘概率 ?条件概率 ?条件概率的链式法则 ?独立性和条件独立性 ?期望、方差和协方差 ?常用概率分布 ?Bernoulli分布 ?Multinoulli分布 ?高斯分布 ?指数分布和Laplace分布 ?Dirac分布和经验分布 ?分布的混合 ?常用函数的有用性质 ?贝叶斯规则 ?连续型变量的技术细节 ?信息论 ?结构化概率模型 ?数值计算 ?上溢和下溢 ?病态条件 ?基于梯度的优化方法 ?梯度之上：Jacobian和Hessian矩阵 ?约束优化 2.人工智能基础知识 ?知识表示的概念 ?知识的特性 ?知识的分类 ?知识表示的方法 ?推理的定义 ?Agent 3.智能机器人 ?专家系统 ?服务机器人 ?工业机器人 ?达芬奇机器人
模块三	机器学习技术	1.学习算法 ?任务T ?性能度量P ?经验E ?示例：线性回归 2.容量、过拟合和欠拟合 ?没有免费午餐定理 ?正则化 3.超参数和验证 ?交叉验证 4.估计、偏差和方差 ?点估计 ?偏差 ?方差和标准差 ?衡偏差和方差以最小化均方误差 ?一致性 5.大似然估计 ?条件对数似然和均方误差 ?大似然的性质 6.贝叶斯统计 ?大后验(MAP)估计 7.监督学习算法 ?概率监督学习 ?支持向量机 ?其他简单的监督学习算法. 8.无监督学习算法. ?主成分分析 ?k-均值聚类 9.增强学习 10.随机梯度下降 11.构建机器学习算法 12.促使深度学习发展的挑战 ?维数灾难 ?局部不变性和平滑正则化 ?流形学习 13.人工神经网络及其应用 ?神经网络的发展简史 ?神经元数学模型 ?神经网络的分类 ?神经网络的学习算法 ?神经网络的特征 14.遗传算法及其应用
模块四	深度网络	四、深度网络 1.深度前馈网络 ?实例：学习XOR ?基于梯度的学习 ?代价函数 ?输出单元 ?隐藏单元 ?整流线性单元及其扩展 ?Logistic sigmoid与双曲正切函数 ?其他隐藏单元 ?架构设计 ?多能近似性质和深度 ?其他架构上的考虑 ?反向传播和其他的微分算法. ?计算图 ?微积分中的链式法则 ?递归地使用链式法则来实现反向传播 ?全连接MLP中的反向传播计算 ?符号到符号的导数 ?一般化的反向传播 ?实例：用于MLP训练的反向传播 ?复杂化 ?深度学习界以外的微分 ?高阶微分 ?历史小记 2.深度学习中的正则化 ?参数范数惩罚 ?L2参数正则化 ?正则化 ?作为约束的范数惩罚 ?正则化和欠约束问题 ?数据集增强 ?噪声鲁棒性 ?向输出目标注入噪声 ?半监督学习 ?多任务学习 ?提前终止 ?参数绑定和参数共享. ?卷积神经网络 ?稀疏表示. ?Bagging和其他集成方法 ?Dropout ?对抗训练. ?切面距离、正切传播和流形正切分类器 3.深度模型中的优化 ?学习和纯优化有什么不同 ?经验风险*小化 ?代理损失函数和提前终止 ?批量算法和小批量算法 ?神经网络优化中的挑战 ?病态 4.深度学习常见网络
模块五	深度学习必备框架	1. Tensorflow基础操作 2. Tensorflow建立机器学习模型 3. Tensorflow神经网络详解 4. 基于Tensorflow的CNN与RNN模型 5. Caffe框架配置参数详解 6. Caffe两种常用数据源制作 7. Caffe技巧与应用深度学习两大神器Caffe与Tensorflow实战，代码示例演示如何应用框架进行深度学习建模任务。
模块六	深度学习项目实战（一）	1. 验证码识别（基于Tensorflow） 2. 文本分类（基于Tensorflow） 3. 图像风格转换（基于Tensorflow）
模块七	深度学习项目实战（二）	4. 词向量模型Word2vec（基于Tensorflow） 5. 强化学习让AI自己玩游戏（基于Tensorflow） 6. 人脸检测（基于Caffe） 7. 人脸关键点定位（基于Caffe）基于深度学习框架Tensorflow与Caffe从数据源制作开始进行数据预处理与网络模型训练，完整演示如何应用深度学习到实际任务中。