智盟创课（北京）科技有限公司（智盟 Stu.） 作为IT产业第三方专业人才能力提升服务机构，秉承互联共成长的理念，恪守IT企业实际业务需求为第一优先级的本职，为IT企业人才培养提供多方位的师资、培训体系打造， 行业前沿交流峰会，打通企业全方面的学习视角，实现人才能力提升最佳学习方案。助力企业全面提升竞争优势、推进组织的成功转型及经营业绩的持续增长。同时，智盟组织承办IT领域两大品牌会议：QECon全球软件质量&效能大会、SECon软件工程技术大会、PM产品力领航者大会 ，旨在深化各大研发中心加快数字化转型的同时，也将目光从追求快速增长转向内建能力，运用前沿技术帮助企业实现快速交付，同时又要稳高质量发展的大方针。
大数据建模应用与模型优化实战
大数据_云计算
/ 2020-04-26 15:16:23
傅一航 华为系大数据专家，计算机软件与理论硕士研究生（研究方向：数据挖掘、搜索引擎）
在华为工作十年，五项国家专利，在华为工作期间获得华为数项奖项，曾在英国、日本、荷兰和比利时等海外市场做项目，对大数据有深入的研究，傅老师专注于大数据分析与挖掘等应用技术，以及大数据系统部署解决方案，旨在将大数据的数据分析、数据挖掘、数据建模应用于行业及商业领域，解决行业实际的问题，傅老师目前致力于将大数据技术应用于通信、金融、航空、电商、互联网、政府等领域，傅老师的课程最大特色：实战性强！“围绕业务问题+搭建分析框架+运用分析方法+建立分析模型+熟悉分析工具+形成业务策略”，以商业问题为起点，基于实际的业务应用场景（明确目的），搭建全面系统的业务框架和分析维度（分析思路），选择最合适的方法（分析方法），深入浅出的理论讲解（分析模型），使用简单实用的工具操作（分析工具），对分析结果进行有效的解读（数据可视化），最终形成具体的业务建议，实现业务分析/数据分析的闭环。
课程目标
本课程专注于大数据建模课程，面向数据分析部等专门负责数据分析与建模的人士。主要内容包括数据建模的过程和步骤，以及建模涉及到的分析方法、分析模型，以及模型优化等。本课程从实际的业务需求出发，对数据分析及数据挖掘技术进行了全面的介绍，通过大量的操作演练，帮助学员掌握数据分析和数据挖掘的思路、方法、工具，从大量的企业经营数据中进行分析，发现业务运作规律，进行客户洞察，挖掘客户行为特点，消费行为，实现精准营销，帮助运营团队深入理解业务运作，以达到提升学员的数据综合分析能力，支撑运营决策的目的。
通过本课程的学习，达到如下目的：
- 掌握数据建模的基本过程和步骤。
- 掌握数据建模前的属性筛选的系统方法，为建模打下基础。
- 掌握常用的数值预测模型，包括回归预测和时序预测，以及其适用场景。
- 掌握常用的分类预测模型，包括逻辑回归、决策树、神经网络、判别分析等等，以及分类模型的优化。
- 掌握数据挖掘常用的专题模型。
授课对象
业务支撑、网络中心、IT系统部、数据分析部等对业务数据分析有较高要求的相关专业人员。
学员要求
- 每个学员自备一台便携机(必须)。
- 便携机中事先安装好OfficeExcel 2013版本及以上。
- 便携机中事先安装好IBM SPSSStatisticsv24版本以上软件。
注：讲师可以提供试用版本软件及分析数据源。
授课方式
基础知识精讲 + 案例演练+ 实际业务问题分析 + SPSS实际操作
本课程突出数据挖掘的实际应用，结合行业的典型应用特点，从实际问题入手，引出相关知识，进行大数据的收集与处理；探索数据之间的规律及关联性，帮助学员掌握系统的数据预处理方法；介绍常用的模型，训练模型，并优化模型，以达到最优分析结果。
课程大纲
| 第一部分：数据建模基本过程 |
| 1、预测建模六步法 选择模型：基于业务选择恰当的数据模型 属性筛选：选择对目标变量有显著影响的属性来建模 训练模型：采用合适的算法对模型进行训练，寻找到最合适的模型参数 评估模型：进行评估模型的质量，判断模型是否可用 优化模型：如果评估结果不理想，则需要对模型进行优化 应用模型：如果评估结果满足要求，则可应用模型于业务场景 |
| 2、数据挖掘常用的模型 数值预测模型：回归预测、时序预测等 分类预测模型：逻辑回归、决策树、神经网络、支持向量机等 市场细分：聚类、RFM、PCA等 产品推荐：关联分析、协同过滤等 产品优化：回归、随机效用等 产品定价：定价策略/最优定价等 |
| 3、属性筛选/特征选择/变量降维 基于变量本身特征 基于相关性判断 因子合并（PCA等） IV值筛选（评分卡使用） 基于信息增益判断（决策树使用） |
| 4、模型评估 模型质量评估指标：R^2、正确率/查全率/查准率/特异性等 预测值评估指标：MAD、MSE/RMSE、MAPE、概率等 模型评估方法：留出法、K拆交叉验证、自助法等 其它评估：过拟合评估 |
| 5、模型优化 优化模型：选择新模型/修改模型 优化数据：新增显著自变量 优化公式：采用新的计算公式 |
| 6、模型实现算法（暂略） |
| 7、好模型是优化出来的 案例：通信客户流失分析及预警模型 |
| 第二部分：属性筛选方法 问题：如何选择合适的属性来进行建模预测？ 比如：价格是否可用于产品销量的预测？套餐的合理性是否会影响客户流失？在欺诈风险中有哪些数据会有异常表现？ |
| 1、属性筛选/变量降维的常用方法 基于变量本身特征来选择属性 基于数据间的相关性来选择属性 基于因子合并（如PCA分析）实现变量的合并 利用IV值筛选 基于信息增益来选择属性 |
| 2、相关分析（衡量变量间的线性相关性） 问题：这两个属性是否会相互影响？影响程度大吗？ 相关分析简介 相关分析的三个种类 简单相关分析 偏相关分析 距离相关分析 相关系数的三种计算公式 Pearson相关系数 Spearman相关系数 Kendall相关系数 相关分析的假设检验 相关分析的四个基本步骤 演练：体重与腰围的关系 演练：营销费用会影响销售额吗 演练：哪些因素与汽车销量有相关性 演练：通信费用与开通月数的相关分析 偏相关分析 偏相关原理：排除不可控因素后的两变量的相关性 偏相关系数的计算公式 偏相关分析的适用场景 距离相关分析 |
| 3、方差分析(衡量类别变量与数据变量的相关性) 问题：哪些才是影响销量的关键因素？ 方差分析的应用场景 方差分析的三个种类 单因素方差分析 多因素方差分析 协方差分析 方差分析的原理 方差分析的四个步骤 解读方差分析结果的两个要点 演练：终端摆放位置与终端销量有关吗 演练：开通月数对客户流失的影响分析 演练：客户学历对消费水平的影响分析 演练：广告和价格是影响终端销量的关键因素吗 演练：营业员的性别、技能级别对产品销量有影响吗 演练：寻找影响产品销量的关键因素 多因素方差分析原理 多因素方差分析的作用 多因素方差结果的解读 演练：广告形式、地区对销量的影响因素分析（多因素） 协方差分析原理 协方差分析的适用场景 演：饲料对生猪体重的影响分析（协方差分析） |
| 4、列联分析/卡方检验（两类别变量的相关性分析）w交叉表与列联表 卡方检验的原理 卡方检验的几个计算公式 列联表分析的适用场景 案例：套餐类型对客户流失的影响分析 案例：学历对业务套餐偏好的影响分析 案例：行业/规模对风控的影响分析 |
| 5、相关性分析各种方法的适用场景 |
| 6、主成份分析（PCA） 因子分析的原理 因子个数如何选择 如何解读因子含义 案例：提取影响电信客户流失的主成分分析 |
| 第三部分：回归预测模型篇 问题：如何预测产品的销量/销售金额？如果产品跟随季节性变动，该如何预测？新产品上市，如果评估销量上限及销售增速？ |
| 1、常用的数值预测模型 回归预测 时序预测 |
| 2、回归预测/回归分析 问题：如何预测未来的销售量（定量分析）？ 回归分析的基本原理和应用场景 回归分析的种类（一元/多元、线性/曲线） 得到回归方程的四种常用方法 Excel函数 散点图+趋势线 线性回归工具 规范求解 线性回归分析的五个步骤 回归方程结果的解读要点 评估回归模型质量的常用指标 评估预测值的准确度的常用指标 演练：散点图找推广费用与销售额的关系（一元线性回归） 演练：推广费用、办公费用与销售额的关系（多元线性回归） 演练：让你的营销费用预算更准确 演练：如何选择最佳的回归预测模型（曲线回归） 带分类变量的回归预测 演练：汽车季度销量预测 演练：工龄、性别与终端销量的关系 演练：如何评估销售目标与资源配置（营业厅） |
| 3、自动筛选不显著自变量 |
| 第四部分：回归预测模型优化篇 |
| 1、回归分析的基本原理 三个基本概念：总变差、回归变差、剩余变差 方程的显著性检验：是否可以做回归分析？ 因素的显著性检验：自变量是否可用？ 拟合优度检验：回归模型的质量评估？ 理解标准误差的含义：预测的准确性？ |
| 2、回归模型优化思路：寻找最佳回归拟合线 如何处理预测离群值（剔除离群值） 如何剔除非显著因素（剔除不显著因素） 如何进行非线性关系检验（增加非线性自变量） 如何进行相互作用检验（增加相互作用自变量） 如何进行多重共线性检验（剔除共线性自变量） 如何检验误差项（修改因变量） 如何判断模型过拟合（模型过拟合判断） 案例：模型优化案例 |
| 3、规划求解工具简介 |
| 4、自定义回归模型（如何利用规划求解进行自定义模型） 案例：如何对餐厅客流量进行建模及模型优化 |
| 5、好模型都是优化出来的 |
| 第五部分：分类预测模型 问题：如何评估客户购买产品的可能性？或者说，影响客户购买意向的产品关键特性是什么？ |
| 1、分类预测模型概述 |
| 2、常见分类预测模型 |
| 3、评估分类模型的常用指标 正确率、查全率/查准率、特异性等 |
| 4、逻辑回归分析模型（LR） 问题：如果评估用户是否购买产品的概率？ 逻辑回归模型原理及适用场景 逻辑回归的种类 二项逻辑回归 多项逻辑回归 如何解读逻辑回归方程 带分类自变量的逻辑回归分析 多项逻辑回归 案例：如何评估用户是否会购买某产品（二项逻辑回归） 案例：多品牌选择模型分析（多项逻辑回归） |
| 5、决策树分类（DT） 问题：如何提取客户流失者、拖欠货款者的特征？如何预测其流失的概率？ 决策树分类的原理 决策树的三个关键问题 如何选择最佳属性来构建节点 如何分裂变量 如何修剪决策树 选择最优属性 熵、基尼索引、分类错误 属性划分增益 如何分裂变量 多元划分与二元划分 连续变量离散化（最优划分点） 修剪决策树 剪枝原则 预剪枝与后剪枝 构建决策树的四个算法 C5.0、CHAID、CART、QUEST 各种算法的比较 如何选择最优分类模型？ 案例：识别银行欠货风险，提取欠货者的特征 案例：客户流失预警与客户挽留模型 |
| 6、人工神经网络（ANN） 神经网络概述 神经网络基本原理 神经网络的结构 神经网络的建立步骤 神经网络的关键问题 BP反向传播网络（MLP） 径向基网络（RBF） 案例：评估银行用户拖欠货款的概率 |
| 7、判别分析（DA） 判别分析原理 距离判别法 典型判别法 贝叶斯判别法 案例：MBA学生录取判别分析 案例：上市公司类别评估 |
| 8、最近邻分类（KNN） 基本原理 关键问题 |
| 9、贝叶斯分类（NBN） 贝叶斯分类原理 计算类别属性的条件概率 估计连续属性的条件概率 贝叶斯网络种类：TAN/马尔科夫毯 预测分类概率（计算概率） 案例：评估银行用户拖欠货款的概率 |
| 10、支持向量机（SVM） SVM基本原理 线性可分问题：最大边界超平面 线性不可分问题：特征空间的转换 维空难与核函数 |
| 第六部分：分类模型优化篇（集成方法） |
| 1、集成方法的基本原理：利用弱分类器构建强分类模型 选取多个数据集，构建多个弱分类器 多个弱分类器投票决定 |
| 2、集成方法/元算法的种类 Bagging算法 Boosting算法 |
| 3、Bagging原理 如何选择数据集 如何进行投票 随机森林 |
| 4、Boosting的原理 AdaBoost算法流程 样本选择权重计算公式 分类器投票权重计算公式 |
| 第七部分：时序预测模型 问题：无法找到影响因素，无法回归建模，怎么办？随着业务受季节性因素影响，未来的销量如何预测？ |
| 1、时序序列简介 |
| 2、时序分析的原理及应用场景 |
| 3、常见时序预测模型 评估预测值的准确度指标 平均绝对误差MAD 均方差MSE/RMSE 平均误差率MAPE |
| 4、移动平均 应用场景及原理 移动平均种类 一次移动平均 二次移动平均 加权移动平均 移动平均比率法 移动平均关键问题 最佳期数N的选择原则 最优权重系数的选取原则 演练：平板电脑销量预测及评估 演练：快销产品季节销量预测及评估 |
| 5、指数平滑 应用场景及原理 最优平滑系数的选取原则 指数平滑种类 一次指数平滑 二次指数平滑（Brown线性、Holt线性、Holt指数、阻尼线性、阻尼指数） 三次指数平滑 演练：煤炭产量预测 演练：航空旅客量预测及评估 |
| 6、温特期季节性预测模型 |
适用场景及原理 Holt-Winters加法模型 Holt-Winters乘法模型 演练：汽车销量预测及评估 |
| 7、回归季节预测模型 季节性回归模型的参数 基于时期t的相加模型 基于时期t的相乘模型 怎样解读模型的含义 案例：美国航空旅客里程的季节性趋势分析 |
| 8、新产品预测模型与S曲线 新产品累计销量的S曲线模型 如何评估销量增长的上限以及拐点 珀尔曲线与龚铂兹曲线 案例：如何预测产品的销售增长拐点，以及销量上限 演戏：预测IPad产品的销量 |
| 第八部分：银行信用评分卡模型 |
| 1、信用评分卡模型简介 |
| 2、评分卡的关键问题 |
| 3、信用评分卡建立过程 筛选重要属性 数据集转化 建立分类模型 计算属性分值 确定审批阈值 |
| 4、筛选重要属性 属性分段 基本概念：WOE、IV 属性重要性评估 |
| 5、数据集转化 连续属性最优分段 计算属性取值的WOE |
| 6、建立分类模型 训练逻辑回归模型 评估模型 得到字段系数 |
| 7、计算属性分值 计算补偿与刻度值 计算各字段得分 生成评分卡 |
| 8、确定审批阈值 画K-S曲线 计算K-S值 获取最优阈值 |
| 第九部分：实战篇(电信业客户流失分析模型) |
| 1、商业理解 业务背景 如何定义流失 |
| 2、分析思路 流失客户的典型特征是什么？ 预测哪些高价值客户可能会流失？ 市场挽留的预计收益是多少？ |
| 3、数据收集 客户基本信息 客户行为数据 客户交互数据 客户态度数据 |
| 4、数据预处理 变量衍生（数据波动） 探索性分析 属性筛选 |
| 5、数据建模 如何选择模型 聚类 决策树或神经网络 模型评估 |
| 6、模型应用 |
| 结束：课程总结与问题答疑。 |
最新动态
- 大数据Python 数据分析开发实战 2023-02-02 10:08:23
- 人工智能深度学习Python TensorFlow、Keras开发实战 2023-02-02 10:04:15
- Python大数据实战培训-核心分析可视化运维与AI课程 2020-10-23 11:37:09
- 自动化部署最佳实践 2020-04-26 15:36:43
- Python开发与应用（自动化运维与爬虫实战） 2020-04-26 15:35:36
- （中级）A02 大数据分析与挖掘综合能力提升实战（2-3天-中级） 2020-04-26 15:24:40
- 企业级大数据分析建模与机器学习最佳实践 2020-04-26 15:20:34
- 基于工业领域的大数据技术与数据挖掘分析 2020-04-26 15:19:58
- 分布式集群架构（云化）教程---“小变大“的技术与实践 2020-04-26 15:19:31
- 大数据（HadoopNoSQL等）的技术与实践 2020-04-26 15:18:37
下一篇
大数据技术介绍、数据挖掘与分析上一篇
大数据建模与分析挖掘应用实战
智盟创课公众号
智汇｜共创｜互联｜共成长
400-183-9980
010-65798049
服务总线
咨询热线
business@zmengstu.com
@2016 智盟创课（北京）科技有限公司 版权所有
