当前位置：首页 > 编程日记 > 正文

【组队学习】【23期】Datawhale集成学习（上）

编程日记 2024-09-23 02:10:00

集成学习（上）

开源内容：https://github.com/datawhalechina/team-learning-data-mining/tree/master/IntegratedLearning

基本信息

贡献人员：李祖贤、薛传雨、赵可、杨毅远、陈琰钰
学习周期：14天
学习形式：理论学习 + 练习
人群定位：具备《高等数学》、《线性代数》、《概率论与数理统计》基础，会使用常见的数据分析工具（Numpy，Pandas、matplotlib），既想系统学习sklearn工具库解决机器学习问题，又想系统学习机器学习算法理论的数学推导的学习者。
难度系数：中

学习目标

本次课程是由Datawhale集成学习小组内部成员共同完成，是针对机器学习小白的一入门课程。学习本课程需要学习者具备《高等数学》、《线性代数》、《概率论与数理统计》基础，会使用常见的数据分析工具（Numpy，Pandas、matplotlib）。

本次课程内容的设计参考了B站很火的《白板推导》系列、李航老师的《统计学习方法》、机器学习入门圣经的《统计学习导论》以及大量的技术博客，详细地介绍了机器学习领域中最经典的算法并给出了相应的数学推导和代码，对于每个算法都进行了细致的分析以及必要的代码的演示，便于学习者深刻理解机器学习算法的本质。除此之外，每个算法都要求学习者自行查阅sklearn官方文档的相应参数，帮助学习者构建理论与实际相结合的学习框架。在这些案例的代码中，我们给出了详细的代码注释，尽量让学习者们不会因为看不懂代码而感到烦恼。

任务安排

Task00：熟悉规则（1天）

组队、修改群昵称
熟悉打卡规则

Task01：熟悉机器学习的三大主要任务（1天）

了解传统机器学习领域的三大基本任务——回归、分类、无监督学习。

Task02：掌握基本的回归模型（3天）

掌握基本回归问题中的线性回归以及如何打破线性回归的假设推广至非线性回归，包括多项式回归、广义可加模型、回归树以及支持向量回归，在掌握了这些理论的基础上了解如何使用python及其工具库实现这些算法。

Task03：掌握偏差与方差理论（2天）

在前面的基本回归模型的建模中，我们一直使用最小化训练误差原则，但实际的问题是我们想要最小化未知数据的误差，因此如何权衡训练误差和未知的测试数据误差就是一个急需解决的问题，掌握偏差与方差理论有利于提高模型预测未知数据的能力。偏差与方差的权衡是机器学习基本模型推广至集成学习的关键，也是机器学习面试中必问的一个问题。