机器学习按照模型类型分为监督学习模型，无监督学习模型和概率模型三大类：

下图是机器学习笔记思维导图，：

机器学习（Machine Learning，简称 ML）和深度学习（Deep Learning，简称 DL）是人工智能（AI）领域中的两大重要分支。它们都依赖于大量数据来训练模型，但在方法和应用上有所不同。

机器学习

机器学习是一种基于数据的算法模型训练方法，它使得计算机能够通过经验自我改善，从而执行一些任务，而不需要显式编程。机器学习的关键是通过数据让机器“学习”规律，并通过这些规律对未来的数据做出预测或分类。

机器学习的分类

1. 监督学习：模型通过输入数据和已知标签（输出结果）来进行训练。例如，图像分类、房价预测等。
2. 无监督学习：模型通过输入数据没有标签进行训练，目标是发现数据中的潜在结构。例如，聚类、降维等。
3. 半监督学习：结合了监督学习和无监督学习的特点，利用少量的标签数据和大量未标记的数据进行训练。
4. 强化学习：通过与环境的互动来学习如何执行任务，优化奖励信号。例如，游戏中的AI、机器人导航等。

深度学习

深度学习是机器学习的一个子领域，强调使用人工神经网络，尤其是多层（深层）神经网络。深度学习的“深度”指的是神经网络中包含的多层隐藏层。

深度学习的一个显著特点是，它能够从原始数据中自动提取特征，而不需要人工设计特征工程。它在处理图像、语音、文本等数据时，表现出色。

深度学习的应用

1. 计算机视觉：包括图像分类、目标检测、人脸识别等。
2. 自然语言处理：包括机器翻译、语音识别、文本生成等。
3. 自动驾驶：通过深度学习模型处理来自摄像头、雷达等传感器的数据，帮助车辆感知环境并做出决策。
4. 推荐系统：通过用户行为和偏好数据，深度学习可以预测用户可能感兴趣的物品或内容。

深度学习的技术

1. 卷积神经网络（CNN）：特别适用于图像处理任务，通过卷积层提取图像的空间特征。
2. 循环神经网络（RNN）：适用于处理序列数据，如时间序列或自然语言，能够捕捉上下文依赖。
3. 生成对抗网络（GAN）：由两个神经网络（生成器和判别器）组成，广泛应用于图像生成、风格迁移等领域。

机器学习与深度学习的区别

1. 数据需求：深度学习通常需要大量的数据才能训练出有效的模型，而传统的机器学习方法对数据的需求相对较少。
2. 特征工程：机器学习往往依赖人工特征工程，而深度学习可以自动从数据中学习到有用的特征。
3. 计算能力：深度学习需要更强的计算资源（如GPU或TPU）来进行大规模训练，而传统机器学习方法通常计算要求较低。
4. 可解释性：传统机器学习模型（如决策树、线性回归等）通常比深度学习模型更容易解释，而深度学习模型往往被视为“黑箱”，较难理解其内部工作原理。

总结

• 机器学习适合处理各种类型的任务，尤其是在数据量不大的情况下，且对特征设计有更多的控制。
• 深度学习适合处理复杂的、数据量庞大的任务，尤其是在图像、语音和自然语言处理等领域表现优异，但对计算资源和数据量有较高要求。

强化学习（Reinforcement Learning，RL） 和 深度学习（Deep Learning，DL） 并不相同，虽然它们有一定的联系。两者属于不同的领域，强化学习是一种学习方法，而深度学习是一种使用深度神经网络进行学习的技术。

1. 强化学习（Reinforcement Learning，RL）

强化学习是一种基于智能体（agent）与环境（environment）之间交互的学习方法。智能体通过探索环境并执行动作来获得反馈（奖励或惩罚），从而学习如何采取最优行动以实现长期目标。强化学习的关键是优化决策过程，通常涉及奖励信号，该信号用于指导智能体调整其行为。

强化学习的基本要素：

• 智能体（Agent）：执行动作的实体。
• 环境（Environment）：智能体所处的外部系统，智能体通过与环境交互来学习。
• 状态（State）：智能体在某一时刻所处的环境状态。
• 动作（Action）：智能体可以在某一状态下执行的行为。
• 奖励（Reward）：智能体执行某个动作后从环境获得的反馈，通常用来评估该动作的好坏。
• 策略（Policy）：智能体决定采取哪种动作的规则或函数。
• 价值函数（Value Function）：评估在某一状态下采取某个动作或一系列动作的长期回报。

强化学习的应用：

• 游戏：AlphaGo、围棋、扑克等。
• 机器人控制：自动化任务、机器人导航等。
• 自动驾驶：智能驾驶决策。

2. 深度学习（Deep Learning，DL）

深度学习是一种机器学习技术，它利用多层次（深层）神经网络来自动从数据中提取特征并学习规律。深度学习的主要特点是它能够从大量数据中提取有用的特征，而不依赖于人工特征工程。

深度学习的应用：

• 计算机视觉：图像分类、目标检测、人脸识别等。
• 自然语言处理：机器翻译、语音识别、文本生成等。
• 语音识别：语音到文本的转换。
• 推荐系统：根据用户行为预测兴趣内容。

强化学习与深度学习的关系

强化学习和深度学习可以结合使用，这种结合称为 深度强化学习（Deep Reinforcement Learning，DRL）。在深度强化学习中，深度神经网络被用作强化学习的功能近似器，特别是在面对复杂的、高维度的状态空间时，深度神经网络可以帮助智能体从原始的、高维度的环境数据中学习有效的策略。

结合的方式：

• 深度Q网络（DQN）：一种深度强化学习方法，通过深度神经网络来近似Q值函数。
• 深度策略梯度方法：使用神经网络来表示策略，从而优化策略以最大化累积奖励。

总结：

• 强化学习 是一种学习方法，主要关注智能体如何通过与环境的交互来学习最优决策策略。
• 深度学习 是一种使用多层神经网络进行学习的技术，主要用于从数据中自动提取特征。
• 深度强化学习 是强化学习和深度学习的结合，使用深度神经网络来处理强化学习中的复杂任务。

所以，强化学习并不等于深度学习，它们有各自的定义和应用范围，但在某些任务中，深度学习可以帮助强化学习解决更复杂的问题。

一.什么是机器学习

从本质上讲，可以认为机器学习就是在数据中寻找一种合适的函数来描述输入与输出之间的关系。我们通过训练模型，使它能够找到一个函数 f(x)，使得对于给定的输入 x，函数 f的输出 y尽可能接近真实值或期望的结果。  机器学习=寻找一种函数

如何寻找这个函数

1.第一个函数集合 2.判断函数的好坏 3.选择最好的函数

学习路线

1.数学基础，了解矩阵和向量的基本操作，特征值和特征向量的计算后边也会学到

2.机器学习基础

3.深度学习

二.机器学习算法的类型

1.有监督学习

利用有监督学习解决的问题大致可以分为两类：

分类问题：预测某一样本所属的类别（离散的）。比如给定一个人的数据结构：包括：身高年龄体重等，然后判断性别或者是否健康。

回归问题：预测某一样本的所对应的实数输出（连续的）。

线性回归，逻辑回归，分类回归树，朴素贝叶斯，k最近邻算法均是有监督学习的例子。

2.无监督学习

1. 聚类（Clustering）

   • 定义：将数据点划分成若干组（即簇），使得同一簇内的数据点在特征空间中的距离尽量小，而不同簇的数据点尽量远。
   • 常用算法：
     • K均值（K-Means）：将数据分成 KKK 个簇，通过迭代不断优化簇中心。
     • 层次聚类（Hierarchical Clustering）：通过递归地将数据进行层次划分，构建树状结构。
     • DBSCAN：基于密度的聚类方法，适合处理不规则形状的簇。
   • 应用：图像分割、客户分群、推荐系统等。

2. 降维（Dimensionality Reduction）

   • 定义：将高维数据投影到低维空间，同时保留尽可能多的原始信息。降维不仅可以减少计算复杂度，还能帮助我们理解数据的结构。
   • 常用算法：
     • 主成分分析（PCA）：将数据投影到方向方差最大的方向上，用于特征提取和数据压缩。
     • 线性判别分析（LDA）：以最大化类间方差与类内方差的比值为目标，适用于有监督降维。
     • t-SNE：一种非线性降维方法，常用于可视化高维数据。
   • 应用：特征选择、数据可视化、噪声过滤。

3. 关联规则学习（Association Rule Learning）

   • 定义：挖掘数据集中不同项之间的关联关系，通常用于发现频繁项集和产生关联规则。
   • 常用算法：
     • Apriori：基于频繁项集的生成，用于发现交易中的关联关系。
     • FP-Growth：比Apriori更高效，用于发现频繁项集。
   • 应用：市场购物篮分析、推荐系统。

4. 异常检测（Anomaly Detection）

   • 定义：检测数据集中异常或罕见的模式，这些异常数据可能代表欺诈、故障等特殊事件。
   • 常用算法：
     • 孤立森林（Isolation Forest）：通过随机划分特征空间来分离异常点。
     • 高斯混合模型（GMM）：用概率模型来识别数据集中可能的异常点。
   • 应用：信用卡欺诈检测、网络入侵检测。

三.常见机器学习概念介绍：

机器学习算法根据其学习方式和任务类型可分为多种类别，包括监督学习、无监督学习、半监督学习和强化学习。以下是一些常见机器学习算法的简介：

 1. 线性回归（Linear Regression）
   - 类型：监督学习
   - **任务**：回归
   - **简介**：用于预测连续值的算法，假设自变量与因变量之间存在线性关系。通过最小化预测值与实际值之间的误差来找到最佳拟合直线。

 2. **逻辑回归（Logistic Regression）**
   - **类型**：监督学习
   - **任务**：分类
   - **简介**：用于二分类问题的模型，输出结果为类别的概率。通过S型（Sigmoid）函数将线性模型的输出映射到0到1之间，用于判断样本属于哪一类。

3. **K-近邻算法（K-Nearest Neighbors, KNN）**
   - **类型**：监督学习
   - **任务**：分类和回归
   - **简介**：根据样本与训练数据中最近的K个邻居的标签来决定分类结果或回归值。适合小规模数据，计算量随样本数增长。

 4. **支持向量机（Support Vector Machine, SVM）**
   - **类型**：监督学习
   - **任务**：分类和回归
   - **简介**：通过寻找能够最大化分类边界的超平面来分类样本，适合复杂、高维度数据的分类。可通过核函数（如RBF核）扩展到非线性分类问题。

 5. **朴素贝叶斯分类器（Naive Bayes Classifier）**
   - **类型**：监督学习
   - **任务**：分类
   - **简介**：基于贝叶斯定理和条件独立假设的分类算法，适合文本分类等场景。简单高效，常用于处理大规模数据。

6. **决策树（Decision Tree）**
   - **类型**：监督学习
   - **任务**：分类和回归
   - **简介**：基于树结构的模型，选择特征及阈值将数据划分为不同子集，直至满足终止条件。具有较好的可解释性，但易于过拟合。

 7. **随机森林（Random Forest）**
   - **类型**：监督学习
   - **任务**：分类和回归
   - **简介**：集成多棵决策树的模型，通过集成多个树的预测结果来提高准确性和鲁棒性。随机森林具有良好的泛化能力，能有效防止过拟合。

8. **梯度提升（Gradient Boosting）**
   - **类型**：监督学习
   - **任务**：分类和回归
   - **简介**：通过逐步构建多个弱分类器（通常是决策树），每一步拟合前一步的残差，以减少模型误差。常见的实现有XGBoost、LightGBM、CatBoost等。

 9. **K-均值聚类（K-Means Clustering）**
   - **类型**：无监督学习
   - **任务**：聚类
   - **简介**：一种聚类算法，通过不断调整K个簇的中心，最小化簇内的误差平方和，使得每个簇中的样本更相似。适合于寻找数据的自然分组。

10. **主成分分析（Principal Component Analysis, PCA）**
   - **类型**：无监督学习
   - **任务**：降维
   - **简介**：通过找出数据的主要成分，将数据从高维映射到低维空间，保留尽可能多的方差信息。广泛用于数据预处理和可视化。

11. **期望最大化算法（Expectation-Maximization, EM）**
   - **类型**：无监督学习
   - **任务**：聚类
   - **简介**：一种用于含有隐藏变量的概率模型的聚类算法。通过迭代地执行期望步骤（E）和最大化步骤（M），优化模型参数。

 12. **人工神经网络（Artificial Neural Network, ANN）**
   - **类型**：监督学习
   - **任务**：分类和回归
   - **简介**：模仿人脑神经网络的算法，通过多层神经元和反向传播学习复杂的非线性关系，广泛用于图像识别、自然语言处理等复杂任务。

13. **卷积神经网络（Convolutional Neural Network, CNN）**
   - **类型**：监督学习
   - **任务**：分类、回归和检测
   - **简介**：一种用于图像处理的神经网络，能够通过卷积和池化层提取图像的空间特征。广泛应用于计算机视觉任务，如图像分类和物体检测。

14. **循环神经网络（Recurrent Neural Network, RNN）**
   - **类型**：监督学习
   - **任务**：序列预测
   - **简介**：用于处理序列数据的神经网络，具有记忆功能。常用于时间序列、文本处理任务。LSTM和GRU是其改进版本，可缓解RNN的长时依赖问题。

 15. **强化学习（Reinforcement Learning, RL）**
   - **类型**：强化学习
   - **任务**：决策
   - **简介**：一种通过与环境交互来学习策略的算法。通过奖励和惩罚来调整动作选择，以最大化长期收益，广泛用于游戏AI和机器人控制。

在机器学习中，偏差（Bias）是模型偏离真实数据模式的程度。它反映了模型在训练数据上没有很好地拟合目标函数的程度。偏差较高的模型通常是欠拟合的，这意味着它无法捕捉到数据的规律，通常表现为在训练数据和测试数据上都产生较高的误差。

四.十大机器学习算法介绍

有监督学习

1.线性回归算法

2.逻辑回归算法

3.分类回归树（决策树）

4.朴素贝叶斯

5.KNN（K近邻算法）

无监督学习

6.关联规则算法

7.K-means算法

8.PCA主成分分析

9.使用随机森林Bagging

10.用Adaboost 实现Boosting