DoraemonJack Blog

「离开世界之前 一切都是过程」

深度学习——数学基础、反向传播、微积分与优化理论

从链式法则到梯度流动,深入理解神经网络的数学本质与实际应用

深度学习的优雅之处在于其优美的数学理论。反向传播算法不过是链式法则的一个巧妙应用,而梯度下降则是凸优化理论的直接推论。本文将从第一性原理出发,逐层深入这些数学基础,最后通过实际项目案例展示如何将理论应用于实践。 目录 深度学习中的数学体系 基础 0:核心数学基础速通 线性代数核心 微积分核心 概率统计核心 ...

深度学习——卷积神经网络 (CNN)

理解卷积操作、特征学习与空间层级表示的数学本质,揭示CNN如何处理视觉任务的秘密

卷积神经网络的优雅在于它用数学语言完美地解释了视觉系统的工作原理。从信号处理中继承的卷积操作,到群论中的等变性原理,再到现代深度学习中的特征层级表示,CNN是理论与实践完美结合的典范。本文将从第一性原理出发,逐层深入这些数学基础,最后通过一个实际的目标检测项目展示理论如何优雅地解决现实问题。 目录 CNN的数学基础体系 第一部分:卷积操作的数学本质 ...

机器学习——朴素贝叶斯原理

理解朴素贝叶斯的数学原理

朴素贝叶斯(Naive Bayes)是机器学习中最经典、最优雅的概率分类算法之一。尽管其假设看似简单而”朴素”,但它在文本分类、垃圾邮件检测、情感分析等领域取得了令人瞩目的成就。本文将从贝叶斯定理的基础出发,逐步深入其数学原理、多种变体、改进策略,最后通过详细的实际案例(电商评论分类系统)演示如何在生产环境中应用和优化朴素贝叶斯模型。 一、贝叶斯定理与概率基础 1.1 条件概率与贝叶斯定...

机器学习——支持向量机(SVM)

理解SVM的数学原理、核函数、优化算法及实际应用

支持向量机(Support Vector Machine, SVM)是机器学习领域中最优雅、最具理论基础的算法之一。它通过寻找最优的超平面进行分类,具有强大的理论支撑和优异的实证效果。本文将从基础概念出发,深入探讨SVM的数学原理、核技巧、求解算法,最后通过详细的实际案例演示如何应用SVM解决真实问题。 一、问题描述与基础概念 1.1 分类问题的核心思想 给定训练集 \(D = \{(\...

机器学习——无监督学习:聚类算法深度解析(K-Means、DBSCAN、GMM)

从数学原理到实际应用三大聚类算法

目录 引言 K-Means算法 DBSCAN算法 高斯混合模型(GMM) 实际案例:客户分群系统 三种算法对比 总结 引言 聚类是无监督学习中最重要的任务之一,目的是将相似的样本分组到同一类中,而不同类的样本尽可能分开。与有监督学习不同,聚类算法不需要标注的训练数据,而是通过挖掘数据内在的结构。 聚类算法广泛应用于: 客户分群:电商平台根据用户...

机器学习——逻辑回归

深度解析逻辑回归的数学原理、算法演变与实战应用

逻辑回归完全指南:从基础到现代算法演变 第零部分:前置基础知识完全指南 在深入学习逻辑回归之前,我们需要掌握几个核心概念,这些是理解逻辑回归的基础。本部分将从零开始,详细讲解每个概念背后的数学原理。 0.1 线性回归:逻辑回归的起点 0.1.1 问题定义 线性回归是机器学习中最基础的有监督学习算法,它用于预测连续值。 给定数据集 ${(\mathbf{x}_1, y_1), ...

机器学习——K-近邻算法

KNN到图神经网络

本文详细解析K-近邻算法的数学原理、演变历程,以及如何应用于实际问题。从最基础的欧几里得距离,到现代深度度量学习,再到图神经网络,完整呈现这一算法家族的发展轨迹。 目录 K-近邻算法基础 数学原理详解 算法局限性分析 加速策略 算法演变与改进 现代应用与扩展 实际案例研究 性能对比与选择指南 K-近邻算法基础 算法思想 K-近邻(K-N...

机器学习——无监督学习中的降维算法(PCA,流形学习)

深入理解主成分分析、流形学习与降维的数学原理及实际应用

维数灾难是高维空间中的幽灵,而降维算法是驱散它的魔法。本文将深入探讨无监督学习中最重要的降维算法,从数学基础到实际应用。 目录 降维问题的定义与意义 主成分分析(PCA) 核主成分分析(KPCA) 独立成分分析(ICA) 流形学习 实际案例:人脸识别系统 代码实现 降维问题的定义与意义 什么是维数灾难? 在高维空间中会发生一些反直觉的现象:...

机器学习——决策树算法:从经典ID3到现代梯度提升树

深度解析决策树的数学原理、发展演进与实际应用

决策树算法详解:从经典ID3到现代梯度提升树 目录 基础概念与原理 信息论基础 经典决策树算法 现代提升算法 实际案例应用 完整代码示例 基础概念与原理 什么是决策树? 决策树是一种分类和回归的非参数学习算法。通过一系列问题将样本逐步分割,最终得到叶子节点的预测结果。决策树的核心思想是递归分割,在每个节点选择最优特征进行分割,使得分割后的子集更加”纯...

OpenCASCADE 中文教程 - 创建瓶子为例

从入门到精通 OpenCASCADE 3D 几何建模

目录 项目介绍 1.1 前置要求 1.2 项目 1.3 项目说明 瓶子主体 2.1 点 2.2 曲线 2.3 拓线 2.4 变换 瓶子装饰 3.1 倒圆角 3.2 圆柱体 3.3 杯颈 ...