机器学习
- 向量乘法和矩阵乘法的分类和区别 机器学习 十月 8, 2019 392 1
向量乘法和矩阵乘法由于别名和表示符号众多，导致这些不同的算法极容易混淆，相关知识也变得混乱不堪。本文利用思维导图的方式，将这些知识点整理到一起，以一个清晰的脉络来看清楚这些概念之前的区别和差异。 注：图中的表示符号用的是 LaTex 表示...
- 机器学习预处理方法总结 机器学习 九月 30, 2018 404 2
样本不均衡的处理方法 假定样本数目 A 类比 B 类多，且严重不平衡。可使用以下几种方法1： 1）A 类欠采样（Undersampling） 随机从 A 采样一组和 B 数量差不多的样本，然后生成树，重复几次，生成森林； 将...
- 机器学习中的各种 “熵” 机器学习 九月 26, 2018 1126 4
熵 (entropy) 这一词最初来源于热力学。1948 年，克劳德·爱尔伍德·香农将热力学中的熵引入信息论，以此来解决对信息的量化度量问题。在机器学习中，“熵” 是一个非常重要的基础内容，在 Logistic 回归、决策树、自然语言处理等...
- 梯度下降学习率的设定策略 机器学习 八月 30, 2018 1965 13
学习率的重要性 如果把梯度下降算法比作机器学习中的一把 “神兵利器”，那么学习率就是梯度下降算法这把武器对应的 “内功心法”，只有调好学习率这个超参数，才能让梯度下降算法更好地运作，让模型产生更好的效果。 在《梯度下降算法总结》一文中，...
- Logistic 回归 机器学习 八月 3, 2018 909 2
算法概述 在《线性回归》一文中，我们提到过广义线性模型，通过联结函数建立响应变量的数学期望值与线性组合的预测变量之间的关系。 而 Logistic 回归（Logistic Regression）是广义线性回归中的重要代表，同线性回归中讲到...