|
算法公式挺费神，机器学习太伤人。任何一个刚入门机器学习的人都会被复杂的公式和晦涩难懂的术语吓到。但其实，如果有通俗易懂的图解，理解机器学习的原理就会非常容易。本文整理了一篇博客文章的内容，读者可根据这些图理解看似高深的机器学习算法。
1 j( @) ~6 E: D+ S: Z0 L0 t9 X3 _ 机器学习这个主题已经很普遍了，每个人都在谈论它，但很少有人能够透彻地了解它。当前网络上的一些机器学习文章晦涩难懂，理论性太强，或者通篇云里雾里地介绍人工智能、数据科学的魔力以及未来的工作等。
1 n. A7 s) R* `9 }* A+ [ 所以呢，本文作者 vas3k 通过简洁的语言和清晰明了的图示内容，使得读者能够更容易地理解机器学习。抛却了晦涩难懂的理论介绍，文中侧重于机器学习中的实际问题、行之有效的解决方案和通俗易懂的理论。无论你是程序员还是管理者，本文都适合你。
( Z6 ~8 |. g3 X; w; g2 m$ _ AI 的范畴
. j* `; E r- A( k% y AI 到底它包含了哪些领域，它与各种技术名词之间的关系又是什么样的？其实我们会有多种判断方式，AI 范畴的划分也不会是唯一的，例如最「常见」的认识可能如下图所示。
! @2 ~' p u* m# T 你可能会认为： E' D! W3 z: _+ }0 \
人工智能是个完整的知识领域，类似于生物学或者是化学； 机器学习是人工智能中非常重要的一部分，但并不是唯一一个部分；神经网络是机器学习的一种，现在非常受欢迎，但依然有其他优秀的算法；) e' |4 Z3 J8 s7 A2 I) i5 j. N
但是，难道深度学习都是神经网络吗？明显并不一定是，例如周志华老师的深度森林，它就是第一个基于不可微构件的深度学习模型。因此，更科学的划分可能是下图花书中的这种：
+ T6 O, p q. J6 D- i) f 7 ^9 x, Y! T# E. j1 F. x: i0 T
机器学习下面应该是表示学习，即概括了所有使用机器学习挖掘表示本身的方法。相比传统 ML 需要手动设计数据特征，这类方法能自己学习好用的数据特征。整个深度学习也是一种表示学习，通过一层层模型从简单表示构建复杂表示。 9 D2 _7 Z( }; F: A4 G# ^
机器学习路线图
" m2 u+ y0 A* n( W 如果你比较懒，那这有一张完整的技术路线图供你参考。
# b& s) a! ~: \
) s- A$ L( y4 g6 G4 p' |5 { 按照现阶段主流分类来看，机器学习主要分为四类： 经典机器学习；强化学习；神经网络和深度学习；集成方法；% a, A2 d) m" F5 ?% [1 E ]$ z p5 o
经典机器学习 1 k/ \2 M# Q7 I
经典机器学习经常被划分为两类：监督型学习和非监督型学习。 % j m) X; B( y6 j
+ `1 [; j) }- M2 ] 监督学习
1 D+ X: H! z n, J 在分类中，模型总是需要一个导师，即对应特征的标注，这样的话机器就可以基于这些标注学习进行进一步分类。万事皆可分类，基于兴趣去分类用户、基于语言和主题分类文章、基于类型而分类音乐以及基于关键词分类电子邮件。 , f# `7 N4 V( M
而在垃圾邮件过滤中，朴素贝叶斯算法得到了极其广泛的应用。事实上，朴素贝叶斯曾被认为是最优雅、最实用的算法。 7 W+ ~" ^+ P6 ^8 k. p. F* J( [
# c9 R/ K; ]6 V! ]8 Y/ x' h, K8 H
支持向量机 (SVM) 是最流行的经典分类方法。也是被用来对现有的一切事物进行分类: 照片中的植物外观，文件等等等。支持向量机背后的思路也很简单，以下图为例，它试图在数据点之间画出两条边距最大的线。 ; j5 D. j" l3 z- y) n# `: u
, T% N9 B2 E: r, @
监督学习——回归 ) T$ L- W+ k1 l+ w3 X% Q" I& u9 O! E1 {
回归基本上是分类，但预测的标的是一个数字而不是类别。例如按里程计算的汽车价格，按时间计算的交通量，按公司增长计算出市场需求量等。当所预测的事物是依赖于时间时，回归是非常合适的选择。 5 M6 s" `; v5 @7 P
% x5 p7 D# D* g% [9 ]7 A8 j: [ 无监督学习 9 e. _: L5 ?. o+ c) ^0 t8 h
无监督学习是 90 年代才被发明出来的，可以这么去描述它「根据未知特征对目标进行分割，而由机器去选择最佳方式。」 # ?* {1 @9 M( C+ | B/ e
无监督学习——聚类
, Q7 w' c7 B! B. t* \ 聚类是一种没有预先定义类的分类。比如当你不记得你所有的颜色时，把袜子按颜色分类一样。聚类算法试图通过某些特征从而找到相似的对象并将它们合并到一个聚类中。
) K+ \# j/ L4 _# r" I. G
9 O& M5 t9 k5 q/ z3 }7 g. ? A 无监督学习——降维 「将特定的特征组合成更高级的特性」人们在使用抽象的东西总是比使用零碎的特征更具有方便性。举个例子，将所有长着三角形的耳朵、长鼻子和大尾巴的狗合并成一个很好的抽象概念——「牧羊犬」。 / h0 Y$ A2 d$ c6 i) m
再比如有关科技的文章中拥有更多科技术语，而政治新闻里最多的是政客的名字。假如我们要将这些具有特性的单词以及文章组成一个新的特征，以保持其潜在关联度，SVD 便是个不错的选择。 1 T3 z! M7 O- w) ?% M
} a: F8 c2 }, J5 T4 T
无监督学习——关联规则学习 「在订单流中分析出特征模式」包括分析购物车，自动化营销策略等。举个例子，顾客拿着六瓶啤酒走向收银台，在其路上是否该放些花生？如果放了，这些顾客多久会来买一次？如果啤酒花生是绝配，那还有其他什么事物也可进行这样的搭配呢？
; k5 I$ F1 i+ m2 S9 H7 F1 {
! h5 X8 g: M8 y8 C1 ] Y 现实生活中，每个大型零售商都有它们自己的专用解决方案，而当中技术水平最高的要数那些「推荐系统」。 ' N2 b: p7 k ~: m8 j G9 v
集成方法
% ]: z1 q- v/ {) D* ^( d# P- h: p 「团结就是力量」，这句老话很好地表达了机器学习领域中「集成方法」的基本思想。在集成方法中，我们通常会训练多个「弱模型」，以期待能组合成为一个强大的方法。像各种经典 ML 竞赛中，差不多效果最好的那一拨，如梯度提升树、随机森林等都属于集成方法。 , c* B% p- }/ ]+ g
一般而言集成方法的「组合方式」主要可以分为三种：Stacking、Bagging、Boosting。
2 b5 Y% J: N: r4 w- l5 v5 s 如下图所示，Stacking 通常考虑的是异质弱学习器，弱学习器可以先并行地训练，而后通过一个「元模型」将它们组合起来，根据不同弱模型的预测结果输出一个最终的预测结果。
2 `/ D* U" x6 ]2 G: X , ]6 _- O0 Y" C( W+ @8 @
Bagging 方法通常考虑的是同质弱学习器，相互独立地并行学习这些弱学习器，并按照某种确定性的平均过程将它们组合起来。假设所有弱学习器都是决策树模型，那么这样做出来的 Bagging 就是随机森林。 , ?6 y c4 q* E5 f$ g7 j
' R0 U2 T+ |9 E# |) F
Boosting 方法通常考虑的也是同质弱学习器，只不过它的思想是「分而治之」。它以一种高度自适应的方法顺序地学习这些弱学习器，且后续弱模型重点学习上一个弱模型误分类的数据。
2 y, e/ _9 c/ x% z2 Z4 h0 ` 这就相当于不同的弱分类器，专注于部分数据，达到「分而治之」的效果。如下所示，Boosting 就是以串行组合不同模型的范式。大名鼎鼎的 XGBoost、LightGBM 这些库或算法，都采用的 Boosting 方法。 5 ~2 M0 m3 P" I
% u2 s/ V* d8 Y) y9 a$ a( t
现在，从朴素贝叶斯到 Boosting 方法，经典机器学习的主要分支已经具备了。如果读者希望有一个更系统与详细地了解，李航老师的《统计学习方法》与周志华老师的《机器学习》是最好的两本中文教程。 ; W" P6 E; K* N+ o( u
当然，在这篇博客中，作者还介绍了强化学习与深度学习等等，内容非常适合对人工智能感兴趣且非相关专业的读者，加上形象的配图，算得上是篇非常不错的科普文。如果你对这种简单易懂的叙述方式感兴趣的话，可以去博客上详细阅读。
" T8 @: B4 Y5 R8 k' {" P# R 参考链接：https://vas3k.com/blog/machine_learning/ , v, P5 \. N4 a2 Z& h, m( X
& }- w& {; z- e* i6 M- U0 u5 F; w1 h; u3 U
[* ^6 Y2 H& n) n: A: G
3 B3 x; z9 j$ G n( E9 w | 
