1. 支持向量机（SVM）是一种二分类模型，其基本模型定义为特征空间上的间隔最大的线性分类器。这类分类器的特点是他们能够同时最小化经验误差与最大化几何边缘区，因此支持向量机也被称为最大边缘区分类器。SVM在很多诸如文本分类、图像分类、生物序列分析和生物数据挖掘、手写字符识别等领域都有广泛应用。
2. SVM将向量映射到一个更高维的空间，在这个空间里建立有一个最大间隔超平面。在分开数据的超平面的两边建有两个互相平行的超平面，分隔超平面使两个平行超平面的距离最大化。假设平行超平面间的间隔距离或差距越大，分类器的总误差越小。
3. SVM的学习策略是间隔最大化，最终可转化为一个凸二次规划问题的求解。对于线性可分的训练数据集而言，线性可分分离超平面有无穷多个（等价于感知机），但是几何间隔最大的分离超平面是唯一的。
4. 对于线性不可分的情况，我们可以用核函数让空间从原本的线性空间变成一个更高维的空间，在这个高维的线性空间下，再用一个超平面进行划分。此外，还有一种方式是用直线，不过不用去保证可分性，就是包容那些分错的情况，不过我们得加入惩罚函数，使得点分错的情况越合理越好。
5. 支持向量机的学习问题可以形式化为求解凸二次规划问题。这样的凸二次规划问题具有全局最优解，并且有许多最优化算法可以用于这一问题的求解。但是当训练样本容量很大时，这些算法往往变得非常低效，以致无法使用。因此，如何高效地实现支持向量机学习就成为一个重要的问题。目前人们已提出许多快速实现算法，本节讲述其中的序列最小最优化(SMO)算法。
6. 序列最小最优化算法(SMO)可以高效地求解上述SVM问题，它把原始求解N个参数二次规划问题分解成很多个子二次规划问题分别求解，每个子问题只需要求解2个参数，方法类似于坐标上升，节省时间成本和降低了内存需求。每次启发式选择两个变量进行优化，不断循环，直到达到函数最优值。
7. 整个SMO算法包括两部分，求解两个变量的二次规划和选择这两个变量的启发式方法。详情
