Activate Learning

在主动学习中，算法从一组未标注的数据点中选择信息量最大的点，比如具有高信息增益的点或模型在其上具有不确定性的点，然后再进行人工标注。这种方法的好处是，所需的数据数量比标准的监督学习所需的数据量要少得多。

简单来说, 主动学习的思路就是选择一批容易被错分的样本数据，让人工进行标注，再让机器学习模型训练的过程。

从二进制分类的例子中，我们可以很容易地理解和可视化为什么我们只选择几个特定的数据样本进行标记。

在上图中，(a) 表示一个未标记数据集的大型池。现在如果我们随机选择一些样本进行标记和训练，算法将预测决策边界，如（b）所示。现在，如果我们采用主动学习采样策略来选择用于标记和训练的数据样本，那么主动学习算法将只选择最接近实际决策边界的数据样本，而忽略不相关的数据样本，如 © 所示。

在机器学习的建模过程中，通常包括样本选择，模型训练，模型预测，模型更新这几个步骤。在主动学习这个领域则需要把标注候选集提取和人工标注这两个步骤加入整体流程，也就是：

1. 机器学习模型：包括机器学习模型的训练和预测两部分；
2. 待标注的数据候选集提取：依赖主动学习中的查询函数（Query Function）；
3. 人工标注：专家经验或者业务经验的提炼；
4. 获得候选集的标注数据：获得更有价值的样本数据；
5. 机器学习模型的更新：通过增量学习或者重新学习的方式更新模型，从而将人工标注的数据融入机器学习模型中，提升模型效果。

通过这种循环往复的方法，就可以达到人工调优模型的结果。

Active Learning Scenarios

1. Membership Query Synthesis: In this, the active learning algorithm generates a new unlabeled instance within the input space and queries the oracle for labeling.
2. Stream-based Selective Sampling: In stream-based selective sampling, the unlabeled data sample is continuously being sent from the data source to the active learner. The active learner has to decide whether to ask the oracle to label the current data sample or not based on a query strategy. The distribution of the data coming from the data source may change over time.
3. Pool-based Sampling: In this scenario, the data samples are chosen for labeling by the oracle from the pool of unlabeled data samples. In contrast to stream-based selective sampling, we can focus on more than one data sample at a time. Most informative data samples are selected from the pool of unlabeled data samples based on some sampling strategies or informativeness measure. This is the most common learning situation for active learning algorithms.

Query Strategy Frameworks