Different Output Space
二分类问题
PLA A takes linear separable D and perceptrons H to get hypothesis g to approximate f. 做出各种不同的线，用PLA算法去找到最好的线。
多分类问题
回归问题
结构学习
y = structures. 好像一个很大的多分类问题。 从数据中学习潜在的结构。 比如自然语言处理中，每个单词的词性组合很复杂几乎无穷，但是其中肯定是有某些结构的，你总不可能连续5个动词吧。
总结
Different Data Label
监督学习
非监督学习
非监督式，目标比较分散，也很难评估演算法的好坏。
semi-supervised
reinforcement learning
通过惩罚或者奖励促使学习。
总结
DIfferent protocal
batch learning
online learning
active learning
前两种方式都是被动学习，是否可以让机器问问题，主动学习。
例如：我有这个输入，输出是多少。 手写识别中，生成一个字，那么到底是什么呢？
有点像online一轮一轮问，如果有技巧问，那么可能通过很少的问问题就可以解决问题。
通常用在标资料很贵的场合 与semi-supervised learning相像。
总结
Different Input Space
concrete features
把人类的专业知识喂给机器。
raw features
越抽象对机器越困难。
人如果帮机器做，叫做feature engineering
机器自己做，有deep learning
abstract features
需要抽取个人还有歌曲的特征，特征人想的或者机器学到的。
总结
总结
