机器学习 学习笔记
一 introduce
(1) Supervised learning 监督学习
例子1:Hosing Price Predict 回归预测问题 例子2:breat cancer 分类问题 下面是一道题,我们会把价格预测作为回归问题,把顾客是否被入侵作为分类问题。 他们都属于监督学习
(2) Unsupervised learning 非监督学习
监督学习与非监督学习的区别: 比如我们还是来做分类问题: 对于监督学习来说,我们的数据已经指明了那些数据是一类数据,而其他的是另一类。 但是对于非监督学习来说,数据中并没有指明类别。 所以对于监督学习来说他就是去找一个好的方法能够区分不同的类别。 对于非监督学习来说,他需要去试图寻找出某种数据的特征或结构。这种算法成为聚类算法。
鸡尾酒宴会问题: 会议上有两个人,两个麦克风,然后由于两个人的不同位置,所以输入到两个麦克风的声音大小不相同,但是声音是重叠在一起的。 使用非监督学习,我们可以清晰的分离出两个人的声音,并且我们实现不用知道有关这两个人的声音的任何信息。 非监督学习可以自己寻找特征,并使用。 下面就是鸡尾酒宴会的算法,十分简单。
二 Model Representation 模型表示
2.1 一些关于模型的定义说明。
在机器学习中常常使用h来表示那个功能,模型函数。hypothesis(假设),不用在意为什么叫这个。
2.2 cost function 代价函数
h = w0+w1*x 我们最终的目的是确定一个较好的权重,或参数parameters,使得我们的假设函数h,更加准确有效。 希望(h-y)^2可以比较小 代价误差函数(平方误差函数)
2.2.1 代价函数的一些例子
简化的代价函数