新智元編譯 來源:kdnuggets 作者:James Le 翻譯:序媛 新智元啟動(dòng)新一輪大招聘:COO、執(zhí)行總編、主編、高級(jí)編譯、主筆、運(yùn)營總監(jiān)、客戶經(jīng)理、咨詢總監(jiān)、行政助理等 9 大崗位全面開放。 簡歷投遞:jobs@aiera.com.cn HR 微信:13552313024 新智元為COO和執(zhí)行總編提供最高超百萬的年薪激勵(lì);為骨干員工提供最完整的培訓(xùn)體系、高于業(yè)界平均水平的工資和獎(jiǎng)金。 加盟新智元,與人工智能業(yè)界領(lǐng)袖攜手改變世界。 【新智元導(dǎo)讀】 機(jī)器學(xué)習(xí)領(lǐng)域都有哪些常用算法?本文帶來盤點(diǎn)。 毫無疑問,過去兩年中,機(jī)器學(xué)習(xí)和人工智能的普及度得到了大幅提升。 如果你想學(xué)習(xí)機(jī)器算法,要從何下手呢?以我為例,我是在哥本哈根留學(xué)期間,學(xué)習(xí)AI課程入門的。我們用的教科書是一本AI經(jīng)典:《Peter Norvig’s Artificial Intelligence — A Modern Approach》。最近我在繼續(xù)學(xué)習(xí)這些,包括在舊金山聽了幾個(gè)關(guān)于深度學(xué)習(xí)的技術(shù)演講,參加機(jī)器學(xué)習(xí)大會(huì)上。六月份,我注冊(cè)了Udacity的Intro to Machine Learning的在線課程,近期已經(jīng)完成了。這篇文章,我想分享一些我所學(xué)到的、最常見的機(jī)器學(xué)習(xí)算法。 我從這個(gè)課程中學(xué)到了很多,并決定繼續(xù)學(xué)習(xí)這一專業(yè)內(nèi)容。不久前,我在舊金山聽了幾個(gè)關(guān)于深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)、數(shù)據(jù)架構(gòu)方面的技術(shù)演講,包括在一個(gè)機(jī)器學(xué)習(xí)大會(huì)上和很多領(lǐng)域知名專家一起。最重要的是,我六月份注冊(cè)了Udacity 的機(jī)器學(xué)習(xí)入門的在線課程,近期已經(jīng)完成了。這篇文章,我想分享一些我所學(xué)到的、最常見的機(jī)器學(xué)習(xí)算法。 機(jī)器學(xué)習(xí)算法可以分為三個(gè)大類——有監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)。
由于我上的是入門課程,我并沒有學(xué)習(xí)強(qiáng)化學(xué)習(xí),但是下面10個(gè)有監(jiān)督和無監(jiān)督學(xué)習(xí)算法已經(jīng)足以讓你對(duì)機(jī)器學(xué)習(xí)產(chǎn)生興趣。 監(jiān)督學(xué)習(xí) 1.決策樹 (Decision Trees) 決策樹是一個(gè)決策支持工具,它用樹形的圖或者模型表示決策及其可能的后果,包括隨機(jī)事件的影響、資源消耗、以及用途。請(qǐng)看下圖,隨意感受一下決策樹長這樣的:
從商業(yè)角度看,決策樹就是用最少的Yes/No問題,盡可能地做出一個(gè)正確的決策。它讓我們通過一種結(jié)構(gòu)化、系統(tǒng)化的方式解決問題,得到一個(gè)有邏輯的結(jié)論。 2.樸素貝葉斯分類(Naive Bayes Classification) 樸素貝葉斯分類器是一類簡單概率分類器,它基于把貝葉斯定理運(yùn)用在特征之間關(guān)系的強(qiáng)獨(dú)立性假設(shè)上。下圖是貝葉斯公式——P(A|B)表示后驗(yàn)概率,P(B|A)表示似然度,P(A)表示類別的先驗(yàn)概率(class prior probability),P(B)表示做出預(yù)測(cè)的先驗(yàn)概率(predictor prior probability)。
現(xiàn)實(shí)生活中的應(yīng)用例子:
3.普通最小二乘回歸(Ordinary Least Squares Regression)
如果你學(xué)過統(tǒng)計(jì)學(xué),你可能聽過線性回歸。至少最小二乘是一種進(jìn)行線性回歸的方法。你可以認(rèn)為線性回歸就是讓一條直線用最適合的姿勢(shì)穿過一組點(diǎn)。有很多方法可以這樣做,普通最小二乘法就像這樣——你可以畫一條線,測(cè)量每個(gè)點(diǎn)到這條線的距離,然后加起來。最好的線應(yīng)該是所有距離加起來最小的那根。 線性法表示你去建模線性模型,而最小二乘法可以最小化該線性模型的誤差。 4.邏輯回歸(Logistic Regression)
邏輯回歸是一種非常強(qiáng)大的統(tǒng)計(jì)方法,可以把有一個(gè)或者多個(gè)解釋變量的數(shù)據(jù),建立為二項(xiàng)式類型的模型,通過用累積邏輯分布的邏輯函數(shù)估計(jì)概率,測(cè)量分類因變量和一個(gè)或多個(gè)獨(dú)立變量之間的關(guān)系。 通常,回歸在現(xiàn)實(shí)生活中的用途如下:
5.支持向量機(jī)(Support Vector Machines)
SVM是一種二分算法。假設(shè)在N維空間,有一組點(diǎn),包含兩種類型,SVM生成a(N-1) 維的超平面,把這些點(diǎn)分成兩組。比如你有一些點(diǎn)在紙上面,這些點(diǎn)是線性分離的。SVM會(huì)找到一個(gè)直線,把這些點(diǎn)分成兩類,并且會(huì)盡可能遠(yuǎn)離這些點(diǎn)。 從規(guī)??磥?,SVM(包括適當(dāng)調(diào)整過的)解決的一些特大的問題有:廣告、人類基因剪接位點(diǎn)識(shí)別、基于圖片的性別檢測(cè)、大規(guī)模圖片分類… 6.集成方法(Ensemble Methods)
集成方法吸納了很多算法,構(gòu)建一個(gè)分類器集合,然后給它們的預(yù)測(cè)帶權(quán)重的進(jìn)行投票,從而進(jìn)行分類。最初的集成方法是貝葉斯平均法(Bayesian averaging),但是最近的算法集還包括了糾錯(cuò)輸出編碼(error-correcting output coding) ,bagging和boosting 那么集成方法如何工作的?為什么它們比單獨(dú)的模型更好?
無監(jiān)督學(xué)習(xí) 7. 聚類算法(Clustering Algorithms)
聚類就是把一組對(duì)象分組化的任務(wù),使得在同一組的對(duì)象比起其它組的對(duì)象,它們彼此更加相似。 每種聚類算法都不同,下面是其中一些:
8.主成分分析(Principal Component Analysis)
PCA是一種統(tǒng)計(jì)過程,它通過正交變換把一組可能相關(guān)聯(lián)的變量觀察,轉(zhuǎn)換成一組線性非相關(guān)的變量的值,這些非相關(guān)的變量就是主成分。 PCA的應(yīng)用包括壓縮、簡化數(shù)據(jù)使之易于學(xué)習(xí),可視化。需要注意的是,當(dāng)決定是否用PCA的時(shí)候,領(lǐng)域知識(shí)特別重要。它不適用于噪音多的數(shù)據(jù)(所有成分的方差要很高才行) 9.奇異值分解(Singular Value Decomposition)
線性代數(shù)中,SVD是對(duì)一個(gè)特別復(fù)雜的矩陣做因式分解。比如一個(gè)m*n的矩陣M,存在一個(gè)分解如M = UΣV,其中U和V是酉矩陣,Σ是一個(gè)對(duì)角矩陣。 PCA其實(shí)是種簡單的SVD。在計(jì)算機(jī)圖形領(lǐng)域,第一個(gè)臉部識(shí)別算法就用了PCA和SVD,用特征臉(eigenfaces)的線性結(jié)合表達(dá)臉部圖像,然后降維,用簡單的方法把臉部和人匹配起來。盡管如今的方法更加復(fù)雜,依然有很多是依靠類似這樣的技術(shù)。 10.獨(dú)立成分分析(Independent Component Analysis)
ICA 是一種統(tǒng)計(jì)技術(shù)。它發(fā)掘隨機(jī)變量、測(cè)量數(shù)據(jù)或者信號(hào)的集合中隱含的因素。ICA定義了一種通用模型,用于觀測(cè)到的多變量數(shù)據(jù),通常是一個(gè)巨大的樣本數(shù)據(jù)庫。在這一模型中,假設(shè)數(shù)據(jù)變量是一些未知的、潛在的變量的線性組合,而組合方式也是未知的。同時(shí)假設(shè),潛在的變量是非高斯分布且相互獨(dú)立的,我們稱之為觀測(cè)數(shù)據(jù)的獨(dú)立成分(Independent components)。 ICA與PCA有一定關(guān)聯(lián),但是一種更加有用的技術(shù),在經(jīng)典方法完全失效的時(shí)候,可以發(fā)現(xiàn)數(shù)據(jù)源中的潛在因素。它的應(yīng)用包括數(shù)字圖片,文件數(shù)據(jù)庫,經(jīng)濟(jì)指數(shù)和心理測(cè)量。 現(xiàn)在可以開始用你對(duì)這些算法的理解,去創(chuàng)建機(jī)器學(xué)習(xí)應(yīng)用,給大家?guī)砀玫捏w驗(yàn)。 原文鏈接: http://www./2016/08/10-algorithms-machine-learning-engineers.html 相關(guān)資料鏈接: Peter Norvig’s Artificial Intelligence — A Modern Approach Intro to Machine Learning: https://www./course/intro-to-machine-learning--ud120 責(zé)編:XJ 新智元招聘 職位 運(yùn)營總監(jiān) 職位年薪:36- 50萬(工資+獎(jiǎng)金) 工作地點(diǎn):北京-海淀區(qū) 所屬部門:運(yùn)營部 匯報(bào)對(duì)象:COO 下屬人數(shù):2人 年齡要求:25 歲 至 35 歲 性別要求:不限 工作年限:3 年以上 語 言:英語6級(jí)(海外留學(xué)背景優(yōu)先) 職位描述
崗位要求
新智元?dú)g迎有志之士前來面試,更多招聘崗位請(qǐng)?jiān)L問新智元公眾號(hào)。 |
|