《《機器學習》課程教學大綱》由會員分享,可在線閱讀,更多相關《《機器學習》課程教學大綱(2頁珍藏版)》請在裝配圖網(wǎng)上搜索。
1、
《機器學習 》課程教學大綱
課程中文名稱:機器學習
課程英文名稱: Machine Learning
適用專業(yè): 計算機應用技術,管理科學與工程
總學時: 36
(講課:
28 ,實驗: 8
)
學分: 2
大綱撰寫人:
大綱審核人:
編寫日期:
一、 課程性質及教學目的:
本課程是面向計算機與信息工程學院研究生開設的專業(yè)基礎課。 其教學重點是使學生掌
握常見機器學習算法, 包括算法的主要思想和基本步驟, 并通過編程練習和典型應用實例加
深了解
2、;同時對機器學習的一般理論,如假設空間、采樣理論、計算學習理論,以及無監(jiān)督
學習和強化學習有所了解。
二、對選課學生的要求:
要求選課學生事先受過基本編程訓練,熟悉 C/C++ 或 Matlab 編程語言,具有多元微積
分、高等代數(shù)和概率統(tǒng)計方面基本知識。
三、課程教學內容和要求 ( 200 字左右的概述, 然后給出各 “章”“節(jié)” 目錄及內容簡介 )
1. 決策論與信息論基礎:
a) 損失函數(shù)、錯分率的最小化、期望損失的最小化等
b) 相對熵、互信息
2. 概率分布:
a) 高斯分布、混合高斯分布、 Dirich
3、let 分布、 beta 分布等
b) 指數(shù)分布族:最大似然估計、充分統(tǒng)計量、共軛先驗、無信息先驗等
c) 非參數(shù)方法:核密度估計、近鄰法
3. 回歸的線性模型:
a) 線性基函數(shù)模型
b) 貝葉斯線性回歸
c) 貝葉斯模型比較
4. 分類的線性模型:
a) 判別函數(shù):二分類和多分類的 Fisher 線性判別
b) 概率生成模型:連續(xù)輸入、離散特征
5. 核方法:
a) 對偶表示
b) 構造核函數(shù)
c) 徑向基函數(shù)網(wǎng)絡: Nadaraya-Watson 模型
d) 高斯過程:高斯過程模
4、型用于回歸和分類、 Laplace 逼近、與神經(jīng)網(wǎng)絡的聯(lián)系
6. 支持向量機:
a) 最大邊緣分類器:歷史回顧
b) 用于多分類和回歸的支持向量機:幾何背景、各種變種
c) 統(tǒng)計學習理論簡介: Vapnik 等人的工作
7. 圖模型:
a) 貝葉斯網(wǎng)絡
b) Markov 隨機場:條件獨立、因子分解
c) 圖模型中的推斷
8. 混合模型和期望最大化( Expectation Maximization , EM)算法( 3 學時):
a) 高斯混合模型的參數(shù)估計:最大似然估計、 EM 算法
b) EM 一般算法及其應用:
5、貝葉斯線性回歸
9. 隱 Markov 模型和條件隨機場模型( 3 學時):
a) 隱 Markov 模型:向前 -向后算法、 Viterbi 算法、 Baum-Welch 算法等
b) 條件隨機場及其應用
四、 課程教學環(huán)節(jié)的學時安排和基本要求
1. 決策論與信息論基礎( 2 學時):了解并掌握統(tǒng)計決策理論和信息論的基礎知識。
2. 概率分布( 3 學時):熟悉常見的分布,熟練掌握最大似然估計方法,學會利用無信息先驗和共軛先驗簡化計算,了解一些常用的非參數(shù)方法。
3. 回歸的線性模型( 3 學時):掌握線性回歸的一般方法,學會使用
6、 R 中有關回歸的程序
包,并能將之用于解決實際問題。
4. 分類的線性模型( 3 學時):對分類問題有一個全面的了解,掌握一些常用的分類方法。
5. 核方法( 3 學時):了解核方法的最新進展,熟練掌握核函數(shù)參數(shù)估計的常用方法。
6. 支持向量機 ( 4 學時):掌握支持向量機的基本原理, 面對各自研究領域中的具體問題學
會使用支持向量機,粗略了解統(tǒng)計學習理論。
7. 圖模型( 4 學時):從建模到算法實現(xiàn)。
8. 混合模型和期望最大化( Expectation Maximization , EM )算法( 3 學時):掌握 EM 算
7、
法的基本理論,學會使用 EM 算法。
9. 隱 Markov 模型和條件隨機場模型( 3 學時):掌握隱 Markov 模型的幾個經(jīng)典算法,學會利用隱 Markov 模型和條件隨機場模型解決具體問題,如自然語言處理中的詞性標注
等。
五、教材及參考文獻:
1. Bishop, C. M. (2006) Pattern Recognition and Machine Learning, Spring Science + Business Media, LLC
2. Mitchell, T. M. (1997) Machine Learning, The McGraw-Hill Companies, Inc.
六、必要的說明