predelayer 深度學(xué)習(xí)是什么意思?
深度學(xué)習(xí)是什么意思?深度學(xué)習(xí)是近幾年來(lái)隨著信息社會(huì)發(fā)展、學(xué)習(xí)科學(xué)發(fā)展及課程改革向縱身推進(jìn)而出現(xiàn)的一種新的學(xué)習(xí)樣態(tài)和形式。關(guān)于深度學(xué)習(xí)的概念解釋?zhuān)壳坝卸喾N答案,不少專(zhuān)家學(xué)者都作出了本質(zhì)含義一致到表述略
深度學(xué)習(xí)是什么意思?
深度學(xué)習(xí)是近幾年來(lái)隨著信息社會(huì)發(fā)展、學(xué)習(xí)科學(xué)發(fā)展及課程改革向縱身推進(jìn)而出現(xiàn)的一種新的學(xué)習(xí)樣態(tài)和形式。
關(guān)于深度學(xué)習(xí)的概念解釋?zhuān)壳坝卸喾N答案,不少專(zhuān)家學(xué)者都作出了本質(zhì)含義一致到表述略有不同的解釋。
黎加厚教授認(rèn)為,深度學(xué)習(xí)是在理解的基礎(chǔ)上,學(xué)習(xí)者能夠批判地學(xué)習(xí)新思想和事實(shí),并將它融入原有的認(rèn)知結(jié)構(gòu)中,能夠在眾多思想間進(jìn)行聯(lián)系,并能夠?qū)⒁延兄R(shí)遷移到新的情境中,做出決策和解決問(wèn)題的學(xué)習(xí)。
郭華教授認(rèn)為,深度學(xué)習(xí)是在教師的引領(lǐng)下,學(xué)生圍繞具有挑戰(zhàn)性的學(xué)習(xí)主題,全身心地積極參與、體驗(yàn)成功、獲得發(fā)展的有意義的學(xué)習(xí)過(guò)程,并具有批判理解、有機(jī)整合、建構(gòu)反思與遷移應(yīng)用的特征。
深度學(xué)習(xí)具有幾個(gè)特質(zhì)。一是觸及人的心靈深處的學(xué)習(xí)。二是體驗(yàn)式學(xué)習(xí)。三是深刻理解與實(shí)踐創(chuàng)新的學(xué)習(xí)。
深度學(xué)習(xí)是培養(yǎng)學(xué)生學(xué)科素養(yǎng)、創(chuàng)新能力,提高學(xué)生學(xué)習(xí)質(zhì)量效果、促進(jìn)教學(xué)改革的新的學(xué)習(xí)型態(tài),也是目前教學(xué)改革所追求的目標(biāo)與境界之一。
深度學(xué)習(xí)和普通的機(jī)器學(xué)習(xí)有什么區(qū)別?
放張圖可以看出關(guān)系。機(jī)器學(xué)習(xí)是人工智能的重要區(qū)域之一,深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的分流之一。深度學(xué)習(xí)在前幾年迅速躥紅的原因是突破了一些傳統(tǒng)機(jī)器學(xué)習(xí)解決不了的問(wèn)題。
機(jī)器學(xué)習(xí)的意義在于代替人力完成重復(fù)的工作,識(shí)別出統(tǒng)一的規(guī)律(模式)。但對(duì)于傳統(tǒng)的機(jī)器學(xué)習(xí)來(lái)說(shuō),特征的提取難度并不?。ㄌ卣骺梢允窍袼亍⑽恢?、方向等等)。特征的準(zhǔn)確度會(huì)很大程度決定大多數(shù)機(jī)器學(xué)習(xí)算法的性能,為了使特征準(zhǔn)確,將涉及到大量的人力投入特征工程的部分,來(lái)對(duì)特征進(jìn)行調(diào)整改善。而這一系列工作的完成,是在數(shù)據(jù)集所含有的信息量足夠并且易于識(shí)別這一前提下的,如果這一前提沒(méi)有滿(mǎn)足,傳統(tǒng)機(jī)器學(xué)習(xí)算法會(huì)在雜亂的信息中喪失性能。深度學(xué)習(xí)的應(yīng)用便是基于這一問(wèn)題產(chǎn)生的,它的深層神經(jīng)網(wǎng)絡(luò)讓它可以在雜亂中學(xué)習(xí),自動(dòng)發(fā)現(xiàn)任務(wù)所聯(lián)系的特征(可以把它看成自發(fā)地學(xué)習(xí)特征工程),提取高層次的特征,因而大大減少了任務(wù)中在特征工程部份所要耗費(fèi)的時(shí)間。
另一明顯的不同之處是二者對(duì)數(shù)據(jù)集大小的偏好。傳統(tǒng)的機(jī)器學(xué)習(xí)在制定完善的規(guī)則下,在處理較小規(guī)模的數(shù)據(jù)時(shí),會(huì)展示出很好的性能,深度學(xué)習(xí)反而表現(xiàn)不佳;隨著數(shù)據(jù)集的規(guī)模不斷變大,深度學(xué)習(xí)的性能才會(huì)逐漸展現(xiàn)出來(lái),并且越來(lái)越優(yōu)良,對(duì)比可見(jiàn)下圖。
是否存在通用的神經(jīng)網(wǎng)絡(luò)模型,可以處理圖像,語(yǔ)音以及NLP?
對(duì)于目前的深度學(xué)習(xí)模型來(lái)說(shuō),盡管深度學(xué)習(xí)的一個(gè)目標(biāo)是設(shè)計(jì)能夠處理各種任務(wù)的算法,然而截至目前深度學(xué)習(xí)的應(yīng)用仍然需要一定程度的特化,還沒(méi)有通用的神經(jīng)網(wǎng)絡(luò)處理模型。不過(guò)各個(gè)模型也在互相借鑒,彼此融合,共同提高,象有些創(chuàng)新能同時(shí)改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)和循環(huán)神經(jīng)網(wǎng)絡(luò),比如批標(biāo)準(zhǔn)化與注意力等。通用的模型還有待未來(lái)研究提出。
圖像和視頻處理,計(jì)算機(jī)視覺(jué),目前最流行的是cnn,即卷積神經(jīng)網(wǎng)絡(luò),及其變形和發(fā)展,cnn適合處理空間數(shù)據(jù),在計(jì)算機(jī)視覺(jué)領(lǐng)域應(yīng)用廣泛。象陸續(xù)出現(xiàn)的AlexNet,VGGNet,GoogLeNet,ResNet等都很有特色。以上幾種模型是圖像分類(lèi)識(shí)別使用的。象圖像分割,目標(biāo)檢測(cè)等還有更多針對(duì)性模型提出和得到廣泛應(yīng)用。
語(yǔ)音處理,2012 年前,最先進(jìn)的語(yǔ)音識(shí)別系統(tǒng)是隱馬爾可夫模型(HMM) 和高斯混合模型(GMM) 的結(jié)合。目前最流行的是深度學(xué)習(xí)的RNN循環(huán)神經(jīng)網(wǎng)絡(luò),及其發(fā)展長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)LSTM,以及GRU,雙向RNN,分層RNN等。
自然語(yǔ)言處理,除了傳統(tǒng)方法,目前深度學(xué)習(xí)用于自然語(yǔ)言處理的模型經(jīng)歷了基于CNN的模型,基于RNN的模型,基于Attention機(jī)制的模型,基于Transformer的模型等幾個(gè)發(fā)展階段。NLP有很多模型和方法,不同的任務(wù)場(chǎng)景有不同的模型和策略來(lái)解決某些問(wèn)題。