99热精品69堂国产-97超级碰在线精品视频-日韩欧美中文字幕在线视频-欧美日韩大尺码免费专区-最新国产三级在线不卡视频-在线观看成人免费视频-亚洲欧美国产精品完整版-色综久久天天综合绕视看-中文字幕免费在线看线人-久久国产精品99精品国产

注意力機(jī)制在深度學(xué)習(xí)中的研究進(jìn)展

作者:朱張莉; 饒?jiān)? 吳淵; 祁江楠; 張鈺 西安交通大學(xué)軟件學(xué)院社會(huì)智能與復(fù)雜數(shù)據(jù)處理實(shí)驗(yàn)室; 陜西西安710049; 陜西師范大學(xué)計(jì)算機(jī)科學(xué)學(xué)院; 陜西西安710119

摘要:注意力機(jī)制逐漸成為目前深度學(xué)習(xí)領(lǐng)域的主流方法和研究熱點(diǎn)之一,它通過(guò)改進(jìn)源語(yǔ)言表達(dá)方式,在解碼中動(dòng)態(tài)選擇源語(yǔ)言相關(guān)信息,從而極大改善了經(jīng)典Encoder-Decoder框架的不足。該文在提出傳統(tǒng)基于Encoder-Decoder框架中存在的長(zhǎng)程記憶能力有限、序列轉(zhuǎn)化過(guò)程中的相互關(guān)系、模型動(dòng)態(tài)結(jié)構(gòu)輸出質(zhì)量等問(wèn)題的基礎(chǔ)上,描述了注意力機(jī)制的定義和原理,介紹了多種不同的分類(lèi)方式,分析了目前的研究現(xiàn)狀,并敘述了目前注意力機(jī)制在圖像識(shí)別、語(yǔ)音識(shí)別和自然語(yǔ)言處理等重要領(lǐng)域的應(yīng)用情況。同時(shí),進(jìn)一步從多模態(tài)注意力機(jī)制、注意力的評(píng)價(jià)機(jī)制、模型的可解釋性及注意力與新模型的融合等方面進(jìn)行了探討,從而為注意力機(jī)制在深度學(xué)習(xí)中的應(yīng)用提供新的研究線索與方向。

注:因版權(quán)方要求,不能公開(kāi)全文,如需全文,請(qǐng)咨詢(xún)雜志社

中文信息學(xué)報(bào)

北大期刊 下單

國(guó)際刊號(hào):1003-0077

國(guó)內(nèi)刊號(hào):11-2325/N

雜志詳情
相關(guān)熱門(mén)期刊

服務(wù)介紹LITERATURE

正規(guī)發(fā)表流程 全程指導(dǎo)

多年專(zhuān)注期刊服務(wù),熟悉發(fā)表政策,投稿全程指導(dǎo)。因?yàn)閷?zhuān)注所以專(zhuān)業(yè)。

保障正刊 雙刊號(hào)

推薦期刊保障正刊,評(píng)職認(rèn)可,企業(yè)資質(zhì)合規(guī)可查。

用戶(hù)信息嚴(yán)格保密

誠(chéng)信服務(wù),簽訂協(xié)議,嚴(yán)格保密用戶(hù)信息,提供正規(guī)票據(jù)。

不成功可退款

如果發(fā)表不成功可退款或轉(zhuǎn)刊。資金受第三方支付寶監(jiān)管,安全放心。