第250章 人工智能项目的探讨
關燈
小
中
大
傳統的神經網絡在訓練過程中,面對多層結構,往往難以有效地調整每一層的參數,緻使網絡難以很好地學習複雜模式。
這種困境一直持續到1986年,随着關于反向傳播的論文發表,情況才會出現轉機。
論文中提出的“反向傳播”算法,為訓練多層神經網絡提供了一種行之有效的途徑。
該算法的核心思路是,通過計算每一層的誤差,并将這些誤差逐層向後傳播,進而調整每一層的權重和偏置,使整個網絡的輸出誤差達到最小化。
此後,神經網絡總算是有了些許希望,吸引了不少人投身研究,被後來者稱為“深度學習三巨頭”的楊立昆就在反向傳播論文發布後,構建了應用于圖像分類的卷積神經網絡,即LeNet的最初版本,并且首次使用了“卷積”一詞,“卷積神經網絡”由此得名。
秦奕作為重生之人,自然知道神經網絡與深度學習雖在當下發展遲緩,但未來必将大放異彩。
可曆景铄并非穿越之人,顯然無法預知未來,所以秦奕很好奇曆景铄選擇這個方向的理由:“曆同學,你為什麼會選擇在神經網絡這個方向進行研究呢?就目前的科研情況來看,它的發展狀況似乎不太樂觀。
” 曆景铄嘿嘿一笑,說道:“發展狀況不樂觀,那都是過去的事情了。
我最近了解到,漂亮國那邊的人工智能學術圈有不少人都研究出類似的反向傳播訓練算法。
據說有了這個算法,神經網絡的訓練會變得簡單可行,所以神經網絡的發展環境馬上就要迎來改變了!” “原來如此,看來你在漂亮國那邊積累了不少學術人脈啊!”秦奕笑着說道,“不過說實話,即便有了便捷的訓練算法,神經網絡本身所能表達的内容,目前還不是很清晰,其發展潛能也不是很明朗啊。
” 其實神經網絡的内容何止是目前不清晰,就算是後來人工智能大放異彩的時候,其可解釋性仍舊是一個相當複雜的問題。
另外就算有了合适的訓練算法,以目前這個硬件環境,神經網絡還是沒法快速發展的。
前世神經網絡在這幾年短暫複蘇了一陣之後,就又一次進入了寒冬,要一直到GPU能夠為深度神經網絡提供足夠的訓練算力之後,神經網絡才會在計算機視覺、自然語言處理、推薦系統等各個應用領域多點開花。
“事情總歸是從不清晰走向清晰的嘛,真相哪能一開始就擺在眼前呢!我覺得從1980年福島邦彥提出的神經認知機模型入手開展研究,是個不錯的選擇。
”曆景铄自信滿滿地回應道。
“很有自信啊!你要是堅持這個研究方向,倒也并非不可。
但我感覺,要是僅僅做理論研究,似乎不太需要資金支持。
你申請理想基金,究竟出于什麼目的呢?”秦奕追問道。
喜歡科技革命,從1984開始請大家收藏:()科技革命,從1984開始
這種困境一直持續到1986年,随着關于反向傳播的論文發表,情況才會出現轉機。
論文中提出的“反向傳播”算法,為訓練多層神經網絡提供了一種行之有效的途徑。
該算法的核心思路是,通過計算每一層的誤差,并将這些誤差逐層向後傳播,進而調整每一層的權重和偏置,使整個網絡的輸出誤差達到最小化。
此後,神經網絡總算是有了些許希望,吸引了不少人投身研究,被後來者稱為“深度學習三巨頭”的楊立昆就在反向傳播論文發布後,構建了應用于圖像分類的卷積神經網絡,即LeNet的最初版本,并且首次使用了“卷積”一詞,“卷積神經網絡”由此得名。
秦奕作為重生之人,自然知道神經網絡與深度學習雖在當下發展遲緩,但未來必将大放異彩。
可曆景铄并非穿越之人,顯然無法預知未來,所以秦奕很好奇曆景铄選擇這個方向的理由:“曆同學,你為什麼會選擇在神經網絡這個方向進行研究呢?就目前的科研情況來看,它的發展狀況似乎不太樂觀。
” 曆景铄嘿嘿一笑,說道:“發展狀況不樂觀,那都是過去的事情了。
我最近了解到,漂亮國那邊的人工智能學術圈有不少人都研究出類似的反向傳播訓練算法。
據說有了這個算法,神經網絡的訓練會變得簡單可行,所以神經網絡的發展環境馬上就要迎來改變了!” “原來如此,看來你在漂亮國那邊積累了不少學術人脈啊!”秦奕笑着說道,“不過說實話,即便有了便捷的訓練算法,神經網絡本身所能表達的内容,目前還不是很清晰,其發展潛能也不是很明朗啊。
” 其實神經網絡的内容何止是目前不清晰,就算是後來人工智能大放異彩的時候,其可解釋性仍舊是一個相當複雜的問題。
另外就算有了合适的訓練算法,以目前這個硬件環境,神經網絡還是沒法快速發展的。
前世神經網絡在這幾年短暫複蘇了一陣之後,就又一次進入了寒冬,要一直到GPU能夠為深度神經網絡提供足夠的訓練算力之後,神經網絡才會在計算機視覺、自然語言處理、推薦系統等各個應用領域多點開花。
“事情總歸是從不清晰走向清晰的嘛,真相哪能一開始就擺在眼前呢!我覺得從1980年福島邦彥提出的神經認知機模型入手開展研究,是個不錯的選擇。
”曆景铄自信滿滿地回應道。
“很有自信啊!你要是堅持這個研究方向,倒也并非不可。
但我感覺,要是僅僅做理論研究,似乎不太需要資金支持。
你申請理想基金,究竟出于什麼目的呢?”秦奕追問道。
喜歡科技革命,從1984開始請大家收藏:()科技革命,從1984開始