97人人操人人叉|色五月婷婷俺也去|久热福利在线视频|国产一区在线资源|日本无遮挡一区三区|操碰免费在线播放|国内A片成人网站|黄片无码大尺度免费看|欧美亚洲一二三区|8090碰人人操

人工神經(jīng)網(wǎng)絡(luò)工作原理

陌上秋草

<h5>劉桓中,2025年8月</h5> AI要盡量模仿大腦,這出自一條基本信念:大腦是長期進(jìn)化的產(chǎn)物,進(jìn)化的本質(zhì)是優(yōu)化,所以大腦的結(jié)構(gòu)和工作方式是高度優(yōu)化的,模仿大腦大概率不會(huì)走彎路。<div><br> 但科學(xué)界對(duì)大腦的認(rèn)知尚不夠深入,人工神經(jīng)網(wǎng)絡(luò)只能大致模仿生物神經(jīng)網(wǎng)絡(luò),很多處理方法是科學(xué)界自定的,可以說是為實(shí)現(xiàn)目標(biāo)的權(quán)宜之計(jì)??囱巯?,這些權(quán)宜之計(jì)還能自洽。比如用簡單的數(shù)學(xué)公式模擬神經(jīng)信號(hào)傳遞,不完美,卻能解決圖像識(shí)別、語言翻譯等問題。因此 AI 才能取得令世人矚目的成就。</div><div><br>許多人對(duì) AI 非常感興趣,卻又感覺這個(gè)門檻太高,不敢踏入。我嘗試把人工神經(jīng)網(wǎng)絡(luò)簡化到極致,介紹其工作原理。希望能以此把門檻大大降低,降到不令人生畏的程度。<br></div><div><br></div> <h1><b>極簡神經(jīng)網(wǎng)絡(luò)實(shí)例</b></h1> 先看一個(gè)極簡神經(jīng)網(wǎng)絡(luò)實(shí)例。它簡化到只有一個(gè)神經(jīng)元,但可以演示神經(jīng)網(wǎng)絡(luò)做決策規(guī)劃的基本方法。<div><br>假設(shè)要根據(jù)天氣來決定是否出門,只考慮氣溫和風(fēng)力兩個(gè)參數(shù)。將兩個(gè)參數(shù)值導(dǎo)入神經(jīng)元,按以下公式整合后得到計(jì)算結(jié)果:</div><div><br><h5><b><i>是否適合出門 = 氣溫 X 權(quán)數(shù)1 + 風(fēng)力 X 權(quán)數(shù)2 + 偏置值</i></b></h5></div><div><br>假如權(quán)數(shù)1 = 0.8,權(quán)數(shù)2 = 0.3,偏置值 = 0.5,此公式可以寫成</div><div><br><h5><b><i>是否適合出門 = 氣溫 X 0.8 + 風(fēng)力 X 0.3 + 0.5</i></b></h5></div> <h5><b>極簡神經(jīng)網(wǎng)絡(luò)實(shí)例</b></h5> 當(dāng)計(jì)算結(jié)果超過某個(gè)設(shè)定閾值后,最終決策是不適合出門。<div><br>從公式中不難看出,兩個(gè)權(quán)數(shù)用來設(shè)定氣溫和風(fēng)力這兩個(gè)參數(shù)的權(quán)重。權(quán)重較大者對(duì)計(jì)算結(jié)果影響也大。如果更看重風(fēng)力的影響,可以減小權(quán)數(shù)1,增大權(quán)數(shù)2。偏置值沒有特別意義,就是用來微調(diào)計(jì)算結(jié)果,使其更適合設(shè)定的閾值。<br></div><div><br></div> <h1><b>動(dòng)態(tài)調(diào)整神經(jīng)網(wǎng)絡(luò)</b></h1> 神經(jīng)網(wǎng)絡(luò)的初始狀態(tài)不一定適合實(shí)際需要。每次導(dǎo)入?yún)?shù)完成計(jì)算后,系統(tǒng)會(huì)自動(dòng)核查。如果發(fā)現(xiàn)問題,系統(tǒng)將自動(dòng)調(diào)整權(quán)數(shù)1、權(quán)數(shù)2和偏置值。前面的計(jì)算過程稱為前向傳播,后面的核查過程稱為反向傳播。<div><br>反向傳播并不傳播數(shù)據(jù),只是從后向前一步步核查,找到問題的根源。如同會(huì)計(jì)賬目發(fā)現(xiàn)問題,會(huì)從總賬到明細(xì)賬再到記賬憑證,按此路徑反向核查。反向核查會(huì)很快發(fā)現(xiàn)問題根源。</div><div><br>神經(jīng)網(wǎng)絡(luò)的反向傳播就是一個(gè)自學(xué)習(xí)過程。神經(jīng)網(wǎng)絡(luò)是通過海量數(shù)據(jù)的訓(xùn)練一步步建成的。訓(xùn)練之初,很多設(shè)定值都是暫定值,有些就是隨機(jī)設(shè)定的。</div><div><br>訓(xùn)練神經(jīng)網(wǎng)絡(luò)之前,開發(fā)者會(huì)把海量數(shù)據(jù)分成許多批次,每次前向傳播用一個(gè)批次。前向傳播完成后自動(dòng)開啟反向傳播,對(duì)設(shè)定數(shù)值做調(diào)整,然后用下一批次數(shù)據(jù)開始新循環(huán)。經(jīng)過多次循環(huán),反復(fù)調(diào)整,設(shè)定數(shù)值一步步趨向合理,整個(gè)神經(jīng)網(wǎng)絡(luò)也隨之走向成熟。<br></div><div><br></div> <h1><b>擴(kuò)展的極簡神經(jīng)網(wǎng)絡(luò)</b></h1> 再看一個(gè)稍微復(fù)雜些的實(shí)例。假定上面的例子增加一個(gè)輸入?yún)?shù),共有三個(gè)參數(shù):氣溫、風(fēng)力和降雨概率,情況要復(fù)雜些。為判斷是否出門,更需要綜合權(quán)衡。為此引入了一個(gè)中間層,行話叫做隱藏層。它就是個(gè)預(yù)處理器,先做一番計(jì)算,然后把計(jì)算結(jié)果交給輸出層去整合。 <h5><b>增加隱藏層的極簡神經(jīng)網(wǎng)絡(luò)</b></h5> 輸入層就像個(gè)分流電路,它將輸入?yún)?shù)值分別送到隱藏層的相關(guān)神經(jīng)元。例如,隱藏層的三個(gè)神經(jīng)元可分別按下述不同公式運(yùn)算:<div><br><h5><i><b> 結(jié)果1 = 氣溫 X 0.8 + 風(fēng)力 X 0.5 + 降雨概率 X 0.1 + 偏置值1<br></b><b>結(jié)果2 = 氣溫 X 0.1 + 風(fēng)力 X 0.8 + 降雨概率 X 0.6 + 偏置值2<br></b><b>結(jié)果3 = 氣溫 X 0.7 + 風(fēng)力 X 0.1 + 降雨概率 X 0.8 + 偏置值3</b></i></h5><br></div><div>稍微留意下公式中的權(quán)數(shù),不難發(fā)現(xiàn),三個(gè)神經(jīng)元的側(cè)重點(diǎn)不同。第一個(gè)側(cè)重氣溫和風(fēng)力,第二個(gè)側(cè)重風(fēng)力和降雨,第三個(gè)側(cè)重氣溫和降雨。把各自計(jì)算結(jié)果交給輸出層去處理。輸出層也有自己的考慮,例如,輸出層可按以下公式計(jì)算:</div><div><br><h5><b><i> 最終結(jié)果 = 結(jié)果1 X 0.7 + 結(jié)果2 X 0.5 + 結(jié)果3 X 0.3 + 偏置值 </i></b></h5><br></div><div>隱藏層也可以簡化下,只用兩個(gè)神經(jīng)元計(jì)算,留一個(gè)神經(jīng)元備用。這樣就增加了系統(tǒng)的彈性。如果輸入層有更多參數(shù)進(jìn)來,備用神經(jīng)元就能派上用場(chǎng),無需大幅改變系統(tǒng)結(jié)構(gòu)。<br></div><div><br></div> <h1><b>真正的大腦神經(jīng)網(wǎng)絡(luò)如何工作?</b></h1> 以上只是人工神經(jīng)網(wǎng)絡(luò)的極簡版,所處理的也不過是一個(gè)簡單決策。不難想到,若是處理復(fù)雜問題,勢(shì)必會(huì)涉及大量數(shù)學(xué)運(yùn)算。大腦神經(jīng)網(wǎng)絡(luò)也是這樣工作嗎?<div><br>自然界的產(chǎn)物看上去非常復(fù)雜,生命就是個(gè)例子。然而這只是假象,世界的復(fù)雜是由于我們尚無足夠認(rèn)知。一旦看透一件事,它會(huì)變得簡單明了。自然界的復(fù)雜現(xiàn)象追到底往往包含簡單的底層機(jī)理。生命的底層機(jī)理就是DNA(脫氧核糖核酸)。一旦DNA編碼被破譯,復(fù)雜的生命結(jié)構(gòu)和生命形式將大白天下,看上去十分簡單。<br></div> <h5><b>大腦神經(jīng)網(wǎng)絡(luò)的工作方式</b></h5> 大腦神經(jīng)網(wǎng)絡(luò)也是這樣,它本質(zhì)上就是神經(jīng)元相互連接組成的網(wǎng)絡(luò),一切概念一切思維均由神經(jīng)元的連接構(gòu)成?!疤鞖鉄帷边@個(gè)抽象概念是由若干具體概念共同形成,如“烈日當(dāng)空”、“汗流浹背”和攝氏30度以上。這些概念相互關(guān)聯(lián),便構(gòu)成了“天氣熱”概念。<div><br>“不宜出門”在大腦中是另外一個(gè)概念。生活經(jīng)歷會(huì)將“天氣熱”和“不宜出門”相關(guān)聯(lián),多次經(jīng)歷會(huì)使二者形成強(qiáng)連接,在大腦中成為強(qiáng)化記憶,也就是常說的“經(jīng)驗(yàn)”。有了這種強(qiáng)連接,只要出現(xiàn)“天氣熱“這種前提條件,立即會(huì)激活”不宜出門“這種反應(yīng)。<br></div><div><br></div> <h1><b>人工神經(jīng)網(wǎng)絡(luò)把事情搞復(fù)雜了</b></h1> 人工神經(jīng)網(wǎng)絡(luò)要依托價(jià)格昂貴的硬件系統(tǒng),還要像大型制造業(yè)那樣吞吃電力。比起人的大腦來,實(shí)在是太落后了。人工系統(tǒng)唯一優(yōu)勢(shì)就是計(jì)算速度。利用這一點(diǎn),可以設(shè)計(jì)出精巧的計(jì)算機(jī)算法,利用較少算力資源實(shí)現(xiàn)強(qiáng)大功能。人工神經(jīng)網(wǎng)絡(luò)包含很多人為設(shè)計(jì)成分,其結(jié)構(gòu)和工作程序都比大腦神經(jīng)網(wǎng)絡(luò)復(fù)雜得多。<div><br>這些人為設(shè)計(jì)只是權(quán)宜之計(jì)。本來那些硬件只能搞出猿猴智能,非得搞成人的大腦,不得不這樣做??撮L遠(yuǎn),從微觀層面仿真人的大腦是一條更有前途的路徑。</div><div><br>隨著微電子技術(shù)的進(jìn)步,已有研究者利用類腦計(jì)算機(jī)在做這件事(關(guān)于類腦計(jì)算機(jī),可參閱我另一篇文章:<a href="http://www.h-ceramic.com.cn/5fjk9qv1?share_depth=1" target="_blank" class="link"><i class="iconfont icon-iconfontlink"> </i>《人造大腦正向我們走來》</a>)。不難預(yù)測(cè),AI 的生成和運(yùn)行機(jī)制會(huì)越來越像人的大腦,加上 其速度優(yōu)勢(shì)和網(wǎng)絡(luò)協(xié)同優(yōu)勢(shì),AI 全面超越人類大腦已為期不遠(yuǎn)。<br></div>