意大利的研究人員讓他們的人工智能定期進(jìn)入休眠狀態(tài),以便更好地鞏固所學(xué)內(nèi)容。這是否意味著這些機(jī)器學(xué)習(xí)模型比我們想象中的更像人類?
有時(shí),意大利計(jì)算機(jī)科學(xué)家西蒙·帕拉佐的人工智能會夢見一些奇怪的東西。在夢中,它看到了一輛豹紋卡車和一個(gè)帶有狗頭的玩具車。還有一次,它夢見了一把扶手椅,椅墊上放著一個(gè)裝滿黑啤的巨大啤酒杯。帕拉佐讓他的人工智能系統(tǒng)定期休眠,以此來提升它的性能。
對人類來說,夜間的休息至關(guān)重要。睡眠期間,大腦會在潛意識中鞏固我們睡前幾小時(shí)內(nèi)的記憶和體驗(yàn),整理信息,把關(guān)鍵內(nèi)容遷移到長期記憶庫中,為新的記憶留出空間。雖然夢境可能有助于存儲記憶,但科學(xué)家們?nèi)圆磺宄浯_切功能。
與人類不同,人工智能的人工神經(jīng)網(wǎng)絡(luò)從來不知道疲倦,不需要休息或睡眠。然而,它們的記憶存在令人意想不到的弊端:在學(xué)習(xí)解決新任務(wù)時(shí),它們往往會忘記以前學(xué)過的知識。帕拉佐解釋道:“如果我們訓(xùn)練一個(gè)模型去區(qū)分狗和豹的圖片,然后讓它學(xué)習(xí)識別熊貓和長頸鹿,它可能5c087f131dac8c90a131283e0c0757e9很快就分不清狗和豹了?!边@種現(xiàn)象被專家們稱為“災(zāi)難性遺忘”。
帕拉佐和他的同事康切托·斯帕姆皮納托來自西西里島上的卡塔尼亞大學(xué)。他們致力于開發(fā)用于醫(yī)療的人工智能,訓(xùn)練模型評估牙齒X光片或通過圖像診斷各種皮膚病。對他們的研究來說,災(zāi)難性遺忘是一個(gè)實(shí)際的難題——如果一個(gè)人工智能在學(xué)習(xí)新疾病的同時(shí)遺忘了之前已經(jīng)存儲的疾病信息,就無法為任何人提供幫助。那么,睡眠研究中的知識能否幫助人工智能機(jī)器更高效地學(xué)習(xí)呢?
帕拉佐和斯帕姆皮納托在實(shí)驗(yàn)中模擬了人腦的清醒和睡眠階段。首先,在清醒階段,模型像普通人工智能一樣接受訓(xùn)練:研究人員將鸚鵡、青蛙等的圖片輸入到神經(jīng)網(wǎng)絡(luò),然后模型連接其人工神經(jīng)來識別圖案,并在下次遇到含有鸚鵡或青蛙的圖片時(shí)高度準(zhǔn)確地識別出它們。
第二階段,研究人員通過計(jì)算機(jī)指令讓系統(tǒng)進(jìn)入某種睡眠狀態(tài)——不再給它提供新的圖像來學(xué)習(xí),而只展示它之前已經(jīng)看過的圖像。這種重復(fù)有利于幫助模型回憶記憶中的圖片。帕拉佐說,這樣可以鞏固學(xué)到的知識。
最后,在夢境階段,神經(jīng)網(wǎng)絡(luò)被給予混合的圖片,例如沙發(fā)和啤酒杯或豹子與卡車的組合畫面。帕拉佐希望這樣的做法可以讓系統(tǒng)為即將到來的新記憶作好準(zhǔn)備。他讓神經(jīng)網(wǎng)絡(luò)進(jìn)行長時(shí)間的休眠,其睡眠階段的總時(shí)長約為清醒時(shí)間的50倍。
人類自古以來就想創(chuàng)造出與自己相似的機(jī)器。帕拉佐也主張盡可能還原人腦的功能。然而,在計(jì)算機(jī)科學(xué)中,這種方法存在爭議。英國人工智能專家安德魯·羅戈伊斯基表示,大腦是數(shù)百萬年進(jìn)化的結(jié)果,是性能和能耗之間的一種生物學(xué)妥協(xié),不應(yīng)將人腦作為智能的唯一標(biāo)準(zhǔn)。
美國斯坦福大學(xué)的科學(xué)家們分析了過去15年的研究文章后發(fā)現(xiàn),技術(shù)越來越頻繁地被人性化描述,比如使用“遭受”或“欺騙”等動(dòng)詞。在一篇文章中,邁拉·程等專家警告說,這可能導(dǎo)致人們高估技術(shù)的能力,而低估其風(fēng)險(xiǎn)。
人們可以爭論帕拉佐的人工智能是否真的在睡覺和做夢。正如這位研究者本人承認(rèn)的那樣,他研發(fā)的神經(jīng)網(wǎng)絡(luò)遠(yuǎn)未能像人類那樣學(xué)習(xí)。即使是夢境圖像,也不是他的模型自己創(chuàng)造的——相反,是意大利研究人員在一個(gè)人工智能支持的圖像生成器中生成的。
最近,這個(gè)意大利團(tuán)隊(duì)發(fā)布了他們睡眠實(shí)驗(yàn)的初步結(jié)果:經(jīng)過睡眠–清醒周期訓(xùn)練的神經(jīng)網(wǎng)絡(luò)識別圖片的準(zhǔn)確率提高了12%,災(zāi)難性遺忘的發(fā)生率也相應(yīng)減少了。這一研究結(jié)果讓帕拉佐備受鼓舞,盡管他的機(jī)器還需要他提供一點(diǎn)兒輔助才能做夢。
編輯:周丹丹