研究人員假設，一種被稱為變壓器的強大人工智能模型可以通過神經元和星形膠質細胞網絡在大腦中實現(xiàn)。這項工作可以深入了解大腦的工作原理，并幫助科學家理解為什么 Transformer 在機器學習任務中如此有效。圖片來源：MIT News，數(shù)據來自 iStock
一項連接神經科學和機器學習的新研究提供了對星形膠質細胞在人腦中潛在作用的見解。
人工神經網絡是無處不在的機器學習模型，可以經過訓練來完成許多任務。他們的名字源于這樣一個事實：他們的架構受到生物神經元處理人腦信息的方式的啟發(fā)。
大約六年前，科學家們發(fā)現(xiàn)了一種更強大的新型神經網絡模型，稱為“變壓器”。這些模型可以實現(xiàn)前所未有的性能，例如通過以接近人類的準確性根據提示生成文本。例如，變壓器是 OpenAI 的 ChatGPT 和 Google 的 Bard 等人工智能系統(tǒng)的基礎。雖然非常有效，但變形金剛也很神秘：與其他受大腦啟發(fā)的神經網絡模型不同，目前尚不清楚如何使用生物組件構建它們。
連接生物學和變形金剛
現(xiàn)在，來自麻省理工學院、麻省理工學院-IBM 沃森人工智能實驗室和哈佛醫(yī)學院的研究人員提出了一個假設，可以解釋如何使用大腦中的生物元素構建變壓器。他們認為，由神經元和其他稱為星形膠質細胞的腦細胞組成的生物網絡可以執(zhí)行與變壓器相同的核心計算。
最近的研究表明，星形膠質細胞是大腦中豐富的非神經元細胞，可以與神經元進行交流，并在一些生理過程中發(fā)揮作用，例如調節(jié)血流。但科學家們仍然對這些細胞的計算功能缺乏清晰的了解。
這項新研究最近以開放獲取形式發(fā)表在《美國國家科學院院刊》上，研究人員從計算角度探討了星形膠質細胞在大腦中的作用，并制作了一個數(shù)學模型來展示如何使用它們，與神經元一起構建一個生物學上合理的變壓器。
他們的假設提供了一些見解，可以激發(fā)未來對人腦如何運作的神經科學研究。同時，它可以幫助機器學習研究人員解釋為什么 Transformer 在各種復雜任務中如此成功。
“大腦遠遠優(yōu)于我們開發(fā)的最好的人工神經網絡，但我們并不真正知道大腦到底是如何工作的。思考生物硬件和大規(guī)模人工智能網絡之間的聯(lián)系具有科學價值。這是人工智能的神經科學和神經科學的人工智能。”麻省理工學院-IBM 沃森人工智能實驗室的研究人員、該研究論文的高級作者 Dmitry Krotov 說道。
標簽：
免責聲明：本文由用戶上傳，如有侵權請聯(lián)系刪除！