近年來(lái)，開(kāi)發(fā)人員引入了人工智能(AI)系統(tǒng)，可以模擬或再現(xiàn)人類的各種能力，例如識(shí)別圖像中的物體、回答問(wèn)題等。然而，與人類思維相比，人類思維會(huì)隨著時(shí)間的推移而退化，這些系統(tǒng)通常會(huì)保持相同的性能，甚至隨著時(shí)間的推移而提高其技能。
加州大學(xué)歐文分校的研究人員最近試圖在人工智能代理中模擬衰老和生物神經(jīng)變性(即神經(jīng)元的逐漸喪失和相關(guān)的心理能力下降)。他們的論文預(yù)先發(fā)表在arXiv上，可以為利用這種“人工神經(jīng)變性”執(zhí)行特定任務(wù)的創(chuàng)新人工智能系統(tǒng)的未來(lái)發(fā)展提供信息。
“這項(xiàng)研究的最初想法是在與 Baldi 博士和 Pishgar 博士共進(jìn)晚餐時(shí)激發(fā)的，我們討論了神經(jīng)退行性變、學(xué)習(xí)和人工智能安全等一系列松散相關(guān)的主題，”該論文告訴 Tech Xplore。
“最重要的是，我的父親最近經(jīng)歷了嚴(yán)重的腦外傷和認(rèn)知能力下降，這激勵(lì)我從一個(gè)新的角度更多地思考這個(gè)學(xué)科及其在計(jì)算機(jī)科學(xué)和深度學(xué)習(xí)中的直接應(yīng)用。”
蔡和他的合作者最近的這項(xiàng)研究并不是旨在人工復(fù)制人類大腦疾病。相反，該團(tuán)隊(duì)希望使人工智能代理的認(rèn)知能力下降，以更好地理解復(fù)雜系統(tǒng)，從而潛在地增強(qiáng)其可解釋性和安全性。
“我們使用大型語(yǔ)言模型 (LLM)，更具體地說(shuō)，LLaMA 2 進(jìn)行的智商測(cè)試來(lái)引入‘神經(jīng)侵蝕’的概念，”Tsai 解釋道。 “這種故意的侵蝕涉及在訓(xùn)練期間或之后消融突觸或神經(jīng)元或添加高斯噪聲，從而導(dǎo)致法學(xué)碩士的表現(xiàn)受到控制的下降。”
研究人員發(fā)現(xiàn)，當(dāng)他們故意消融(即移除)LLaMA 2 模型的一些人工突觸或神經(jīng)元時(shí)，其在智商測(cè)試中的表現(xiàn)會(huì)按照特定的模式下降。他們的觀察結(jié)果可以為復(fù)雜人工智能系統(tǒng)的功能以及當(dāng)其底層結(jié)構(gòu)受到損害時(shí)首先和最后下降的功能提供新的線索。
蔡說(shuō)：“除了建立總體框架之外，這項(xiàng)研究最有趣的發(fā)現(xiàn)也許是法學(xué)碩士失去了抽象思維能力，隨后是數(shù)學(xué)退化，最后是語(yǔ)言能力的喪失，對(duì)提示的反應(yīng)不連貫。” “我們現(xiàn)在正在進(jìn)行進(jìn)一步的測(cè)試，以更好地理解這種觀察到的模式。”
標(biāo)簽：
免責(zé)聲明：本文由用戶上傳，如有侵權(quán)請(qǐng)聯(lián)系刪除！