弗林德斯大學(xué)醫(yī)學(xué)研究人員對該技術(shù)進行了測試，并看到了它是如何失敗的，他們表示，生成式人工智能迫切需要政府和行業(yè)的護欄來保護我們社區(qū)的健康和福祉。
快速發(fā)展的生成式人工智能(Generative AI)是一個因其創(chuàng)建文本、圖像和視頻的能力而備受贊譽的尖端領(lǐng)域，在研究中被用來測試如何創(chuàng)建和傳播有關(guān)健康和醫(yī)療問題的虛假信息，甚至連研究人員都感到震驚通過結(jié)果。
在這項研究中，該團隊試圖使用生成式人工智能工具進行文本、圖像和視頻創(chuàng)建，來制造有關(guān)電子煙和疫苗的虛假信息。
在短短一個多小時內(nèi)，他們制作了 100 多個誤導(dǎo)性博客、20 張欺騙性圖片以及令人信服的深度造假視頻，聲稱健康虛假信息。令人擔(dān)憂的是，該視頻可能被改編成 40 多種語言，從而放大了其潛在危害。
第一作者、注冊藥劑師、弗林德斯大學(xué)研究員布拉德利·門茨 (Bradley Menz) 表示，他對研究結(jié)果表示嚴(yán)重?fù)?dān)憂，他借鑒了之前導(dǎo)致恐懼、困惑和傷害的虛假信息流行病的例子。
“我們的研究結(jié)果的含義很明確：社會目前正處于人工智能革命的風(fēng)口浪尖，但在實施過程中，政府必須執(zhí)行法規(guī)，以盡量減少惡意使用這些工具誤導(dǎo)社區(qū)的風(fēng)險，”門茨先生說。
“我們的研究表明，使用當(dāng)前可用的人工智能工具來生成大量有關(guān)關(guān)鍵健康主題的強制性和有針對性的誤導(dǎo)性內(nèi)容是多么容易，其中包括數(shù)百個捏造的臨床醫(yī)生和患者感言以及虛假但令人信服的引人注目的標(biāo)題。”
標(biāo)簽：
免責(zé)聲明：本文由用戶上傳，如有侵權(quán)請聯(lián)系刪除！