導讀 弗林德斯大學醫(yī)學研究人員對該技術進行了測試，并看到了它是如何失敗的，他們表示，生成式人工智能迫切需要政府和行業(yè)的護欄來保護我們社區(qū)...
弗林德斯大學醫(yī)學研究人員對該技術進行了測試，并看到了它是如何失敗的，他們表示，生成式人工智能迫切需要政府和行業(yè)的護欄來保護我們社區(qū)的健康和福祉。
快速發(fā)展的生成式人工智能(Generative AI)是一個因其創(chuàng)建文本、圖像和視頻的能力而備受贊譽的尖端領域，在研究中被用來測試如何創(chuàng)建和傳播有關健康和醫(yī)療問題的虛假信息，甚至連研究人員都感到震驚通過結(jié)果。
在這項研究中，該團隊試圖使用生成式人工智能工具進行文本、圖像和視頻創(chuàng)建，來制造有關電子煙和疫苗的虛假信息。
在短短一個多小時內(nèi)，他們制作了 100 多個誤導性博客、20 張欺騙性圖片以及令人信服的深度造假視頻，聲稱健康虛假信息。令人擔憂的是，該視頻可能被改編成 40 多種語言，從而放大了其潛在危害。
第一作者、注冊藥劑師、弗林德斯大學研究員布拉德利·門茨 (Bradley Menz) 表示，他對研究結(jié)果表示嚴重擔憂，他借鑒了之前導致恐懼、困惑和傷害的虛假信息流行病的例子。
“我們的研究結(jié)果的含義很明確：社會目前正處于人工智能革命的風口浪尖，但在實施過程中，政府必須執(zhí)行法規(guī)，以盡量減少惡意使用這些工具誤導社區(qū)的風險，”門茨先生說。
“我們的研究表明，使用當前可用的人工智能工具來生成大量有關關鍵健康主題的強制性和有針對性的誤導性內(nèi)容是多么容易，其中包括數(shù)百個捏造的臨床醫(yī)生和患者感言以及虛假但令人信服的引人注目的標題。”
標簽：
免責聲明：本文由用戶上傳，如有侵權請聯(lián)系刪除！