• 首頁
  • 台灣社會
  • AI幻覺成大型語言模型固有缺陷 研究點出用戶互動風險

AI幻覺成大型語言模型固有缺陷 研究點出用戶互動風險

Admin
Admin 三月 31, 2026 0

商傳媒|葉安庭/綜合外電報導

根據喬治城大學醫學中心(Georgetown University Medical Center)近期舉辦的一場研討會,來自美國國家衛生院(National Institutes of Health, NIH)的博士後研究員 Brandon Colelough 指出,人工智慧(AI)大型語言模型(LLM)產生「幻覺」或錯誤資訊的現象難以避免,這使AI應用存在潛在危害。

Brandon Colelough(同時也是馬里蘭大學博士生)在 Bhussry 研討會系列中解釋,所謂的AI幻覺是指「貌似合理卻不符合事實的內容斷言——錯誤或捏造的資訊,或是任何不準確、不相關或缺乏事實邏輯的輸出」。他進一步闡明,LLM的運作基礎是辨識海量資料中的模式,並預測序列中的下一個詞,而非真正理解資訊。這種運作機制使其本質上被視為「黑盒子」(black box),其內部運算過程難以解釋或理解,也造成幻覺問題持續存在。

Colelough 舉例說明,當他要求 ChatGPT Model 4.0 解釋一項不存在的科學研究時,該聊天機器人竟能信心滿滿地給出詳細回覆。他強調,目前號稱「推理模型」的新模型,實際上仍依賴模式識別而非真正的推理能力,因此不構成重大突破。他假設,即便能提高基準分數的強化學習、人類回饋、監督式微調等方法,也未能有效減少幻覺,且目前尚無數據證明這些方法能降低幻覺。

Brandon Colelough 斷言,無論是開源或閉源的AI模型,都會產生幻覺。他明確指出,使用者無法擺脫AI會產生幻覺的事實。為了應對這種固有的限制,電腦科學系學生 Siona Misra 建議,用戶在使用AI前應對主題有所了解,或調整提問方式,要求AI解釋其思考過程、提供資訊來源,或將問題拆解為更小、更易理解的部分。喬治城大學腫瘤學教授 Markus Hoffman 也表示,他開設專門課程,教導學生如何可靠地在日常及研究工作中使用AI,相信透過訓練可避免錯誤。

這些發現對台灣的AI開發者和使用者具有警示意義。儘管AI技術進步快速,其在理解層面的根本局限性意味著,不論AI模型如何演進,仍需保持審慎態度。對於依賴AI進行決策、資訊檢索或內容生成的台灣企業與個人而言,務必理解AI幻覺的固有風險,並採行多重驗證機制,避免誤判或誤用AI產生的不實資訊,以維護資訊正確性與可靠度。

台灣社會

查看更多
日本臨終醫療模式引發社會思辨 尊重患者意願成焦點

圖/本報AI製圖(示意圖) 商傳媒|吳承岳/台北報導 日本的終末期醫療與生命告別方式,近期在網路社群引發廣泛討論。根據《Yahoo!新聞》報導,社會大眾正針對臨終關懷、延命治療的界線,以及如何真正尊重病患本人意願等議題,進行深入的思辨。 報導指出,日本高比例的國民在醫院過世,凸顯了醫療體系在處理生命終點時所面臨的挑戰。許多意見集中在探討是否應持續延命治療或點滴施打。有網友指出,在許多情況下,家屬的意向似乎更容易超越病患本人的預立醫療決定,這成為一大爭議點。 此外,在家中進行臨終照護(在宅看取)的實務困難,以及社區如何提供足夠支持的必要性,也成為討論的重點。有評論認為,「延命治療的界線,以及如何尊重病患與家屬的意願,確實是個極為困難的問題。」另有網友表示,「居家安寧的艱辛,以及家屬承擔的龐大負擔,是現實中不可忽視的課題。」 整體而言,這場社會對話強調了促成自然逝去與尊重病患本人意願的重要性。民眾普遍期望,能建立一個社會氛圍,讓病患及其家屬能更開放地討論臨終規劃。同時,醫療人員在提供資訊與支持方面的角色,也受到各界高度關注,期望能有更完善的說明與協助,確保患者的自主權得以實踐。

Admin 三月 31, 2026 0

SINEXCEL攜手日企進軍頻率調整市場 展出1375kW PCS儲能技術

AI幻覺成大型語言模型固有缺陷 研究點出用戶互動風險

大臺北防洪里程碑 二重疏洪道左岸加高完工

鄭習會有譜 鄭麗文受邀4月訪陸

【記者/ 張旭 報導 】經過多日來的猜測,一直被關注的「鄭習會 」,終於有譜了 。中國國民黨主席鄭麗文今(3/30)日上午召開中外記者會表示,中共中央和習近平總書記邀請她率團前往中國大陸訪問,鄭麗文表示感謝,並欣然接受邀請。 鄭麗文表示,此次訪問大陸將繼續在國民黨既定政策「堅持九二共識、反對台獨」的基礎上,「一分不多,一分不少」,向台灣人民也向全世界證明,「兩岸不是終須一戰,兩岸不需要兵凶戰危」。可以憑著自己的智慧跟努力,共同走出和平的康莊大道。 鄭麗文強調 ,自從2005年連戰主席訪陸之後,「九二共識,反對台獨」就正式寫入國民黨的黨章,就是國民黨一貫的兩岸路線,馬英九總統執政8年也證明了這是正確的路線。鄭麗文重申,美國無論哪一黨執政都表達了一貫而清楚的立場,也就是「一個中國政策」,相信大家都不願意看到台海兵兇戰危 成為國際動亂的來源,包括華府在內,美國官方一而再、再而三強調,國際社會也殷殷期盼兩岸能透過對話停止對抗,能夠溝通交流互動,避免戰火的發生。

Admin 三月 30, 2026 0

狗狗為什麼會跟著你換位置?

法制觀念向下扎根  花警前往太昌國小宣導婦幼安全及反詐騙

Gulfport Energy深耕美國關鍵油氣盆地 營運穩健獲分析師看好

以色列房市交易低迷 投資買家背負破紀錄抵押貸款

圖/本報資料庫 商傳媒|簡明心/綜合外電報導 儘管以色列住宅房地產市場目前處於低谷,但投資型買家卻持續借入創紀錄的高額抵押貸款。根據以色列銀行(Bank of Israel)數據顯示,上個月平均抵押貸款金額達到 105 萬新謝克爾(NIS),其中投資型買家平均貸款金額更高達 140 萬新謝克爾。 這項數據凸顯投資買家在市場中的獨特策略。相較於去年同期,投資型買家的平均貸款金額已增加 40%,與 2020 年 1 月相比更是翻倍。而參與「折扣購屋」(Home at a Discount)計畫的買家平均貸款為 63.2 萬新謝克爾,開放市場非投資型買家的平均貸款則為 108 萬新謝克爾,顯見投資型買家顯著偏好高額借貸。 然而,目前宏觀經濟環境對房地產投資並不利。房地產投資的年化報酬率僅約 2% 至 3%,且高利率環境使得房地產投資的吸引力降低。此外,投資型買家需繳納高達 8% 起跳的購屋稅。去年,投資買家僅佔總購屋人數的 12.2%,創下自 2019 年以來的最低紀錄。 儘管面臨這些不利因素,投資買家仍持續進場。他們多利用開發商提供的預售屋優惠,以較低自備款購置房產,並享有開發商放棄指數掛鉤(index linkage)帶來的顯著節省。這些投資人似乎預期房價將持續上漲,將資本增值置於年度租金收益之上,並將過去的房價下跌視為短暫現象。部分投資買家也認為,政府在住房市場(特別是租賃住房)方面態度不積極。 為應對市場風險,以色列銀行在一年前曾發布限制措施,針對開發商補貼的「20%-80%」等遞延貸款方案,將每月住房貸款上限設為 10%,並提高銀行對非線性付款專案的資本要求。然而,這些措施僅略微降低了遞延抵押貸款的比例。上個月,約有 14.5% 的抵押貸款(總計 90 億新謝克爾)被定義為「子彈式」(bullet)或「氣球式」(balloon)貸款,這一比例是開發商推出特殊金融方案之前的兩倍。這些數據顯示,投資買家在不利條件下,仍願意背負高額抵押貸款,押注房價未來上漲。

Admin 三月 30, 2026 0

【台中】放流逾7萬尾魚苗、推廣友善垂釣 中市台中港北堤打造最生動海洋教育場域

泰國小姐佳麗牙貼意外脫落 從容應對獲全球讚賞

復活節前夕掛牌量衝高 澳洲全國房產拍賣清盤率跌破六成

0 Comments