• 首頁
  • 每日更新
  • OpenAI坦言AI指令攻擊難防範 代理型AI上網成資安隱憂

OpenAI坦言AI指令攻擊難防範 代理型AI上網成資安隱憂

Admin
Admin 十二月 23, 2025 0

商傳媒|記者責任編輯/綜合外電報導

科技媒體《TechCrunch》報導指出,儘管OpenAI正加速強化旗下AI瀏覽器ChatGPT Atlas的資安防線,但近日坦言「Prompt Injection(提示注入攻擊)」將是長期難解的AI風險難題,猶如網路詐騙與社交工程(Social Engineering)般難以完全根絕,這也引發外界對AI代理人是否能安全操作開放網路的質疑。

OpenAI透過官方部落格表示:「Prompt Injection 很可能永遠無法『完全解決』。」尤其Atlas的「Agent Mode」(代理人模式)雖然功能強大,卻也擴大潛在的資安攻擊面。

Atlas瀏覽器自10月推出以來,資安研究人員紛紛展示如何透過Google文件或電子郵件中的文字指令,偷偷改變AI行為。軟體公司Brave與英國國家網路安全中心(NCSC)也先後警告:Prompt Injection可能成為AI瀏覽器的系統性風險,應以風險管理思維減災而非幻想「封殺」。

打造「AI紅隊」:OpenAI訓練自己的攻擊者找破口

OpenAI採取不同於Google與Anthropic的策略,在傳統資安強化架構外,自行訓練出一個具備「攻擊者視角」的LLM代理人。這個強化學習訓練出的AI攻擊者可在模擬環境中不斷嘗試Prompt Injection技巧,觀察目標AI的反應並調整策略。

OpenAI指出:「我們的AI攻擊者可以引導目標代理人執行數十甚至上百步驟的複雜攻擊流程,模擬出人類紅隊未曾發現的創新攻擊樣態。」

在一次示範中,攻擊者透過一封「藏有隱性指令的電子郵件」,成功誘使代理人錯誤地發出離職信,而非使用者原本要求的「外出通知」;但經過新版資安更新後,代理人成功識別並攔截這一指令注入行為,並主動提醒使用者。

AI安全的核心難題:授權範圍×自主行為

資安公司Wiz的首席研究員Rami McCarthy指出,Prompt Injection難防的關鍵在於「AI的自主性乘上其接觸權限」決定了風險高低;而像Atlas這類瀏覽器代理人,恰恰屬於「中等自主性+極高存取權」的高風險區間。OpenAI建議使用者降低授權範圍,例如:

  • 不授權代理人全權處理信箱,而是明確指令工作範圍
  • 要求代理人在發送郵件或付款前,取得用戶確認
  • 限制登入狀態與存取範圍,減少敏感資訊曝光風險

不過OpenAI拒絕透露此次安全更新後,Prompt Injection實際成功率是否明顯下降;OpenAI僅表示,從開發前即與第三方資安專家合作,持續壓力測試並快速修補潛在漏洞。

市場觀察:AI瀏覽器是否值得風險?

Rami McCarthy提醒:「就目前一般用戶來說,Agentic瀏覽器的實際價值,恐怕仍不足以支撐它的風險輪廓。」即使這些工具因可存取信箱、支付資訊而具備強大能力,但也意味一旦中招,風險跟代價極高。Rami McCarthy認為,未來這種風險與價值的平衡將會演化,但現階段仍需謹慎看待。

OpenAI強調,Prompt Injection已成為AI安全長期戰役,未來將持續擴大模擬攻擊範圍、強化防禦節點,並鼓勵使用者培養「AI風險意識」。


每日更新

查看更多
臺灣新媒體先鋒鄭淑麗  個展《愛人,愛》驚豔紐約獲《衛報》評選全美最期待展覽

【記者王志成/台北報導】在文化部積極推動與支持下,駐紐約臺北文化中心(三十)日表示,首度與全球酷兒藝術指標性機構「萊斯利-洛曼美術館(Leslie-Lohman Museum of Art)」達成深度合作,推出臺灣知名新媒體藝術家鄭淑麗(Shu Lea Cheang)的大型委託創作個展《愛人,愛》(LOVER, LOVE)。該展將於4月3日正式揭幕,展期橫跨至2027年1月3日。 本展不僅是該美術館成立以來規模最宏大的委製計畫,更在開展前便受到國際媒體高度關注,獲得英國《衛報》(The Guardian)評選為2026年全美最值得期待的年度展覽之一,充分顯現臺灣藝術實踐在國際主流論述中的影響力。 鄭淑麗長期深耕網路文化、科技系統與權力結構的批判性探討。本次展出的《愛人,愛》是為美術館量身打造的互動式裝置,其創作背景紮根於美國亞利桑那州圖森市(Tucson)的酷兒社群。作品透過8位跨性別與性別非二元者的多重敘事,細膩呈現這群個體在當代社會中所面臨的結構性挑戰,以及對於愛與認同的生命渴望。 萊斯利-洛曼美術館策展人史塔馬提娜·葛雷戈里(Stamatina Gregory)對此表示,鄭淑麗的作品兼具在地經驗與全球視野,成功在數位媒介中建構出對酷兒與跨性別身分的深刻辯證。 展覽技術亮點在於其「六聲道多媒體互動系統」。觀眾進入展場後,並非僅僅是被動的觀看者,而是能自由移動空間內四座可操作的感測螢幕。透過螢幕的物理位移,觀眾能親自重組影像與聲音的對應關係,每一次的互動皆會觸發特定的音樂段落,進而改變整體的敘事結構與感知經驗。 此外,展名《愛人,愛》亦具備深厚的人文情感,係向鄭淑麗長期合作的已故音樂家 Aérea Negrot 致敬,靈感源自其經典曲目〈It’s Lover, Love〉。 駐紐約臺北文化中心指出,此次個展不僅展現了臺灣在新媒體藝術領域的尖端創新能量,更透過性別、人權與科技議題的交織,將臺灣的藝術實踐推入國際酷兒藝術與社會正義的核心討論之中,進一步深化了臺美兩國在當代藝文領域的交流與聯動。 萊斯利-洛曼美術館目前典藏逾3萬件橫跨三世紀的酷兒作品,長期致力於推動LGBTQIA+文化的公共對話。本次鄭淑麗的展出,無疑為該館的跨世紀典藏脈絡增添了強而有力的臺灣視角。

Admin 三月 30, 2026 0

啟動「專業治理」與「學術卓越」 東海大學董事會組「黃金陣容」

$1,000參賽贏得120萬冠軍獎金 21歲大學生奪「麻將大師」百萬大賽冠軍 抱回人生第一桶金

新北地政士推薦朱焜煜 國際獅子會300A3區攜手富源地政士事務所解繼承不動產老年癡呆難題

Bitfinex比特幣多頭部位飆新高 分析師示警潛在下跌風險

圖/本報AI製圖(示意圖) 商傳媒|方承業/綜合外電報導 全球知名加密貨幣交易所 Bitfinex 上的比特幣(Bitcoin)多頭部位,近期已飆升至逾兩年來的最高點,累積達約 79,343 枚比特幣,為自 2023 年 11 月以來的新高。分析師對此現象提出警示,認為過度集中的槓桿多頭押注,可能導致比特幣市場結構趨於脆弱,潛藏顯著下跌風險。 專家指出,歷史經驗顯示,槓桿多頭部位(leveraged long positions)的激增,往往與價格局部高點或急劇下跌的發生時間點吻合。當市場上多數交易者已建立多頭部位時,能夠支撐價格上漲的買盤動能將會減少,導致價格漲勢停滯。在衍生性金融商品主導的市場中,這種動態極為常見。 分析師進一步說明,由於這些部位通常是槓桿操作,若比特幣價格即使只出現輕微回落,便可能觸發強制平倉。一旦發生強制平倉,將導致比特幣遭到快速拋售,進而引發連鎖效應,加劇價格下跌並導致更深度的修正。過去的多個市場週期中,過度曝險的長期部位已反覆呈現此一模式。 此外,當前的宏觀經濟條件仍充滿不確定性,全球股市表現疲弱,加上地緣政治緊張局勢持續對風險資產造成壓力。比特幣近期則在狹窄區間內震盪,難以突破關鍵阻力位。在這種環境下,交易部位過度集中於多頭,將大幅增加市場面臨下行風險的脆弱性。 大型市場參與者也會密切關注這些市場失衡現象。當交易部位過於單邊時,他們可能會推動價格走低以觸發清算,進而在較低的價格水平累積部位。除非能有強勁的現貨需求進場支撐,否則比特幣價格出現大幅修正的風險依然偏高。

Admin 三月 30, 2026 0

社長的話》柯文哲不選 才是最大咖(張淯)

出國不想人擠人!夢幻遊輪、深度旅遊正夯 懂玩又刷「對」卡出發前就開始省

新北清明連假急救責任醫院門診時段一次看

韓國企業面臨資金壓力 首季公司債發行量年減24%

圖/本報資料庫 商傳媒|吳承岳/台北報導 在利率持續飆升的環境下,韓國企業的資金籌措面臨嚴峻挑戰。今年第一季,韓國公司債發行量較去年同期大幅減少24%,顯示高利率環境已對企業融資動能造成顯著衝擊。 根據韓國《首爾經濟日報》報導,今年第一季公司債發行總額為34.518兆韓元,相較於去年同期的45.4184兆韓元,跌幅達24%。同時,代表性的AA級三年期公司債利率已從一年前的3.123%飆升至目前的4.215%,今年以來更累計上漲75.6個基點,其中本月漲幅達57.8個基點,利率增幅之快讓許多原計畫發債的企業卻步。 報導指出,不少企業因預期利率將進一步攀升而推遲發債計畫,導致整體融資市場能見度趨近於零,資金籌措管道受阻。這項趨勢也反映在證券承銷業務上,包括NH投資證券(NH Investment & Securities)及KB證券(KB Securities)在內的多家主要證券商,其公司債承銷規模較去年減少了10%至42%。僅有梅里茲證券(Meritz Securities)在去年成立企業金融部門後,承銷規模逆勢成長了118.78%。 宏觀經濟方面,地緣政治風險導致的國際油價飆升,預計將推動韓國3月份消費者物價指數(CPI)達到2%至2.5%區間。韓元兌美元匯率亦持續走弱,截至本月28日,韓元兌美元單月貶值達4.72%,平均月匯率達1489.3韓元,創下金融風暴以來第四高紀錄。外資在韓國股市(KOSPI)的賣超也持續擴大,4月份淨賣出金額創下29.8兆韓元歷史新高,近兩個月累計賣超已超過50兆韓元,進一步加劇市場資金緊縮壓力。 在此資金環境下,今年第一季的併購市場出現外國資本收購韓國國內基礎設施及能源企業的顯著趨勢,這些企業通常具有穩定的現金流。例如,法國液空集團(Air Liquide)完成了對DIG Air Gas約4.85兆韓元的收購案,而私募基金KKR則以約2.5兆韓元收購了SK ecoplus及SK E&S的再生能源業務股權。專家預計,在人工智慧(AI)普及加速及宏觀經濟不確定性提升的背景下,鎖定能保證可預期回報的穩定投資標的,以及提前布局AI價值鏈,將成為今年併購市場的關鍵趨勢。

Admin 三月 30, 2026 0

不是早買就便宜——機票這件事,其實很多人都搞錯了

國美館兒藝基地兒童月「遊色場:混色×循環站」 邀請親子做蠟筆、玩創作

強化新北防災應變量能 同濟會再捐2輛勘查車

0 Comments