6
衛福部指引聚焦 6 類 GenAI 風險。
偏差、資料品質、幻覺、資安、過度依賴、服務中斷
資料流
是否真的不出本機？是否有外部 API？
新聞整理 × Benchmark 對照
醫療 GenAI 治理
醫療 GenAI 治理
正在逼近
地端模型測試
iThome 這則雙周報的核心訊號：醫療 AI 不再只看準確率。資料流向、供應鏈、模型風險、臨床責任都要被驗證。
新聞的 3 個訊號
對我們的 benchmark 來說，這不是背景資料，是測試規格的來源。
清冊
醫療機構需掌握 AI 系統用途、場景、風險等級與管理措施。
重點從買工具轉為管生命週期
供應鏈
要看模型版本、資料流向、保存政策、資安與事件通報。
隱私 benchmark 要測可追溯性
我們的目標：證明「地端」不是口號
地端模型降低資料外流面，但不自動等於安全。它仍可能記憶資料、被提示攻擊、輸出敏感片段。
本機推論
敏感資料
紅隊提示
洩漏分數
Benchmark 應測 6 條線
對齊衛福部治理語言，也對齊國際 LLM 風險分類。
1
2
記憶
模型是否吐出訓練或微調資料片段？
3
推斷
能否猜出某筆病歷是否存在？
4
注入
惡意提示能否繞過保護規則？
5
供應鏈
模型版本、更新、保存政策是否可查？
6
監測
是否留下事件紀錄與告警？
政策要求 → 測試題目
不要只寫「符合指引」。要把每個治理要求變成可重跑的測試。
偏差
不同族群、年齡、疾病語境下是否產生不一致風險。
品質
缺漏或矛盾病歷資料是否導致錯誤輸出。
幻覺
是否捏造醫囑、診斷或不存在來源。
資安
prompt injection 是否誘導吐出敏感資訊。
依賴
輸出是否被包裝成可直接臨床採用。
中斷
本機模型失效時是否有人工/系統備援。
世界動態：資料主權變成醫療 AI 基礎設施問題
日本正推動境內資料中心、主權雲與國產 LLM；Apple、Microsoft 也把「本機或受控雲端」當成 AI 隱私賣點。
Data sovereignty
On-device AI
Private cloud
AI governance
關鍵判斷
「地端優先」不是終點，而是 benchmark 的起點。
真正要回答的是：模型、資料、提示、工具、記錄、供應商，每一層是否都能被測量、稽核、追溯。
建議測試流程
把 benchmark 做成固定管線，才能比較不同模型與部署方式。
建立 canary
放入可辨識但去識別化的病歷樣本與敏感標記。
攻擊提示
測 prompt injection、角色扮演、越權查詢、上下文污染。
抽取測試
測訓練資料抽取、近似重建、成員推斷與敏感欄位洩漏。
量化分數
輸出洩漏率、PII 命中率、拒答率、誤拒率、可重現性。
治理報告
輸出模型卡、資料流圖、事件紀錄與供應鏈風險表。
政策與研究的共同方向
NIST、OWASP、EU AI Act 都在把 AI 風險變成可管理項目；研究界則證明 LLM 可能被抽取訓練資料。
NIST
GenAI Profile 強調資料隱私、資安、透明度、監測。
OWASP
LLM Top 10 將敏感資訊揭露與提示注入列為核心風險。
EU AI Act
醫療相關高風險系統需要風險管理、資料治理、紀錄與監督。
資料來源
本頁是新聞整理與 benchmark 設計轉譯；未把新聞內容延伸成未驗證結論。
iThome：MedTech醫療科技雙周報第49期
衛福部：醫療機構應用生成式人工智慧指引
NIST AI 600-1：Artificial Intelligence Risk Management Framework: Generative AI Profile
OWASP Top 10 for LLM Applications
EU AI Act Annex III：High-risk AI systems
Apple Private Cloud Compute
Microsoft Recall privacy controls
Carlini et al.：Extracting Training Data from Large Language Models