負責任AI中心

成立緣由

隨著生成式AI與智慧醫療設備(IoMT)深入臨床流程,醫療AI的應用已從「技術開發」轉向「落實管理」。為確保醫療AI在輔助診斷與流程自動化過程中,能符合倫理、法規及病人安全,本院參考國內外頂尖醫療體系實務,設立「負責任AI執行中心」

中心發展宗旨

本中心將致力於達成負責任AI落地管理的 「三大落實策略」:

(1)確保資安與隱私安全
(2)讓AI應用能受到醫師及病患信賴
(3)確保AI產品隨著時間推移持續受到監管

組織架構

中心將整合資訊室、醫務管理及臨床專家,分為以下兩大核心組別:

  • 技術安全組: 負責資料庫效能監控、備份作業與網絡安全防護。
  • 合規審議組: 負責AI倫理審查、演算法效能評估及醫療設備生命週期管控。

管理辦法

一、目的:

豐榮醫院(以下簡稱本院)為提升智慧醫療使用安全性、可信賴度及有效性,確保資通安全與個資保護,特訂定本辦法,供本院導入智慧醫療時有所依循 。

二、範圍:

本辦法適用於醫療器材人工智慧軟體(以下簡稱醫療AI),包含歸屬或不歸屬醫材管理、引用或不引用 AI 技術之軟硬體解決方案 。

三、定義:

    • 醫療器材人工智慧軟體: 採用 AI 技術進行模型學習或推論之醫用軟體 。
    • 醫療AI試用: 於系統內小規模測試成效,臨床判斷仍以醫事人員專業為主 。
    • 醫療AI啟用: 成效合格後,正式介接於醫療資訊系統供醫事人員使用 。
    • 醫院既有資訊系統: 統稱為 HIS(包含 PACS, LIS, RIS 等)

四、權責:

本辦法由本院 「智慧醫療委員會」(以下簡稱本委員會)主責 。

五、作業內容:

5.1 實施原則

5.1.1適用對象: 已開發完成且擬介接 HIS 進行成效評估之醫療AI

5.1.2法規要求: 未取得衛福部許可證者,須先通過研究倫理委員會(IRB)核准始得申請

5.1.3風險分層: 依 FDA 風險分層屬 III、IV 級者列為高風險,須完成臨床試驗並通過 IRB

5.1.4透明性: 申請者應提供安全性指標、九大透明性宣告及可解釋性分析

5.1.5 系統介接: 應採用 AIonHIS FHIR IG 規範

5.1.6 資安與個資: 嚴禁私連外網。若需連外網須提供防護規劃並負擔費用,違反者報請議處

5.2 試用申請流程

5.2.1申請義務: 使用單位提出啟用申請時,必須提交詳盡之醫療 AI 透明性宣告

5.2.2 收案: 由使用單位提出申請書,委員會行政小組收案

5.2.3預審: 由委員會各小組會同相關單位進行可行性、技術適用性、倫理法規及資安預審

5.2.4審查: 委員會審查通過後,始得與 HIS 介接試用

5.3 試用與啟用計畫

5.3.1介接: 系統上線依委員會既有流程辦理

5.3.2成效評估: 委員會定期監測醫療AI成效,作為續用或停用之依據

5.3.3透明性宣告: 啟用申請時必須提供透明性宣告,並由資訊室維護網頁公開查詢試用與啟用計畫

5.4 生命週期監測及管理 (啟用後監測)

5.4.1 AI 模組介接: 本委員會技術小組同外部技術廠商,依據流程將啟用之醫療 AI 介接於本院 HIS 系統 。

5.4.2定期成效評估: 委員會會同臨床單位,定期針對已啟用之醫療 AI 進行有效性評估

5.4.3 持續監測義務: 申請者應提供安全性與有效性之測量指標與參考標準,並於啟用期間配合持續監測,定期彙總評估結果 。

5.5 續用、停用與再申請

5.5.1續用核可: 本委員會根據定期評估報告,核可已啟用醫療 AI 之續用期限 。

5.5.2停用判定: 若監測發現醫療 AI 成效下降,或不再符合臨床需求,委員會得裁定「停用」,即不再介接於 HIS 供醫事人員使用

5.5.3違規停用: 醫療 AI 嚴禁私連外網,若違反資通安全規定,除立即報請人評會議處外,將強制停用該系統

5.5.4再試用機制: 被停用之醫療 AI 若經過模型再訓練 (Re-training) 或參數調整後,得依本辦法重新申請「試用」,通過後方可再次申請「啟用」 。

5.6 本辦法經 院長 核准後公告實施;修正時亦同

中心洽案諮詢窗口

負責任AI執行中心聯絡窗口:劉先生