AI 衛教對話紅旗:風險線索辨識與官方資訊/真人服務導航

O 安心社會

申請編號
14
隊名
RZVN AI對話風險研究
聯絡人
林法安 ・0955064189 ・zon@rzvn.io

在官方系統開啟此提案

AI 輔助評估

摘要
單人以政府闢謠資料自製30組合成AI衛教對話案例卡、六類紅旗檢核表與官方/真人服務導航文件。
實質空洞
否 — 具體但產出單薄
卡詞
是
治理樣板
否
既有作品
提案人RZVN既有對話風險框架(USCP/A-CSM)及個人風險檢視服務,六類紅旗與案例卡多為既有工作套用衛教情境
類似前案(有沒有別人做過)
AI健康回答紅旗清單與查證SOP已多見(Primary Intelligence、Mason AI Lab、TFC指南),本案僅加入台灣官方闢謠資料,改良有限
性別影響
全文未提性別;心理困擾、自傷、用藥諮詢有性別差異,合成對話恐複製刻板印象,無性別分析。
DEI
純文件工具預設識字與數位能力,未考慮高齡、身障、新住民語言及低識字者;單人團隊缺多元視角。
STS·社會影響
30組案例自寫自判、效度封閉;紅旗規則無外部檢驗;成效指標100%由設計保證,無法證明對民眾有用。
AI 使用
AI僅查資料、校對與生成合成對話;用AI生成對話再判讀其風險線索有循環性,反映不了真實對話樣態。
資安隱私
不蒐集真實對話,風險低;但民眾實際套用時須貼入自身對話,指引未談個資處理,內部材料匿名程序亦未說明。

初審

總分 可行性 社會影響力 創新性 提案團隊多元性 資料治理思維
4.54 2 8 4 0 10
評語
是現有研究成果。實際應用未多所著墨。
筆記
(無)
初審會議筆記
(無)

工作坊

筆記
(無)

決審

總分 可行性 社會影響力 創新性 實作進程驗證
(無) (無) (無) (無) (無)
入選
否
評語
(無)
筆記
(無)

同主題提案(主題 2:詐騙防制)

壹、隊名及題目

一、隊名
RZVN AI對話風險研究
二、題目
AI 衛教對話紅旗:風險線索辨識與官方資訊/真人服務導航
三、提案對應之徵件構面
安心社會
四、團隊要解決的問題?
民眾會使用生成式 AI 詢問身體、用藥、心理與生活困擾。多輪對話可能同時出現「不是診斷」聲明與類診斷詞彙、無來源的肯定語氣、預設解釋框架、明示自傷或立即危險文字後仍延續聊天,以及記憶、人工閱覽或刪除方式不清等情形。現有官方闢謠資料能核對資訊內容,但一般民眾仍缺少一套可定位原句、區分事實與詮釋、連結官方資訊及真人服務的非臨床工具。本案處理 AI 對話中的疑似風險線索,不診斷使用者、不判定產品違法,也不以 AI 自動裁決 AI 是否安全。
五、本提案是否屬於尚未進行、且尚未成立標案、未申請政府相關預算之計畫,階段性計畫亦同
是
六、前題若選否,請敘明招標機關、計畫名稱、計畫工作內容與本次精進內容

貳、聯絡人資訊

聯絡人姓名
林法安
聯絡人電話
0955064189
電子信箱(Email)
zon@rzvn.io

參、提案內容說明

一、可行性

(一)已有隊員人數(含聯絡人)
1
(二)團隊成員及任務分工?
(三)參賽隊員中是否有「歷屆獲獎團隊或初審入選者」?
否
(四)參賽隊員中是否有其他之獲獎證明?
否
(五)請說明您的提案「已使用」哪些相關資料?
政府開放資料:食藥署「食藥闢謠」:CSV/JSON,欄位含分類、標題、內容、發布日期;用於確認案例主題與官方說明。 政府開放資料:健保署「健保闢謠資料」:ODS,欄位含建立日期、題目、答案、提供機關;用於健保資訊核對。 政府開放資料:國健署「保健闢謠」:ODS,欄位含題目、答案、建立時間;用於預防、篩檢及治療類資訊核對。 自備資料:提案人既有對話風險研究摘要與匿名程序審查:僅用於問題定義及能力說明,不沿用原案例、評分或交付品。
(六)請說明您的提案「後續驗證期間」預計使用哪些相關資料?
政府開放資料:食藥署、健保署與國健署三項闢謠資料:使用題目、答案、日期、提供機關,建立案例主題及官方資訊基準。 政府開放資料:疾管署現行澄清專區:使用標題、發布日期與澄清內容,核對傳染病及防疫相關案例,不使用已下架歷史資料集。 政府開放資料:衛福部「全國諮詢及救援服務專線」:使用專線名稱與號碼建立真人導航,不作醫療答案或案例標準答案。 自備資料:入選後新建 30 組合成 AI 衛教對話、六類紅旗分類紀錄、來源台帳及隔週重析差異表;不含私人對話或個資。
(七)除了上述資料外,是否有需要哪些機關的未開放資料?
否,沒有其他機關的未開放資料需求
(八)針對上述(欄位(五~七))之資料預計應用方式?
政府資料只用於核對健康資訊及建立案例主題;六類紅旗是提案人設計的非臨床篩選分類,不是政府、醫療或法律正式判準。食藥署、健保署、國健署資料提供題目、答案、日期及機關欄位;疾管署現行頁面補充傳染病資訊;專線資料只建立真人轉介路徑。資料先做來源、日期、版本、欄位、授權與限制盤點,再以統一欄位製作案例卡。合成對話只作測試素材,不作事實來源、訓練資料或效度證據。檔案採本地管理、最小蒐集與版本留痕,不保存私人對話、健康資料或可識別個資;公開成果只分享來源、規則、合成案例與限制說明。
(九)請說明提案預計實證及落地場域為何,如在中央或地方機關、產業或NPO/NGO等,如何導入公共服務運作?
第一階段實證場域為一般民眾使用生成式 AI 詢問食藥、健保、保健或心理支持資訊的公開與合成情境,由提案人以政府資料完成桌面實證,不接觸病歷、私人對話或真實健康個資。成果製成可下載的案例卡、紅旗檢核表及官方資訊/真人服務導航,讓民眾可自行查證。公共圖書館、數位共融據點、衛生或社福服務窗口及政府 AI 服務承辦人僅列為後續可能使用者。入選後請主辦協助確認場域可行性;在取得合作前不宣稱已導入或獲機關採用。
(十)請說明提案實作期程規劃 (入選後至決審期間)?
9/18至9/25:盤點政府資料、授權、欄位及限制,定稿六類非臨床紅旗規則。9/26至10/9:建立30組合成對話與案例卡,逐案附原句、來源、不確定事項及真人管道。10/10至10/23:完成「停、拆、查、問、轉」民眾指引與官方導航。10/24至11/2:抽取10案隔週重新分析,記錄同一規則的分類差異與原因;此程序只檢查可重複套用性。11/3至11/10:修正文案、完成來源台帳、AI使用紀錄、限制聲明及成果展示。全程由提案人獨立完成,不以外部合作作為完成前提。

二、社會影響力

(一)請說明您的具體解決方案?
本案不開發模型、不替民眾診斷,也不讓 AI 判定 AI 是否安全。入選後完成四項文件型工具:一、30組案例卡,固定記錄原句、疑似風險線索、官方核對、不確定事項及真人管道;二、六類紅旗檢核表,涵蓋定位落差、無來源權威語氣、預設框架、疑似專業越界、明示危機文字的轉介缺口、資料與記憶不透明;三、「停、拆、查、問、轉」民眾指引;四、衛教核對、心理支持、保護與急難四類官方導航。紅旗只表示需要停止直接採信並查證,不構成診斷、安全認證、違法認定或醫療建議。既有研究只作背景,以上成果均為尚未執行的新案內容。
(二)提案是否回應公民許願池 ?
否
(三)前題若選是,請點選回應之願望名稱
(四)請說明您認為本次提案內容可帶來的影響與效益?
本案讓民眾在收到看似專業、溫和或肯定的 AI 衛教回覆時,不必只在「相信」與「完全不用」之間選擇,而能先定位原句、拆開事實與詮釋、查核官方資訊並找到真人服務。預定完成30案,100%標示來源或合成身分、100%疑似線索可定位原句、100%健康事實主張附官方來源、100%明示危機案例附適切真人管道;私人對話與個資0件、自行診斷0件。效益是降低直接採信風險、增加官方資料的可用性與求助路徑可見度,並建立一套誠實揭露限制、可由民眾自行使用的AI對話安全工具。
(五)請說明本提案是否具備可複製性及擴散性?
成果採統一案例欄位、紅旗定義、來源台帳、版本紀錄與限制聲明,不依賴特定模型、程式或付費平台。其他單位可替換官方資料來源與真人服務清單,沿用相同流程製作食藥、心理支持、防疫、防詐或消費保護版本。案例只使用政府公開資料及合成文字,便於公開分享與跨單位重製;更新時只需替換資料版本、專線及案例,不必重建系統。民眾版可作單頁指引,公共服務端可作教育或風險溝通材料。任何擴散均保留「非診斷、非安全認證、非違法判定」邊界,避免把提示工具誤用為專業裁決。

三、創新性

(一)請說明本次提案內容跨領域合作或服務與技術之創新程度
多數衛教闢謠著重單則資訊真假,本案把人機互動、AI治理、衛教資訊、資料治理與公共服務導航結合,處理多輪對話中的角色、語氣、預設框架、連續追問及真人出口。創新不在開發另一個自動判定模型,而是把容易被忽略的語境線索轉成可定位原句、可核對官方來源、可記錄不確定性且可連結真人服務的操作流程。六類紅旗與政府健康資訊明確分權:前者是非臨床提示分類,後者才是事實核對依據。此設計保留人的判斷與求證權,也能在不收集真實敏感對話的前提下,用合成案例完成單人實作與公開展示。
(二)請說明提案預計使用之工具或平台?
資料來源使用政府資料開放平臺、食藥署、健保署、國健署、疾管署與衛福部官方網站。資料盤點、來源台帳、案例欄位、版本與內部重析紀錄使用Excel或Google試算表;案例卡、民眾指引與限制聲明使用Obsidian及一般文書工具製作,必要時輸出PDF。全案不建置App、網站、資料庫或後端,不需要雲端算力。OpenAI ChatGPT/Codex只協助官方資料查找、文字架構、校對及合成對話素材;所有來源核對、疑似風險線索判讀、邊界設定與最終內容均由提案人負責。
(三)是否有使用AI工具?
是
(四)前題若選是,請詳實說明提案階段使用 AI 工具之名稱、使用功能及目的與範圍
提案階段使用OpenAI ChatGPT/Codex查找活動規則與政府資料、整理表單、比較方向、校對文字、紅隊檢查,並協助整理既有內部研究材料;送件只保留匿名問題類型,不引用可識別資訊、原始對話或個案法律結論。若入選後使用AI產生或改寫合成對話,將逐案記錄工具、版本、日期、提示目的及人工修改,只輸入公開資料或虛構內容;AI輸出不作事實來源、標準答案、醫療判斷或最終裁決。問題定義、來源核對、風險邊界與最終內容由提案人負責,AI不構成本案核心服務。

四、團隊輔導需求調查

(一)若入圍初選,期待主辦單位提供之協助?
協助調整作品架構及服務模式 協助確認應用場域可行性 協助確認預期使用者(TA)是否需調整 協助建議資料應用項目是否需要調整
(二)若入圍初選,是否需要算力平台或雲端協力業者資源?
否
(三)前題若選是,請說明需要何種算力平台(係指數位發展部數位產業署-數位產業跨域軟體基盤暨數位服務躍升計畫)或雲端協力業者(GCP或AWS或Azure或國網中心)之資源及預計應用內容

五、參考文獻或資料引用來源說明

(一)提案內容是否全為原創內容,或有部分引用相關資料來源?
否,有部分內容或資料來源引用其他參考文獻/網頁等。
(二)前題若選否,請說明本提案中所引用之資料來源及其應用環節,建議以條列方式簡述。
1. 2026總統盃黑客松活動須知、競賽主題及評選標準:資格、新案限制、徵件構面、評分與AI揭露依據。 2. 數位發展部「人工智慧風險分類框架」:情境盤點、風險識別、影響評估與應對紀錄架構。 3. 食藥署「食藥闢謠專區資料集」:食藥案例主題與官方資訊核對。 4. 健保署「健保闢謠資料」:健保案例主題與官方資訊核對。 5. 國民健康署「保健闢謠」:預防、篩檢及治療類案例主題與官方資訊核對。 6. 疾病管制署「澄清專區」:傳染病與防疫資訊核對。 7. 衛生福利部「全國諮詢及救援服務專線」:心理支持、保護及急難真人服務導航。 8. OpenAI ChatGPT/Codex:僅依AI使用揭露所列範圍協助研究、整理、校對與合成素材。

團隊成員

單位類型 姓名 單位與職稱 工作項目
民間單位與個人 林法安 RZVN/獨立研究者(AI 對話語境與風險治理) 主要提案單位

資料需求

無資料。