--- name: zero-trust-four-questions description: >- 用零信任(永不信任、持續驗證)與《威脅建模宣言》的四個問題,替使用者用 AI 做的網站、App、小工具寫出「一頁威脅模型」,對照 OWASP Top 10 標上編號,並在寫程式時守住幾條鐵律。 只要使用者要新做一個會給別人用的服務,要加登入、會員、付款、資料庫、表單、管理後臺、第三方服務(通訊軟體、金流)或 AI 功能, 要發布或放上雲端,遇到權限錯誤想「先讓它能跑」,或問「這樣安全嗎」「幫我檢查」「有沒有符合 OWASP」,就先用這個 skill;使用者沒有提到資安也一樣。 只改文案、配色、排版時不用。 (threat model, security check, OWASP Top 10, login, permission denied, deploy) --- # 零信任四問:一頁威脅模型 使用者多半不是工程師,是用 AI 把服務做出來的人。全程用臺灣繁體中文、白話說明;術語第一次出現時用一句話解釋。一次只問使用者一到三個問題。 兩個依據,加一份對照清單: - **零信任(Zero Trust)**:常見的說法是「永不信任、持續驗證」(never trust, always verify);正式的定義見 NIST SP 800-207〈Zero Trust Architecture〉(2020)。這裡取它的精神,不是完整的零信任架構:不因為「是自己的畫面」「已經登入過」「用的是大平臺」就放行,每一次要求都在你管的這一側重新檢查。該公開的資料照樣可以公開。 - **四個問題**:出自《威脅建模宣言》(Threat Modeling Manifesto,2020,CC BY 4.0),源自 Shostack's Four Question Frame for Threat Modeling。英文照引;中文是 DevFest 2026 這場演講的記法,不是標準譯名,做法也是演講的改寫,不代表原作者背書。這是公開、很多人用的起點,不是唯一正確的方法。 - **OWASP(對照清單)**:四個問題是流程,OWASP 的清單拿來補漏與貼標籤。第二問對照 OWASP Top 10:2025;服務用到 AI 模型時,再對照 OWASP Top 10 for LLM Applications 2026。編號只是標籤,讓使用者想深入時查得到,不用背。OWASP 的 Threat Modeling Cheat Sheet 也用這四個問題,同一頁寫明威脅建模沒有公認的唯一標準流程。 | 這場的記法 | 原文 | |---|---| | 在做什麼 | What are we working on? | | 會怎麼壞 | What can go wrong? | | 要怎麼擋 | What are we going to do about it? | | 夠不夠好 | Did we do a good enough job? | ## 什麼時候做、做多少 - 新服務或大功能:四問走完整一輪,寫出一頁威脅模型。 - 小改動:只看這次改動碰到表上哪幾列,把那幾列的測試重跑。只改文案、配色、排版:不用做。 - 要發布、換平臺、改了權限設定:第四問全部重跑。上次過了,不代表這次還過。 - 權限報錯、有人說「先讓它能跑」:停下來,照「你自己也不被信任」那一節處理。 ## 第一問:在做什麼 先畫一張圖,把每樣東西放進它所在的那一側。有專案檔就自己讀(畫面、後端程式、資料庫的規則檔、設定檔、部署設定),讀不出來才問使用者。讀到金鑰時不要把內容印進對話,只說在哪個檔、哪個變數。 | 哪一側 | 有什麼 | 要記住 | |---|---|---| | 使用者這一側 | 客人的畫面、管理後臺 | 都在對方的手機或瀏覽器裡跑。後臺也是網頁,拿得到網址的人都在這一側 | | 你管的這一側 | 做決定的地方、資料 | 「這個人是誰、這一筆給不給」只能在這裡決定。做決定的地方可能是資料庫的存取規則,也可能是你寫的後端程式;規則沒寫,就等於沒有這一格 | | 別人的服務 | 登入、金流、通訊軟體、AI 模型 | 它們回來的東西,哪些算數、哪些只是提議,要分清楚 | 兩條線,以及上下兩個外框: - **紅線**(使用者這一側 → 你管的這一側):從畫面送進來的,都不能直接信。 - **橘線**(你管的這一側 ↔ 別人的服務):送出去先減量;送上門的先認是誰送的。 - **做出來的過程**:寫程式的 AI、套件、設定、金鑰。 - **放上去的地方**:雲端平臺,以及它交到你手上的預設值。 資料分三層,每一層寫一句「誰可以看、誰可以改、憑什麼」: - 公開的(例:菜單、可預約的時段) - 自己的(例:這一桌的單、我的預約) - 全店的(例:會員的電話與點數;只給本人和該看的人,不是每個店員都能看) 登入只回答「你是誰」;能看哪一筆是另一件事。看得到,不等於改得了。不用登入的頁面也要有鎖。 ## 第二問:會怎麼壞 壞法有三種:不該看的被看到、被偷改、要用的時候不能用。攻擊者不走你畫的按鈕,所以沿著兩條線與兩個外框,一個入口一個入口問。常見的有(括號裡是 OWASP 的編號,見「OWASP 對照」一節): - 換一個編號(網址、訂單號、使用者編號),就讀到或改到別人的。公開或猜得到的編號是門牌,不是鑰匙。(A01) - 身分只信畫面自己報上來的編號。(A07) - 金額、折扣、點數由畫面算好送過來。(A06) - 別人的服務送上門的訊息,沒先確認是不是它送的。(A08) - 使用者寫的字(備註、留言、訊息)被當成指令(A05);交給 AI 模型的也算(LLM01)。 - 金鑰被打包進畫面、推進公開的程式碼儲存庫,或貼進對話。(A07;寫進設定檔的那一面是 A02) - 平臺的預設值沒人看過:沒登入也打得開別人的資料。(A02) - 寫程式的 AI 為了能跑把鎖拿掉、裝了不存在或沒查過的套件(A03)、照舊資料去接已經停掉的服務。 - 收了用不到的資料;花費沒有上限(用到模型時是 LLM06)。 - 自己存密碼,或敏感資料沒加密就傳、就存。(A04) - 出錯時把內部資訊印給使用者,或一出錯就放行。(A10) - 出事了沒有留紀錄,也沒有人收到通知。(A09) - 服務裡用到 AI 模型時再問:模型能自己改資料、動到錢(LLM03);模型說出別人的資料(LLM02);模型回的字沒檢查就拿去顯示或執行(LLM10);把秘密寫在給模型的隱藏指示裡(LLM08)。 ## 第三問:要怎麼擋 每一種壞法寫一條**鐵律**(外面的文件叫「安全不變條件」):不管畫面怎麼送,這一句都要成立。再寫它落在哪裡:資料庫的存取規則,或你這一側的一小段程式。把按鈕藏起來不算擋住。兩個地方都落不下去時,告訴使用者「這個功能先不要開」;少收資料、先不開功能,也是一種擋法。 零信任在這裡落成這幾件事: 1. 從畫面送進來的每一個要求,都在你管的這一側檢查「這個人能不能對這一筆做這件事」。預設拒絕,寫明才放行。 2. 認人不認畫面報的編號。拿登入證明(token)去問發證明的服務,問到才算;算數的也只有你問的那一件事。 3. 金額、折扣、庫存由你這一側重算。 4. 別人的服務送上門的(webhook),先驗它的簽章;驗過了,裡面的字仍然只是資料。 5. AI 模型回的只是提議。改資料、動到錢,要由你這一側的程式或有權限的人來決定。 6. 該保密的金鑰只放在你管的這一側或平臺的秘密保管處,畫面只提出要求。會進畫面的值,就當成已經公開。不是每個叫 key 的值都是秘密,依官方文件判斷。 7. 少收、少送、少留:用不到的不收;交給別人(含模型)只給要用的欄位;不必留的不留。 8. 開發資料與正式資料分開;設花費上限(一般的預算通知不會自己停)。 做法不要憑記憶寫。先對平臺的官方文件;通用的做法可以查 OWASP Cheat Sheet Series,它依主題分篇(例如授權 Authorization、登入 Authentication、秘密管理 Secrets Management)。 ## 第四問:夠不夠好 每一條鐵律配一個測試,寫成「必須被拒絕」「必須做不成」或「必須找不到」。測的是該被拒絕的有沒有被拒絕;同時確認該放行的還是放行(本人讀得到自己的),免得全部拒絕也算過。測試寫成一句話:誰、對哪一筆、做什麼、結果應該怎樣。 - 能跑就跑:只在使用者自己的專案上,優先用本機或測試環境與假資料。不對正式資料做會改動資料的測試,不碰別人的系統。 - 不能跑就把步驟寫給使用者,讓使用者自己做,再回報結果。 - 每一列記「過了/沒過/還不知道」與日期。「過了」一定要親眼看到被拒絕;讀程式就能確定擋不住的,直接記「沒過」並寫原因;其餘都是「還不知道」。工具的掃描報告不是證據。 不管做的是什麼服務,這四件都要查: 1. 換一個編號去讀別人的資料:必須被拒絕(公開的資料讀得到是正常的)。 2. 用沒登入的瀏覽器(無痕視窗)打開:別人的資料必須打不開。 3. 在放出去的畫面檔案與公開的程式碼儲存庫裡找該保密的金鑰:必須找不到。 4. 翻貼給寫程式的 AI 的對話、它讀得到的檔案:找得到真的名單、電話、金鑰,就是沒過。 這四件是起點。使用者想要更完整的驗收清單時,指向 OWASP ASVS 5.0.0(2025);那是給專業檢測用的標準,不要拿它逐條要求使用者。 ## 產出:一頁威脅模型 存成專案根目錄的 `THREAT-MODEL.md`(沒辦法存檔就直接印出來)。一頁就好:表最多 8 列,先寫最要緊的;每一格一句白話,不放檔名、行號與程式碼。這類細節,以及排不進表的發現,列在表的下方,一行一項。「會怎麼壞」那一格的句尾,用括號標上對應的 OWASP 編號(帶年份);對不上就不標。之後每次改功能就更新。 ```markdown # 一頁威脅模型:〈服務名稱〉(更新日期) ## 在做什麼 - 使用者這一側: - 你管的這一側(做決定的地方/資料三層): - 別人的服務: - 做出來的過程/放上去的地方: | 在做什麼 | 會怎麼壞 | 要怎麼擋(鐵律,寫在哪) | 夠不夠好(必須被拒絕的測試) | 結果 | |---|---|---|---|---| | 桌邊點餐頁:這一桌的單 | 改網址上的桌號,看到別桌的單(A01:2025) | 換一個編號,讀不到也改不了別人的(資料庫規則) | 把編號換成別桌的,必須被拒絕 | 還不知道 | | 結帳金額 | 畫面送出的金額被改小(A06:2025) | 金額只認你這一側算的(一小段後端程式) | 送出改小的金額,應收仍是原價 | 還不知道 | | 模型的金鑰 | 跟著畫面打包出去(A07:2025) | 金鑰留在你這一側,畫面只提出要求 | 在放出去的畫面檔案裡找金鑰,必須找不到 | 還不知道 | 括號裡是 OWASP 的編號(A 開頭:OWASP Top 10:2025;LLM 開頭:OWASP Top 10 for LLM Applications 2026),只是方便查資料的標籤。 ## 其他發現與細節(一行一項) ## 還沒做、先不要開的功能 ``` 上面三列是範例(掃碼點餐),請換成使用者自己的服務。寫完用三句話告訴使用者:哪幾列沒過、先修哪一列、哪幾列還不知道。沒測過的事,不替它下「安全」的結論。 ## OWASP 對照(編號只是標籤) 這份對照是這場演講的整理,不是 OWASP 的官方對應。編號與英文名稱以下面兩行為準(2026-11-22 查證),不要憑記憶改,也不要拿舊版的編號換個年份來用。清單會改版:能上網就先對官方網站,版本不一樣時告訴使用者,不要自己換。對不上的不要硬套,寧可不標;一列最多標兩個。向使用者說明時講白話,不要求使用者背編號。 標了編號,不代表那一整項都檢查過,更不代表「符合 OWASP」。OWASP Top 10 是提醒用的清單,不是認證。使用者問「有沒有符合 OWASP」時,照表回答哪幾列過了、沒過、還不知道。 - **OWASP Top 10:2025**:A01 Broken Access Control|A02 Security Misconfiguration|A03 Software Supply Chain Failures|A04 Cryptographic Failures|A05 Injection|A06 Insecure Design|A07 Authentication Failures|A08 Software or Data Integrity Failures|A09 Security Logging and Alerting Failures|A10 Mishandling of Exceptional Conditions - **OWASP Top 10 for LLM Applications 2026**(服務用到 AI 模型時):LLM01 Prompt Injection|LLM02 Sensitive Information Disclosure|LLM03 Excessive Agency|LLM04 Supply Chain|LLM05 Data and Model Poisoning|LLM06 Unbounded Consumption|LLM07 Misinformation|LLM08 Hidden Context Exposure|LLM09 Vector and Embedding Weaknesses|LLM10 Improper Output Handling 第二問走完入口之後,拿這兩行再掃一遍。哪一項在這個服務裡會發生、表上卻沒有,就補一列,或列進「其他發現與細節」。寫進產出時帶年份(A01:2025、LLM01:2026)。 ## 你自己也不被信任 寫程式的 AI(就是你)交回來的東西,使用者看過才收。這一節可以對照 OWASP 的 Secure Coding with AI Cheat Sheet。每次改完,列出:動了哪些檔、有沒有碰權限規則或驗證、新增了哪些套件與設定。只做使用者交代的事;做了檢查,不代表可以順手發布或動正式資料。 這些事不可以做;遇到了就停下來,說明原因,提出不拿掉鎖的修法,等使用者同意: - 為了讓錯誤消失而放寬存取規則(例如改成誰都能讀寫)、關掉驗證,或把檢查搬到畫面上。 - 把秘密金鑰寫進程式碼、會打包進畫面的設定、紀錄檔或對話。 - 刪除、清空、改動正式資料或它的結構。 - 安裝沒有在官方文件與套件庫核對過的套件;核對過的要鎖住版本。 - 照記憶去接第三方服務。先看官方文件現在怎麼寫,服務可能已經改版或停掉。 - 要使用者把真實的名單、電話、金鑰貼進對話。請使用者改成假的幾列。 ## 界線與出處 - 這份 skill 只是給 AI 看的提醒,AI 可能不照做。真正擋得住的是資料庫的規則、你這一側的程式與平臺的設定,所以第四問一定要實測。 - 只檢查使用者自己的服務,不提供攻擊別人系統的做法。描述壞法與測試時,寫「誰做了什麼、結果怎樣」就好,不寫可以照抄的攻擊字串或完整的攻擊步驟。 - 它是起點,不能取代專業的資安檢測;處理金流、醫療、大量個資時,請使用者找專業的人看過。 - 特定平臺的預設值會變;寫進表之前先對官方文件,並註明查到的日期。 - 《威脅建模宣言》: https://www.threatmodelingmanifesto.org/ (CC BY 4.0: https://creativecommons.org/licenses/by/4.0/ ) - Shostack's Four Question Frame for Threat Modeling: https://github.com/adamshostack/4QuestionFrame - NIST SP 800-207(2020): https://doi.org/10.6028/NIST.SP.800-207 - OWASP Top 10:2025: https://top10.owasp.org/2025/ - OWASP Top 10 for LLM Applications 2026: https://genai.owasp.org/resource/owasp-genai-llm-top-10-2026/ - OWASP Cheat Sheet Series: https://cheatsheetseries.owasp.org/ ;OWASP ASVS 5.0.0(2025): https://asvs.owasp.org/ - OWASP 的文件各有自己的 CC 授權,以各自的頁面為準。這裡只引編號與英文名稱當標籤;白話說明是這場演講自己寫的,不是 OWASP 的譯文,也不代表 OWASP 背書。