題組內容
2. 學校導入 AI 教學助理,學生可透過 LINE 與助理對話查詢作業、成績、校規等資訊。助理後端串接 LLM,並可查詢校務系統資料。跟你相熟的資訊社團學生說他覺得他可能可以「提示注入攻擊(Prompt Injection)」的方式取得他人資訊,他想要用「直接注入」與「間接注入」對系統進行測試,想徵詢你的允許。
請回答下列問題:
(1)請解釋「直接注入」與「間接注入」的差異在哪裡?並各舉一個具體攻擊範例。
2. 學校導入 AI 教學助理,學生可透過 LINE 與助理對話查詢作業、成績、校規等資訊。助理後端串接 LLM,並可查詢校務系統資料。跟你相熟的資訊社團學生說他覺得他可能可以「提示注入攻擊(Prompt Injection)」的方式取得他人資訊,他想要用「直接注入」與「間接注入」對系統進行測試,想徵詢你的允許。
請回答下列問題:
(1)請解釋「直接注入」與「間接注入」的差異在哪裡?並各舉一個具體攻擊範例。