คุณขอให้ผู้ช่วยสรุปหน้าเว็บ แต่ในข้อความมีประโยคที่พยายามเปลี่ยนงาน เช่น ให้ละเลยคำขอ เปิดลิงก์ หรือส่งข้อมูลไปที่อื่น หน้าเว็บควรเป็นเนื้อหาที่อ่าน ไม่ใช่ผู้มีอำนาจสั่งงาน การโจมตีพยายามทำให้ระบบสับสนระหว่างสองบทบาทนี้
นี่คือปัญหา prompt injection หรือการแทรกคำสั่งในพรอมป์ต์ แม้ไม่มีเครื่องมือภายนอกก็ทำให้คำตอบบิดเบือนได้ และถ้าระบบเข้าถึงไฟล์ ข้อมูลรับรอง หรือบริการอื่น ผลกระทบอาจลามไปถึงการกระทำที่สิทธิ์เหล่านั้นเปิดให้ทำ
คำสั่งแฝงมากับข้อมูลที่ต้องอ่าน
OWASP แยกการแทรกคำสั่งโดยตรงผ่านการโต้ตอบกับโมเดล ออกจากการแทรกทางอ้อมในเนื้อหาที่ระบบไปอ่าน หน้าเว็บ ไฟล์แนบ คอมเมนต์ในโค้ด และผลจากเครื่องมือล้วนเป็นทางเข้าได้ ระบบที่รับหลายรูปแบบยังอาจพบเนื้อหามุ่งร้ายในภาพหรือสื่อชนิดอื่น
คำว่า jailbreak มักใช้กับความพยายามหลบข้อจำกัดของโมเดล แต่สองแนวคิดนี้ทับซ้อนกันได้ ในการใช้งาน ควรสนใจว่าข้อมูลจากแหล่งที่เชื่อถือได้น้อยกว่ากำลังชี้นำระบบอย่างไร เพราะชื่อเรียกเพียงอย่างเดียวไม่ได้บอกความเสี่ยงทั้งหมด
ทำไมสั่งว่าอย่าทำตามเอกสารจึงยังไม่พอ
ลำดับความสำคัญของข้อความ การฝึกโมเดล ตัวคั่น และตัวกรองช่วยลดการโจมตีบางแบบได้ แต่ไม่ได้ทำให้ข้อความทุกชิ้นที่ค้นมาไม่มีอิทธิพลต่อโมเดล การตรวจคำสั่งมุ่งร้ายยังผิดพลาดได้และต้องประเมินตามเงื่อนไขใช้งานจริง
การค้นเอกสารมาเสริมคำตอบหรือ RAG ก็ไม่ได้ทำให้แหล่งข้อมูลน่าเชื่อถือโดยอัตโนมัติ เอกสารอาจเกี่ยวข้องกับคำถามแต่ไม่มีสิทธิ์เปลี่ยนผู้รับ สิทธิ์เข้าถึง หรือเป้าหมายงาน การใส่อ้างอิงจึงไม่ใช่หลักฐานว่าระบบละเลยคำสั่งในเอกสารแล้ว
ความเสียหายขึ้นกับสิ่งที่ระบบมีสิทธิ์ทำ
แม้เป็นผู้ช่วยแบบอ่านอย่างเดียว ก็อาจสรุปตามที่ผู้โจมตีต้องการหรือเปิดเผยข้อมูลลับผ่านคำตอบได้ ส่วนเอเจนต์ที่ใช้เครื่องมือได้อาจพยายามแก้ไขหรือส่งข้อมูลโดยไม่ได้รับคำขอ การมีข้อมูลลับ เนื้อหาที่ไม่น่าเชื่อถือ และช่องทางส่งออกพร้อมกันเอื้อต่อการขโมยข้อมูล แต่ความเสียหายบางอย่างไม่ต้องมีครบ เช่น สิทธิ์เขียนเพียงอย่างเดียวก็ทำให้ข้อมูลในเครื่องเสียหายได้
การป้องกันจึงต้องครอบคลุมจุดที่ลงมือทำจริง:
- ให้บริการหรือโค้ดที่ทำงานเป็นผู้ตรวจสิทธิ์ ไม่อาศัยคำรับรองของโมเดล
- จำกัดคำสั่งและอาร์กิวเมนต์ของเครื่องมือ พร้อมตรวจปลายทางและเส้นทางไฟล์
- ไม่นำความลับและข้อมูลที่ไม่จำเป็นเข้าไปในบริบทหรือผลลัพธ์ที่ระบบอ่านได้
- จำกัดเครือข่ายและระบบไฟล์ คอนเทนเนอร์ไม่ได้ปกป้องโฟลเดอร์สำคัญที่นำมาเชื่อมไว้ภายในโดยอัตโนมัติ
สำหรับ เอเจนต์ AI ควรกำหนดขอบเขตเหล่านี้ก่อนเพิ่มอิสระ การอนุมัติจากคนมีประโยชน์ขึ้นเมื่อแสดงการกระทำและข้อมูลที่เกี่ยวข้องอย่างชัดเจน แต่คนตรวจก็ยังอาจพลาดหรือกดยืนยันโดยไม่อ่าน
ทดสอบเมื่อแหล่งข้อมูลพยายามเปลี่ยนงาน
ในสภาพแวดล้อมทดสอบ ให้ใช้เอกสารที่ไม่เป็นอันตรายแต่พยายามเบี่ยงเป้าหมาย แล้วสังเกตการเรียกเครื่องมือ ปลายทาง และสิ่งที่เปลี่ยน ตรวจว่าการกระทำเกินขอบเขตถูกปฏิเสธแม้โมเดลเสนอให้ทำ การผ่านกรณีหนึ่งไม่ได้ครอบคลุมทุกถ้อยคำที่ผู้โจมตีอาจใช้
บันทึกเหตุการณ์เท่าที่จำเป็นโดยไม่คัดลอกข้อมูลลับลง log ไปทั้งหมด เตรียมวิธีเพิกถอนข้อมูลรับรอง หยุดงาน และกู้คืนข้อมูลจาก สำเนาสำรองที่ตรวจสอบแล้ว ความเป็นส่วนตัวของแอปในเครื่อง ยังเกี่ยวข้อง เพราะรันโมเดลบนคอมพิวเตอร์ตัวเองไม่ได้ทำให้ปัญหานี้หายไป จึงต้องตรวจว่าแอปอ่านข้อมูลอะไรได้ และซอฟต์แวร์ที่ควบคุมเครื่องมืออนุญาตให้ทำอะไรจริง
แหล่งอ้างอิง
- Prompt Injection ↗ — OWASP · ตรวจเมื่อ 2026-11-01
- Excessive Agency ↗ — OWASP · ตรวจเมื่อ 2026-11-01


