ในการฝึกปรปักษ์ ข้อมูลการฝึก ถูกเสริมด้วยตัวอย่าง “ฝ่ายตรงข้าม” ที่สร้างโดยใช้อัลกอริธึมการโจมตี หากผู้โจมตีใช้อัลกอริธึมการโจมตีที่คล้ายกันเพื่อสร้างตัวอย่างฝ่ายตรงข้าม เครือข่ายสามารถโจมตีได้อย่างแข็งแกร่ง
การเรียนรู้แบบปฏิปักษ์ทำงานอย่างไร
การเรียนรู้ของเครื่องจากฝ่ายตรงข้ามเป็นเทคนิคการเรียนรู้ของเครื่องที่พยายามหลอกแบบจำลองโดยป้อนข้อมูลที่หลอกลวง … เทคนิคแมชชีนเลิร์นนิงส่วนใหญ่ออกแบบมาให้ใช้งานได้ กับชุดปัญหาเฉพาะซึ่งสร้างข้อมูลการฝึกและทดสอบ จากการแจกแจงทางสถิติเดียวกัน (IID)
ตัวอย่างที่เป็นปฏิปักษ์ทำงานอย่างไร
ตัวอย่างที่เป็นปฏิปักษ์คือ อินพุตไปยังโมเดลการเรียนรู้ของเครื่องที่ผู้โจมตีตั้งใจออกแบบให้โมเดลทำผิดพลาด; มันเหมือนกับภาพลวงตาของเครื่องจักร… การป้อนข้อมูลที่เป็นปฏิปักษ์ซึ่งซ้อนทับบนรูปภาพทั่วไป อาจทำให้ตัวแยกประเภทจัดหมวดหมู่แพนด้าเป็นชะนีผิดได้
การฝึกปฏิปักษ์ในการเรียนรู้เชิงลึกคืออะไร
การโจมตีจากฝ่ายตรงข้ามอาจนำมาซึ่งการนำเสนอ โมเดลการเรียนรู้ด้วยเครื่องจักรที่มีข้อมูลที่ไม่ถูกต้องหรือบิดเบือนความจริงขณะกำลังฝึก หรือการแนะนำข้อมูลที่ออกแบบโดยมีเจตนาร้ายเพื่อหลอกลวงโมเดลที่ฝึกแล้วให้ผิดพลาด.
การฝึกปรปักษ์กันคืออะไร
เพื่อเสริมความสามารถในการป้องกันเพิ่มเติม มีการเสนอการฝึกปรปักษ์ภายใต้การกำกับดูแลตนเอง ซึ่ง เพิ่มรูปแบบร่วมกันระหว่างการแสดงตัวอย่างดั้งเดิมและตัวอย่างที่เป็นปฏิปักษ์ที่เกี่ยวข้อง