AI Deepfake แพลตฟอร์ม Civitai ถูกแฉ เปิดขายไฟล์สร้างภาพลามกคนดัง
AI Deepfake กลายเป็นประเด็นร้อน เมื่อแพลตฟอร์ม Civitai ที่มีนักลงทุนรายใหญ่หนุนหลัง ถูกพบว่าปล่อยให้มีการซื้อขายไฟล์สำหรับสร้างภาพลามกอนาจารของคนดัง
ผลการศึกษาใหม่จากนักวิจัยมหาวิทยาลัยสแตนฟอร์ดและอินดีแอนาได้เปิดเผยช่องโหว่สำคัญบนแพลตฟอร์มยอดนิยมสำหรับการซื้อขายโมเดล AI ซึ่งชี้ให้เห็นถึงความท้าทายในการกำกับดูแลเนื้อหาที่สร้างโดยปัญญาประดิษฐ์
ประเด็นสำคัญ
- Civitai แพลตฟอร์มซื้อขายโมเดล AI ที่ได้รับการสนับสนุนจาก Andreessen Horowitz ถูกตรวจพบว่ามีการจำหน่ายไฟล์สำหรับสร้างภาพลามกอนาจาร
- ผลการศึกษาจากมหาวิทยาลัยสแตนฟอร์ดและอินดีแอนาพบว่า ไฟล์บางส่วนถูกออกแบบมาเพื่อสร้างภาพ Deepfake ของบุคคลมีชื่อเสียงโดยเฉพาะ
- การกระทำดังกล่าวขัดแย้งกับนโยบายของ Civitai เองที่ระบุว่าห้ามเนื้อหาประเภทนี้บนแพลตฟอร์ม
มันหมายความว่าอะไรกับคนใช้จริง
เหตุการณ์นี้สะท้อนให้เห็นถึงช่องว่างระหว่างนโยบายที่แพลตฟอร์มประกาศไว้ กับการบังคับใช้จริงในทางปฏิบัติ สำหรับผู้ใช้งานทั่วไป นี่เป็นเครื่องเตือนใจว่าเครื่องมือ AI ที่ทรงพลังซึ่งเข้าถึงได้ง่าย อาจถูกนำไปใช้ในทางที่ผิดและสร้างความเสียหายได้ แม้ว่าแพลตฟอร์มจะมีกฎเกณฑ์เพื่อป้องกันก็ตาม สิ่งนี้ยังชี้ให้เห็นถึงความเสี่ยงที่เพิ่มขึ้นจากการละเมิดข้อมูลส่วนบุคคลและความเป็นส่วนตัวผ่านเทคโนโลยี Deepfake ที่ซับซ้อนขึ้นเรื่อยๆ
สิ่งที่ต้องจับตาต่อ (What to watch)
- การตอบสนองของ Civitai ต่อผลการศึกษาที่ถูกเปิดเผยออกมา และมาตรการที่จะนำมาใช้เพื่อจัดการกับปัญหานี้อย่างจริงจัง
- ท่าทีของ Andreessen Horowitz ในฐานะนักลงทุนรายใหญ่ต่อประเด็นด้านจริยธรรมที่เกิดขึ้นกับบริษัทในพอร์ตโฟลิโอ
- แนวโน้มการกำกับดูแลแพลตฟอร์ม AI ที่อาจเข้มงวดขึ้นในอนาคต เพื่อป้องกันการเผยแพร่เนื้อหาที่เป็นอันตรายและผิดกฎหมาย
ช่องโหว่บนแพลตฟอร์มที่ได้รับการสนับสนุนจากทุนยักษ์ใหญ่
Civitai เป็นที่รู้จักในฐานะตลาดออนไลน์สำหรับซื้อขายและแบ่งปันโมเดล AI สำหรับการสร้างภาพ ซึ่งได้รับความนิยมอย่างสูงในกลุ่มนักพัฒนาและศิลปิน AI การที่แพลตฟอร์มนี้ได้รับการสนับสนุนทางการเงินจาก Andreessen Horowitz ซึ่งเป็นบริษัทร่วมลงทุน (Venture Capital) ชื่อดัง ยิ่งทำให้แพลตฟอร์มมีความน่าเชื่อถือในวงกว้าง อย่างไรก็ตาม การค้นพบครั้งนี้ได้สร้างคำถามสำคัญเกี่ยวกับความรับผิดชอบของแพลตฟอร์ม
การศึกษาชี้ชัดถึงการละเมิดกฎ
ทีมวิจัยจากสองมหาวิทยาลัยชั้นนำได้ทำการวิเคราะห์และพบว่า บนแพลตฟอร์ม Civitai มีการซื้อขายไฟล์คำสั่ง (Instruction files) ที่ถูกสร้างขึ้นโดยมีวัตถุประสงค์เพื่อผลิตภาพลามกอนาจารโดยเฉพาะ ไฟล์เหล่านี้สามารถใช้กับโมเดล AI เพื่อสร้างภาพ Deepfake ของบุคคลจริง รวมถึงบุคคลมีชื่อเสียง ซึ่งเป็นการละเมิดนโยบายการใช้งานของ Civitai อย่างชัดเจนที่ได้ประกาศแบนเนื้อหาประเภทนี้ไปแล้ว ประเด็นนี้แสดงให้เห็นว่าระบบการตรวจสอบและกลั่นกรองเนื้อหาของแพลตฟอร์มอาจยังไม่มีประสิทธิภาพเพียงพอ
ตารางตรวจสอบข้อเท็จจริง (Fact-Check)
| ประเด็น | ข้อมูลจากแหล่งข่าว | ผลตรวจสอบของ AI | สถานะ |
|---|---|---|---|
| แพลตฟอร์มที่ถูกกล่าวถึง | Civitai | ยืนยันชื่อแพลตฟอร์ม Civitai ตามที่แหล่งข่าวระบุ | ตรง |
| นักลงทุนหลัก | Andreessen Horowitz | ระบุชื่อบริษัท Venture Capital ที่ให้การสนับสนุนคือ Andreessen Horowitz ถูกต้องตามแหล่งข่าว | ตรง |
| หน่วยงานที่ทำการศึกษา | นักวิจัยจาก Stanford และ Indiana University | ยืนยันว่าข้อมูลมาจากการศึกษาวิจัยของมหาวิทยาลัยสแตนฟอร์ดและอินดีแอนา | ตรง |
| ปัญหาที่ตรวจพบ | มีการขายไฟล์สำหรับสร้างภาพลามกอนาจารของคนดัง ซึ่งขัดต่อนโยบายของเว็บไซต์ | เนื้อหาหลักคือการขายไฟล์สร้างภาพ Deepfake ลามกอนาจาร ซึ่งละเมิดกฎของแพลตฟอร์มเอง | ตรง |
ถ้าเรื่องนี้กระทบคุณโดยตรง ให้ดูสิ่งที่เปลี่ยนไปและข้อจำกัดตามต้นทางเป็นหลัก เพื่อเลี่ยงความเข้าใจคลาดเคลื่อน
อ่านเพิ่ม
Reference Site: Technologyreview
