ผลการศึกษาใหม่จากนักวิจัยมหาวิทยาลัยสแตนฟอร์ดและอินดีแอนาได้เปิดเผยช่องโหว่สำคัญบนแพลตฟอร์มยอดนิยมสำหรับการซื้อขายโมเดล AI ซึ่งชี้ให้เห็นถึงความท้าทายในการกำกับดูแลเนื้อหาที่สร้างโดยปัญญาประดิษฐ์

มันหมายความว่าอะไรกับคนใช้จริง

เหตุการณ์นี้สะท้อนให้เห็นถึงช่องว่างระหว่างนโยบายที่แพลตฟอร์มประกาศไว้ กับการบังคับใช้จริงในทางปฏิบัติ สำหรับผู้ใช้งานทั่วไป นี่เป็นเครื่องเตือนใจว่าเครื่องมือ AI ที่ทรงพลังซึ่งเข้าถึงได้ง่าย อาจถูกนำไปใช้ในทางที่ผิดและสร้างความเสียหายได้ แม้ว่าแพลตฟอร์มจะมีกฎเกณฑ์เพื่อป้องกันก็ตาม สิ่งนี้ยังชี้ให้เห็นถึงความเสี่ยงที่เพิ่มขึ้นจากการละเมิดข้อมูลส่วนบุคคลและความเป็นส่วนตัวผ่านเทคโนโลยี Deepfake ที่ซับซ้อนขึ้นเรื่อยๆ

สิ่งที่ต้องจับตาต่อ (What to watch)

• การตอบสนองของ Civitai ต่อผลการศึกษาที่ถูกเปิดเผยออกมา และมาตรการที่จะนำมาใช้เพื่อจัดการกับปัญหานี้อย่างจริงจัง
• ท่าทีของ Andreessen Horowitz ในฐานะนักลงทุนรายใหญ่ต่อประเด็นด้านจริยธรรมที่เกิดขึ้นกับบริษัทในพอร์ตโฟลิโอ
• แนวโน้มการกำกับดูแลแพลตฟอร์ม AI ที่อาจเข้มงวดขึ้นในอนาคต เพื่อป้องกันการเผยแพร่เนื้อหาที่เป็นอันตรายและผิดกฎหมาย

ช่องโหว่บนแพลตฟอร์มที่ได้รับการสนับสนุนจากทุนยักษ์ใหญ่

Civitai เป็นที่รู้จักในฐานะตลาดออนไลน์สำหรับซื้อขายและแบ่งปันโมเดล AI สำหรับการสร้างภาพ ซึ่งได้รับความนิยมอย่างสูงในกลุ่มนักพัฒนาและศิลปิน AI การที่แพลตฟอร์มนี้ได้รับการสนับสนุนทางการเงินจาก Andreessen Horowitz ซึ่งเป็นบริษัทร่วมลงทุน (Venture Capital) ชื่อดัง ยิ่งทำให้แพลตฟอร์มมีความน่าเชื่อถือในวงกว้าง อย่างไรก็ตาม การค้นพบครั้งนี้ได้สร้างคำถามสำคัญเกี่ยวกับความรับผิดชอบของแพลตฟอร์ม

การศึกษาชี้ชัดถึงการละเมิดกฎ

ทีมวิจัยจากสองมหาวิทยาลัยชั้นนำได้ทำการวิเคราะห์และพบว่า บนแพลตฟอร์ม Civitai มีการซื้อขายไฟล์คำสั่ง (Instruction files) ที่ถูกสร้างขึ้นโดยมีวัตถุประสงค์เพื่อผลิตภาพลามกอนาจารโดยเฉพาะ ไฟล์เหล่านี้สามารถใช้กับโมเดล AI เพื่อสร้างภาพ Deepfake ของบุคคลจริง รวมถึงบุคคลมีชื่อเสียง ซึ่งเป็นการละเมิดนโยบายการใช้งานของ Civitai อย่างชัดเจนที่ได้ประกาศแบนเนื้อหาประเภทนี้ไปแล้ว ประเด็นนี้แสดงให้เห็นว่าระบบการตรวจสอบและกลั่นกรองเนื้อหาของแพลตฟอร์มอาจยังไม่มีประสิทธิภาพเพียงพอ

ตารางตรวจสอบข้อเท็จจริง (Fact-Check)

ถ้าเรื่องนี้กระทบคุณโดยตรง ให้ดูสิ่งที่เปลี่ยนไปและข้อจำกัดตามต้นทางเป็นหลัก เพื่อเลี่ยงความเข้าใจคลาดเคลื่อน

Reference Site: Technologyreview