ประเด็นสำคัญล่าสุดมาจากงานวิจัยที่นำโดยสถาบันเทคโนโลยีแมสซาชูเซตส์ (MIT) ซึ่งค้นพบข้อเท็จจริงที่น่ากังวลว่า บริษัทผู้พัฒนา AI Agent ส่วนใหญ่มักไม่เปิดเผยข้อมูลเชิงลึกเกี่ยวกับกระบวนการทดสอบความปลอดภัยของเครื่องมือเหล่านี้ต่อสาธารณะ

มันหมายความว่าอะไรกับคนใช้จริง

สำหรับผู้ใช้งานทั่วไป การขาดข้อมูลทดสอบความปลอดภัยหมายความว่าเรากำลังจะใช้เครื่องมือที่ทรงพลัง โดยไม่ทราบแน่ชัดว่ามันถูกป้องกันจากความผิดพลาดร้ายแรงแล้วหรือยัง เช่น การดำเนินการสั่งซื้อสินค้าโดยไม่ได้รับอนุญาต การเข้าถึงข้อมูลส่วนตัว หรือแม้กระทั่งการสร้างและเผยแพร่ข้อมูลเท็จโดยอัตโนมัติ เรื่องนี้จึงเป็นสัญญาณเตือนให้ผู้ใช้ต้องเพิ่มความระมัดระวังและตระหนักถึงความเสี่ยงที่อาจเกิดขึ้น

สิ่งที่ต้องจับตาต่อ (What to watch)

• ปฏิกิริยาจากบริษัทเทคโนโลยีขนาดใหญ่ต่อผลการวิจัยฉบับนี้ ว่าจะมีการปรับเปลี่ยนนโยบายเพื่อเพิ่มความโปร่งใสหรือไม่
• การผลักดันให้เกิดมาตรฐานกลางในอุตสาหกรรม สำหรับการทดสอบและเปิดเผยข้อมูลความปลอดภัยของ AI Agent
• บทบาทของหน่วยงานกำกับดูแล ที่อาจเข้ามามีส่วนในการออกมาตรการเพื่อคุ้มครองผู้บริโภคในอนาคต

Agentic AI คืออะไร และทำไมจึงน่ากังวล

Agentic AI หรือ AI Agent แตกต่างจาก AI ทั่วไปตรงที่มันไม่ได้แค่ตอบคำถามหรือสร้างเนื้อหาตามคำสั่ง แต่มีความสามารถในการวางแผนและลงมือทำภารกิจที่ซับซ้อนได้ด้วยตัวเอง เช่น การจองตั๋วเครื่องบินพร้อมที่พัก การจัดการอีเมล หรือการวิเคราะห์ข้อมูลตลาดเพื่อทำการซื้อขายสินทรัพย์ดิจิทัล ความสามารถในการ ‘ลงมือทำ’ นี้เองที่ทำให้มันทรงพลังและมีความเสี่ยงสูงหากเกิดข้อผิดพลาด

ช่องว่างของความโปร่งใสที่งานวิจัยค้นพบ

ทีมวิจัยของ MIT ได้ชี้ให้เห็นว่า แม้บริษัทต่างๆ จะพูดถึงความปลอดภัยในภาพรวม แต่กลับขาดการให้ข้อมูลในเชิงเทคนิคที่สำคัญ เช่น สถานการณ์จำลองที่ใช้ทดสอบ (Test Scenarios) ผลลัพธ์ของการทดสอบในสถานการณ์สุดขั้ว (Edge Cases) หรือมาตรการป้องกันเมื่อ AI ทำงานผิดพลาด การไม่มีข้อมูลเหล่านี้ทำให้ทั้งผู้เชี่ยวชาญและสาธารณชนไม่สามารถตรวจสอบและประเมินความเสี่ยงที่แท้จริงของเทคโนโลยีเหล่านี้ได้เลย

ถ้าเรื่องนี้กระทบคุณโดยตรง ให้ดูสิ่งที่เปลี่ยนไปและข้อจำกัดตามต้นทางเป็นหลัก เพื่อเลี่ยงความเข้าใจคลาดเคลื่อน

ตารางตรวจสอบข้อเท็จจริง (Fact-Check)

Reference Site: CNET

ระบบนี้จะคาดการณ์อายุผู้ใช้จากสัญญาณพฤติกรรมและข้อมูลบัญชี เช่น ระยะเวลาที่เปิดใช้งาน รูปแบบการใช้ และช่วงเวลาที่ใช้งาน เพื่อเตรียมเปิดตัวฟีเจอร์สำหรับผู้ใหญ่โดยเฉพาะ

มันหมายความว่าอะไรกับคนใช้จริง

สำหรับผู้ใช้งานทั่วไป การเปลี่ยนแปลงนี้หมายความว่าหากระบบคาดการณ์อายุของคุณผิดพลาด คุณอาจถูกจำกัดการเข้าถึงและต้องยืนยันตัวตนด้วยภาพเซลฟี่ผ่านแพลตฟอร์มภายนอกที่ชื่อว่า Persona เพื่อแก้ไขข้อมูลให้ถูกต้อง ซึ่งเป็นขั้นตอนสำคัญในการแบ่งโซนเนื้อหาให้เหมาะสมกับวัยของผู้ใช้งานแต่ละกลุ่ม

สิ่งที่ต้องจับตาต่อ (What to watch)

• การประกาศเปิดตัว “โหมดผู้ใหญ่” (Adult Mode) อย่างเป็นทางการ ว่าจะมีหลักเกณฑ์และขอบเขตของเนื้อหา NSFW อย่างไรบ้าง
• ประสิทธิภาพของระบบคัดกรองอายุ ว่าจะสามารถป้องกันเยาวชนจากการเข้าถึงเนื้อหาผู้ใหญ่ได้จริงหรือไม่ เมื่อเทียบกับแพลตฟอร์มอื่นที่เคยมีความท้าทายคล้ายกัน

เบื้องหลังการทำงานของระบบคาดการณ์อายุ

OpenAI ระบุว่าโมเดลคาดการณ์อายุจะพิจารณาจากปัจจัยหลายอย่างประกอบกัน ไม่ได้อาศัยข้อมูลเพียงแหล่งเดียว ปัจจัยเหล่านี้รวมถึงอายุของบัญชี, ช่วงเวลาที่ใช้งานเป็นประจำ, รูปแบบการใช้งานที่เปลี่ยนแปลงไปตามเวลา และอายุที่ผู้ใช้เคยระบุไว้เอง

วิธีการนี้แตกต่างจากการยืนยันตัวตนด้วยเอกสารราชการในเบื้องต้น แต่จะใช้ในกรณีที่เกิดข้อผิดพลาด โดยหากผู้ใช้ถูกระบุว่าเป็นผู้เยาว์อย่างไม่ถูกต้อง จะมีช่องทางให้ส่งภาพเซลฟี่เพื่อยืนยันตัวตนผ่านบริการของ Persona ซึ่งเป็นแพลตฟอร์มสำหรับยืนยันตัวตนโดยเฉพาะ

ทำไม OpenAI ถึงต้องทำ? ปูทางสู่ ‘Adult Mode’

ความเคลื่อนไหวครั้งนี้มีเป้าหมายชัดเจนคือการเตรียมความพร้อมสำหรับการเปิดตัว “โหมดผู้ใหญ่” ซึ่งจะอนุญาตให้ผู้ใช้สามารถสร้างและเข้าถึงเนื้อหาที่จัดอยู่ในประเภท NSFW (Not Safe For Work) ได้ การมีระบบคัดกรองอายุที่แม่นยำจึงเป็นสิ่งจำเป็นเพื่อป้องกันไม่ให้เยาวชนเข้าถึงเนื้อหาดังกล่าว

ที่ผ่านมา OpenAI และบริษัท AI อื่นๆ มักถูกวิจารณ์ว่าเปิดตัวฟีเจอร์ใหม่ๆ อย่างรวดเร็วแล้วจึงค่อยตามแก้ปัญหาด้านความปลอดภัยในภายหลัง การเพิ่มมาตรการป้องกันในครั้งนี้จึงเป็นการพยายามทำงานเชิงรุกมากขึ้น หลังจากเคยเผชิญกับประเด็นทางกฎหมายและความกังวลด้านสุขภาพจิตของผู้ใช้งานวัยรุ่นมาก่อน

ถ้าเรื่องนี้กระทบคุณโดยตรง ให้ดูสิ่งที่เปลี่ยนไปและข้อจำกัดตามต้นทางเป็นหลัก เพื่อเลี่ยงความเข้าใจคลาดเคลื่อน

ตารางตรวจสอบข้อเท็จจริง (Fact-Check)

Reference Site: Engadget