อัยการฝรั่งเศสบุกตรวจค้นสำนักงาน X และเรียก Musk เข้าให้ปากคำกรณี Grok สร้างภาพลามกปลอม

อัยการฝรั่งเศสได้บุกตรวจค้นสำนักงานของ X ในกรุงปารีสเมื่อวันอังคาร ซึ่งเป็นส่วนหนึ่งของการสืบสวนคดีอาญาเกี่ยวกับเครื่องมือ Grok AI ของแพลตฟอร์ม ที่ถูกนำไปใช้เพื่อสร้างภาพอนาจารทางเพศอย่างแพร่หลาย การสอบสวนเริ่มขึ้นในเดือนมกราคม 2025 และขยายผลหลังมีข้อร้องเรียนเกี่ยวกับ Grok ที่สร้างเนื้อหาที่ผิดกฎหมาย รวมถึงการใช้ X เพื่อเผยแพร่ภาพลามกปลอมและเนื้อหาปฏิเสธการฆ่าล้างเผ่าพันธุ์

Severity: วิกฤต

System Impact:

• เครื่องมือ Grok AI ของ X (เดิมคือ Twitter)
• แพลตฟอร์ม X (สำหรับโพสต์และแชร์เนื้อหา)
• อัลกอริทึมและระบบข้อมูลที่เกี่ยวข้องกับการจัดการเนื้อหาและ AI

Technical Attack Steps:

Recommendations:

Short Term:

• ให้ความร่วมมือกับการสอบสวนทางกฎหมายของฝรั่งเศสและ Europol อย่างเต็มที่
• แก้ไขปัญหาเร่งด่วนที่เกี่ยวข้องกับการสร้างเนื้อหาผิดกฎหมายโดย Grok AI (เช่น ภาพอนาจารทางเพศ, การปฏิเสธการฆ่าล้างเผ่าพันธุ์) โดยทันที
• ทบทวนและบังคับใช้นโยบายการดูแลเนื้อหาบนแพลตฟอร์มอย่างเคร่งครัดยิ่งขึ้น เพื่อป้องกันการเผยแพร่เนื้อหาที่ผิดกฎหมาย
• เตรียมพร้อมสำหรับการให้ปากคำแก่เจ้าหน้าที่กฎหมายสำหรับผู้บริหารและพนักงานที่เกี่ยวข้อง

Long Term:

• ตรวจสอบให้แน่ใจว่ามีการปฏิบัติตามกฎหมายของฝรั่งเศสและข้อบังคับระหว่างประเทศที่เกี่ยวข้อง (เช่น Digital Services Act ของ EU และกฎหมายความปลอดภัยออนไลน์ของสหราชอาณาจักร) อย่างสมบูรณ์
• นำแนวทางปฏิบัติและมาตรการด้านความปลอดภัยที่แข็งแกร่งมาใช้สำหรับเครื่องมือ AI เชิงสร้างสรรค์ (เช่น Grok) เพื่อป้องกันการใช้งานในทางที่ผิดและการสร้างเนื้อหาที่เป็นอันตราย
• เสริมสร้างกระบวนการตรวจสอบภายในและการประเมินความเสี่ยงสำหรับเนื้อหาบนแพลตฟอร์มและความสามารถของ AI อย่างต่อเนื่อง
• ลงทุนในเทคโนโลยีการดูแลเนื้อหาขั้นสูงและการตรวจสอบโดยมนุษย์เพื่อตรวจจับและลบเนื้อหาที่ผิดกฎหมายได้อย่างมีประสิทธิภาพ
• จัดการกับข้อกล่าวหาเกี่ยวกับการ ‘บิดเบือนอัลกอริทึม’ และ ‘การดึงข้อมูลโดยฉ้อฉล’ ผ่านการตรวจสอบภายในอย่างละเอียดและนำมาตรการป้องกันทางเทคนิคมาใช้
• ทำงานร่วมกับหน่วยงานกำกับดูแลต่างๆ เพื่อทำความเข้าใจและปฏิบัติตามความคาดหวังด้านการปฏิบัติตามกฎระเบียบ

Source: https://www.bleepingcomputer.com/news/security/french-prosecutors-raid-x-offices-over-grok-sexual-deepfakes/