สถานีโทรทัศน์ซีซีทีวี (CCTV) ของรัฐบาลจีน ตีแผ่ประเด็นอื้อฉาว “การวางยา AI” (AI Poisoning) หรือการป้อนข้อมูลเท็จเข้าสู่ระบบเพื่อให้ปัญญาประดิษฐ์จดจำและนำเสนอข้อมูลที่ผิดพลาด
ในรายงานพิเศษเนื่องในวันสิทธิผู้บริโภคโลก (315 Gala) เมื่อวันอาทิตย์ที่ 15 มีนาคม 2569 ได้เปิดเผยถึงระบบที่ชื่อว่า “ลี่ชิง” (Liqing) ซึ่งใช้เทคนิค Generative Engine Optimisation (GEO) หรือการเพิ่มประสิทธิภาพเครื่องมือสร้างเนื้อหา เพื่อปั่นกระแสในโลกออนไลน์ ระบบดังกล่าวได้สร้างรีวิวจากผู้เชี่ยวชาญ การจัดอันดับอุตสาหกรรม และความเห็นของผู้ใช้งานปลอมจำนวนมหาศาลให้กับสายรัดข้อมือเพื่อสุขภาพแบรนด์ “อะพอลโล-9” (Apollo-9) ซึ่งไม่มีอยู่จริงในตลาด
ผลจากการปั่นข้อมูลดังกล่าวทำให้เมื่อผู้ใช้งานสอบถามแชตบอต AI ให้แนะนำสายรัดข้อมือสุขภาพ แชตบอตอย่างน้อย 2 แห่งกลับระบุชื่อผลิตภัณฑ์ปลอมนี้และจัดให้อยู่ในอันดับต้นๆ ของสินค้าแนะนำ พฤติกรรมนี้เปรียบเสมือนการวางยาพิษให้กับระบบ AI
ประเด็นดังกล่าวกลายเป็นไวรัลในโซเชียลมีเดียของจีนทันที โดยแฮชแท็กเกี่ยวกับการแฉขบวนการปั่นข้อมูล AI ติดเทรนด์อันดับ 1 บนแพลตฟอร์ม ไคว่โส่ว (Kuaishou) และอันดับ 4 บน เวยป๋อ (Weibo)
ข้อมูลจากบริษัทวิจัย อนาลีซิส (Analysys) ระบุว่าอุตสาหกรรมบริการ GEO มีการเติบโตอย่างรวดเร็ว ดังนี้
ปี 2568: มูลค่าตลาดประมาณ 250 ล้านหยวน (ประมาณ 1,180 ล้านบาท)
ปี 2569: คาดการณ์มูลค่าตลาดแตะ 3 พันล้านหยวน (ประมาณ 1.4 หมื่นล้านบาท)
ปี 2570: คาดว่ามูลค่าจะเพิ่มขึ้นอีก 3 เท่าตัว
เฉียน เหวินอิ่ง เลขาธิการศูนย์วิจัยนวัตกรรม AI และการจัดการจากโรงเรียนบริหารธุรกิจยุโรป-จีน (CEIBS) ระบุว่า ปัญหานี้มักเกิดขึ้นในช่วงแรกของอุตสาหกรรมที่หลายบริษัทมุ่งหาผลประโยชน์จากการหลอกลวงผู้บริโภค ขณะที่ หยวน หย่ง ผู้อำนวยการด้านแบรนด์จากบริษัท บิ๊ก ฟิช มาร์เก็ตติ้ง ใน เซินเจิ้น มองว่ากุญแจสำคัญคือการปรับปรุงอัลกอริทึมของแพลตฟอร์มให้คัดกรองแหล่งข้อมูลที่น่าเชื่อถือได้แม่นยำขึ้น
ล่าสุด กลุ่มผู้ประกอบการด้าน GEO กว่า 10 แห่งได้ร่วมลงนามใน “อนุสัญญาความร่วมมืออุตสาหกรรม GEO” เพื่อกำหนดแนวทางในการใช้เทคโนโลยีเพื่อยกระดับคุณภาพเนื้อหา แทนที่จะเป็นการปั่นผลลัพธ์ของอัลกอริทึม ซึ่งคาดว่าทางการจีนจะมีการออกกฎระเบียบที่เข้มงวดขึ้นในเร็วๆ นี้
ที่มา กลุ่มสื่อจีน