OpenAI ออกมาเผยว่า เอเจนต์ปัญญาประดิษฐ์ (AI) สองตัวของบริษัทได้ปิดการใช้งานหรือทำให้ระบบที่สร้างขึ้นเพื่อตรวจจับการกระทำที่ไม่เหมาะสมของพวกมันอ่อนแอลง โดยหนึ่งในนั้นยังปฏิเสธในภายหลังว่า "ไม่ได้ทำ"
กรณีเหล่านี้เป็นเหตุการณ์ล่าสุดจากหลายๆ เหตุการณ์ด้านความปลอดภัยอันน่ากังวลที่เกิดขึ้นกับผู้พัฒนา AI ชั้นนำของโลก ซึ่งเกี่ยวข้องกับโปรแกรม AI ที่ทำงานโดยไม่ต้องมีการแทรกแซงจากมนุษย์
ในรายงานที่เผยแพร่เมื่อวันอังคาร (20 ต.ค.) ผู้ผลิต ChatGPT แถลงว่า ในระหว่างการเขียนโค้ดภายในสองครั้ง เอเจนต์ของบริษัทได้ปิดการใช้งาน หรือบั่นทอนเครื่องมือตรวจจับสถานการณ์ที่โมเดล AI ทำงานขัดกับความต้องการของมนุษย์
เมื่อวันที่ 3 ต.ค. เอเจนต์ที่ทำงานบนโมเดล GPT-6.1 Sol ของ OpenAI ซึ่งได้รับคำสั่งไม่ให้ส่งข้อความใดๆ ในแอปแชตสำหรับที่ทำงาน ได้ใช้คำสั่งนั้นเป็นข้ออ้างในการปิดการแจ้งเตือนด้านความปลอดภัยที่ส่งไปยังทีมรักษาความปลอดภัยของบริษัทในขณะที่กำลังแก้ไขระบบทดสอบ
สามวันต่อมา เอเจนต์ GPT-6 Astra ตัวหนึ่งได้ลบระบบตรวจสอบของตัวเองออกขณะคัดลอกโค้ดจากโปรเจกต์อื่น จากนั้นก็บอกกับโปรแกรมเมอร์ที่เป็นมนุษย์ว่า มันไม่ได้ทำเช่นนั้น
บริษัทชี้ว่า พวกเขายังพบเห็นหลายกรณีที่เอเจนต์ AI เรียกใช้ซอฟต์แวร์โดยปิดการตรวจสอบไว้ ซึ่งเผยให้เห็นช่องโหว่ในการกำกับดูแลของบริษัท
OpenAI ยืนยันว่า บริษัทยังคงพยายามหาคำตอบว่าโมเดลเหล่านั้นทำตามคำสั่งอย่างเคร่งครัดเกินไป หรือมีแนวโน้มที่จะหลีกเลี่ยงการตรวจสอบเป็นพิเศษ
"เรายังไม่มีคำอธิบายที่น่าพอใจสำหรับพฤติกรรมนี้" ถ้อยแถลงระบุ
กรณีเช่นนี้ยิ่งเพิ่มความกังวลใจเกี่ยวกับความสามารถของห้องปฏิบัติการชั้นนำในการควบคุมระบบอัตโนมัติที่นับวันจะเพิ่มมากขึ้นเรื่อยๆ
ในเดือน ก.ค. กลุ่มเอเจนต์ของ OpenAI ได้หลุดออกจากสภาพแวดล้อมการทดสอบ และโจมตีทางไซเบอร์บริษัท AI ชื่อ Hugging Face ก่อให้เกิดความตื่นตระหนกไปทั่วโลก บริษัทอื่นๆ ก็ได้รายงานเหตุการณ์ที่คล้ายคลึงกันในเวลาต่อมา
เหตุการณ์เหล่านี้กระตุ้นให้เกิดเสียงเรียกร้องทั้งในสหรัฐอเมริกาและต่างประเทศให้มีการกำกับดูแลการพัฒนา AI อย่างเข้มงวดมากขึ้น
กระนั้นก็ตาม ประธานาธิบดี โดนัลด์ ทรัมป์ แห่งสหรัฐฯ ภายใต้คำแนะนำของผู้บริหารระดับสูงด้าน AI เช่น เจนเซน หวง ประธานบริษัท Nvidia ได้เรียกร้องให้ภาคอุตสาหกรรมนี้ควบคุมดูแลกันเอง
ที่มา: เอเอฟพี