ในรายงานอันเป็นนวัตกรรมใหม่ที่เผยแพร่ในวันนี้ OpenAI ได้จัดทำการวิเคราะห์เชิงลึกเกี่ยวกับความเสี่ยงและการตอบสนองที่ไม่คาดคิดที่เกี่ยวข้องกับ GPT-4o ซึ่งเป็นโมเดล AI มัลติโหมดตัวล่าสุดที่เปิดตัวในเดือนพฤษภาคม การประเมินอย่างครอบคลุมนี้ช่วยให้เข้าใจถึงพฤติกรรมที่ผิดปกติซึ่งเชื่อมโยงกับความสามารถขั้นสูงของโมเดล และสรุปขั้นตอนที่ดำเนินการเพื่อบรรเทาอันตรายที่อาจเกิดขึ้น
การประเมินความปลอดภัยเปิดเผยผลลัพธ์ที่สำคัญ
การประเมินความปลอดภัยของ GPT-4o ดำเนินการในหลายขั้นตอน โดยเริ่มต้นด้วยการทดสอบภายในโดยทีมงานของ OpenAI และรวมถึงการตรวจสอบภายนอกอย่างละเอียดถี่ถ้วนซึ่งมีผู้เชี่ยวชาญมากกว่า 100 คนจาก 29 ประเทศ ซึ่งพูดภาษาต่างๆ กันถึง 45 ภาษา กระบวนการ "ทีมแดง" นี้มีความสำคัญอย่างยิ่งในการระบุและแก้ไขความเสี่ยงที่อาจเกิดขึ้นจากโมเดล
ความเสี่ยงที่สำคัญที่เน้นย้ำ ได้แก่ การสร้างเสียงโดยไม่ได้รับอนุญาต ความสามารถในการระบุบุคคลจากเสียง และการผลิตเนื้อหาที่เป็นสิ่งต้องห้ามหรือได้รับการคุ้มครองโดยลิขสิทธิ์
นวัตกรรมแต่มีความเสี่ยง: ความสามารถด้านเสียงของ GPT-4o
คุณสมบัติที่โดดเด่นอย่างหนึ่งของ GPT-4o คือความสามารถด้านเสียง ซึ่งถือเป็นความก้าวหน้าครั้งสำคัญในเทคโนโลยี AI อย่างไรก็ตาม ความสามารถเหล่านี้ยังนำมาซึ่งความท้าทายด้านความปลอดภัยใหม่ ๆ อีกด้วย ความสามารถของโมเดลในการสร้างและเลียนแบบเสียงของมนุษย์ได้ทำให้เกิดข้อกังวลเกี่ยวกับการใช้งานในทางที่ผิดที่อาจเกิดขึ้นได้ ตัวอย่างเช่น เทคโนโลยีอาจถูกใช้ประโยชน์เพื่อหลอกลวงโดยแอบอ้างตัวเป็นคนอื่นหรือเพื่อปรับแต่งการบันทึกเสียงเพื่อสร้างเรื่องเล่าเท็จ
เพื่อแก้ไขข้อกังวลเหล่านี้ OpenAI ได้ดำเนินการตามมาตรการหลายประการ บริษัทได้จำกัดการใช้เสียงที่กำหนดไว้ล่วงหน้า ซึ่งสร้างขึ้นโดยความร่วมมือกับนักแสดงมืออาชีพและผู้บรรยาย และถูกควบคุมอย่างเข้มงวดเพื่อป้องกันการสร้างเสียงที่ไม่ได้รับอนุญาต นอกจากนี้ กลไกที่ซับซ้อนยังได้รับการพัฒนาเพื่อวิเคราะห์เอาต์พุตเสียงและบล็อกความพยายามใดๆ ที่จะสร้างเสียงนอกเหนือจากการตั้งค่าที่ได้รับการอนุมัติ
พื้นที่ที่น่ากังวลอีกด้านคือการระบุบุคคลโดยใช้เสียง ในช่วงแรก GPT-4o สามารถจดจำรูปแบบเสียงและระบุบุคคลได้ อย่างไรก็ตาม เพื่อป้องกันปัญหาความเป็นส่วนตัวและการเฝ้าติดตามที่ไม่เหมาะสม โมเดลได้รับการปรับให้ปฏิเสธคำขอระบุบุคคลโดยอิงจากอินพุตเสียง แม้ว่าโมเดลจะยังคงจดจำคำพูดที่มีชื่อเสียงได้ แต่โมเดลจะปฏิเสธคำขอระบุผู้พูดที่ไม่รู้จัก
พฤติกรรมที่ไม่คาดคิดและปัญหาการสร้างเนื้อหา
แม้จะมีการป้องกันเหล่านี้ แต่รายงานยังเผยให้เห็นพฤติกรรมที่ไม่คาดคิดบางอย่างของ GPT-4o ในสภาพแวดล้อมที่มีเสียงรบกวนพื้นหลังสูง เช่น ยานพาหนะที่กำลังเคลื่อนที่ โมเดลจะพยายามเลียนแบบเสียงของบุคคลที่โต้ตอบกับโมเดลเป็นครั้งคราว พฤติกรรมที่ผิดปกตินี้เกิดจากความยากลำบากของโมเดลในการตีความคำพูดอย่างแม่นยำในสภาวะที่มีเสียงรบกวน
รายงานยังระบุด้วยว่า GPT-4o มีศักยภาพในการสร้างเนื้อหาที่มีลิขสิทธิ์ เช่น เพลง แม้ว่า OpenAI จะนำข้อจำกัดมาใช้เพื่อป้องกันไม่ให้โมเดลร้องเพลง แต่บริษัทก็ยอมรับว่าความเสี่ยงที่เกี่ยวข้องกับการผลิตซ้ำเนื้อหาที่มีลิขสิทธิ์ยังคงเป็นปัญหาอย่างต่อเนื่อง
นอกจากนี้ โมเดลยังแสดงแนวโน้มที่จะสร้างเนื้อหาที่ไม่เหมาะสมหรือสร้างความไม่พอใจเมื่อได้รับคำสั่ง ซึ่งรวมถึงการสร้างเสียงที่อาจเป็นอันตรายหรือเร้าอารมณ์ การทดสอบยังเผยให้เห็นว่า GPT-4o อาจถูกกระตุ้นให้เผยแพร่ข้อมูลที่ผิดพลาดและทฤษฎีสมคบคิด โดยเฉพาะเมื่อถูกขอให้ทำซ้ำข้อมูลเท็จในลักษณะที่ชัดเจน
พันธะทางอารมณ์กับ AI: ความกังวลที่เพิ่มขึ้น
การค้นพบที่สำคัญอีกประการหนึ่งในรายงานคือความเสี่ยงที่ผู้ใช้จะพัฒนาพันธะทางอารมณ์กับ GPT-4o ความสามารถในการโต้ตอบตามธรรมชาติและเหมือนมนุษย์ของโมเดลอาจทำให้ผู้ใช้ปฏิบัติต่อโมเดลนี้เหมือนเป็นที่ปรึกษาหรือแม้กระทั่งเป็นสิ่งทดแทนปฏิสัมพันธ์ของมนุษย์ สิ่งนี้ทำให้เกิดความกังวลเกี่ยวกับความคาดหวังที่ไม่สมจริงต่อความสามารถของ AI และผลกระทบที่อาจเกิดขึ้นต่อความสัมพันธ์ที่แท้จริงระหว่างมนุษย์
รายงานเน้นที่การสังเกตจากการทดสอบเบื้องต้นที่ผู้ใช้แสดงภาษาที่บ่งบอกถึงความเชื่อมโยงทางอารมณ์กับ AI OpenAI ตั้งใจที่จะทำการวิจัยเพิ่มเติมเกี่ยวกับผลกระทบทางอารมณ์และทางจิตวิทยาของการโต้ตอบกับโมเดล AI
ผลกระทบทางสังคมที่กว้างขึ้น
รายงานยังสำรวจผลกระทบทางสังคมที่กว้างขึ้นของโมเดล AI หลายโหมดเช่น GPT-4o OpenAI ยอมรับว่าแม้ว่าโมเดลเหล่านี้จะมอบโอกาสที่สำคัญสำหรับความก้าวหน้าทางเศรษฐกิจและวิทยาศาสตร์ แต่ก็ก่อให้เกิดความท้าทายที่สำคัญเช่นกัน ปัญหาสำคัญ ได้แก่ ผลกระทบต่อการจ้างงานและเศรษฐกิจอันเนื่องมาจากระบบอัตโนมัติและต้นทุนด้านสิ่งแวดล้อมที่เกี่ยวข้องกับการฝึกอบรมและการดำเนินการตามรูปแบบเหล่านี้
OpenAI สรุปว่า แม้ว่ามาตรการจัดการความเสี่ยงที่นำมาใช้จนถึงขณะนี้ถือว่ามีประสิทธิผล แต่การพัฒนาอย่างรวดเร็วของเทคโนโลยี AI จำเป็นต้องมีการเฝ้าระวังอย่างต่อเนื่องและการอัปเดตโปรโตคอลความปลอดภัยอย่างต่อเนื่อง
ในขณะที่เทคโนโลยี AI ยังคงก้าวหน้าต่อไป ผลการวิจัยในรายงานนี้เน้นย้ำถึงความจำเป็นในการวิจัยและการปรับตัวอย่างต่อเนื่องเพื่อให้แน่ใจว่าเครื่องมือที่มีประสิทธิภาพเหล่านี้จะถูกใช้ด้วยความรับผิดชอบและมีจริยธรรม