องค์การสหประชาชาติ (UN) ออกคำเตือนว่า โลกกำลังเผชิญความท้าทายครั้งสำคัญจากการพัฒนาเทคโนโลยีปัญญาประดิษฐ์ (AI) ที่ก้าวหน้าอย่างรวดเร็ว จนการกำกับดูแลของภาครัฐและกฎหมายในหลายประเทศอาจตามไม่ทัน พร้อมเรียกร้องให้ทุกภาคส่วนร่วมกันกำหนดแนวทางกำกับดูแลในระดับสากล เพื่อให้ AI ถูกนำไปใช้สร้างประโยชน์ต่อมนุษยชาติอย่างปลอดภัย
คำเตือนดังกล่าวมีขึ้นหลังคณะผู้เชี่ยวชาญด้าน AI ของ UN เผยแพร่รายงานประเมินสถานการณ์ ซึ่งระบุว่า AI กำลังมีความสามารถเพิ่มขึ้นอย่างต่อเนื่อง โดยเฉพาะ AI ยุคใหม่ที่สามารถวางแผน ตัดสินใจ และดำเนินการหลายขั้นตอนได้ด้วยตนเอง หรือที่เรียกว่า Agentic AI ส่งผลให้ศักยภาพของเทคโนโลยีขยายตัวอย่างรวดเร็ว ทั้งในด้านเศรษฐกิจ วิทยาศาสตร์ การแพทย์ และการศึกษา
อย่างไรก็ตาม รายงานชี้ว่า ความก้าวหน้าดังกล่าวมาพร้อมความเสี่ยง หากขาดมาตรการกำกับดูแลที่เหมาะสม AI อาจถูกนำไปใช้เพื่อก่ออาชญากรรมไซเบอร์ สร้างข้อมูลเท็จ หลอกลวงประชาชน หรือสร้างผลกระทบต่อความมั่นคงของประเทศ รวมถึงอาจเกิดพฤติกรรมของระบบ AI ที่ยากต่อการคาดการณ์เมื่อมีความสามารถสูงขึ้น
คณะผู้เชี่ยวชาญระบุว่า แม้ปัจจุบันจะยังไม่มีหลักฐานว่า AI ก่อให้เกิดหายนะระดับโลก แต่การพัฒนาเทคโนโลยีเป็นไปอย่างรวดเร็วจนการศึกษาทางวิทยาศาสตร์และการกำหนดกฎระเบียบยังตามไม่ทัน จึงจำเป็นต้องดำเนินมาตรการเชิงป้องกันตั้งแต่วันนี้ แทนที่จะรอให้เกิดปัญหาแล้วจึงแก้ไข
รายงานยังเสนอให้ประชาคมโลกเร่งสร้างความร่วมมือด้านการกำกับดูแล AI โดยกำหนดมาตรฐานร่วมสำหรับการพัฒนาและทดสอบระบบ AI ที่มีความเสี่ยงสูง เพิ่มความโปร่งใสในการเปิดเผยข้อมูลด้านความปลอดภัย สนับสนุนการวิจัยด้าน AI Safety และช่วยให้ประเทศกำลังพัฒนาสามารถเข้าถึงองค์ความรู้และเครื่องมือกำกับดูแลได้อย่างเท่าเทียม
ปัจจุบันยังไม่มีองค์กรระดับโลกที่มีอำนาจกำกับดูแล AI โดยตรง ทำให้แต่ละประเทศใช้กฎหมายและมาตรการของตนเองในการควบคุมเทคโนโลยีดังกล่าว UN จึงมองว่าการสร้างกรอบความร่วมมือระหว่างประเทศเป็นเรื่องเร่งด่วน เพื่อให้การพัฒนา AI เป็นไปในทิศทางที่ปลอดภัย โปร่งใส และเกิดประโยชน์ต่อสังคมในระยะยาว
ทั้งนี้ รายงานของคณะผู้เชี่ยวชาญจะถูกนำเสนอในการประชุมว่าด้วยธรรมาภิบาล AI ระดับโลกของ UN ที่นครเจนีวา ประเทศสวิตเซอร์แลนด์ ในช่วงต้นเดือนกรกฎาคม เพื่อผลักดันการหารือและกำหนดแนวทางความร่วมมือด้านการกำกับดูแล AI ในอนาคต