UN เตือน AI ขั้นสูงอาจเป็นภัยต่อมนุษยชาติ เรียกร้องทั่วโลกเร่งออกกฎควบคุม

องค์การสหประชาชาติส่งสัญญาณเตือนถึงความเสี่ยงจากการพัฒนาปัญญาประดิษฐ์ขั้นสูง โดยระบุว่า AI อาจกลายเป็นภัยคุกคามระดับการดำรงอยู่ของมนุษยชาติ หากรัฐบาลและบริษัทเทคโนโลยียังไม่เร่งวางมาตรการความปลอดภัยที่เข้มแข็งเพียงพอ

คำเตือนดังกล่าวมาจาก โวลเคอร์ เติร์ก (Volker Türk) ข้าหลวงใหญ่สิทธิมนุษยชนแห่งสหประชาชาติ ระหว่างการกล่าวเปิดประชุมคณะมนตรีสิทธิมนุษยชนแห่งสหประชาชาติ สมัยที่ 63 ที่นครเจนีวา ประเทศสวิตเซอร์แลนด์ เมื่อวันที่ 7 กันยายน 2569

UN กังวล AI มีอำนาจมากขึ้นเรื่อย ๆ

โวลเคอร์ เติร์ก เตือนว่า AI ที่มีความสามารถสูงอาจสร้างความเสี่ยงร้ายแรงต่อมนุษยชาติ โดยเฉพาะเมื่อระบบสามารถตัดสินใจและทำงานที่ซับซ้อนได้อย่างอัตโนมัติมากขึ้น ขณะที่กลไกควบคุมและกฎหมายของหลายประเทศยังพัฒนาตามเทคโนโลยีไม่ทัน

คำว่า “ความเสี่ยงระดับการดำรงอยู่” หรือ Existential Risk ไม่ได้หมายความว่า AI จะทำลายมนุษยชาติอย่างแน่นอน แต่หมายถึงความเสียหายที่อาจมีขนาดรุนแรงมาก หากมนุษย์สูญเสียความสามารถในการควบคุมระบบขั้นสูง หรือมีผู้ใช้นำเทคโนโลยีไปสร้างอาวุธ โจมตีโครงสร้างพื้นฐาน และก่ออาชญากรรมในวงกว้าง

UN จึงต้องการให้รัฐบาลและผู้พัฒนาเริ่มวางแนวป้องกันตั้งแต่ตอนนี้ แทนที่จะรอจนเกิดเหตุการณ์ร้ายแรงก่อนจึงออกมาตรการรับมือ

อำนาจ AI กระจุกตัวอยู่กับบริษัทไม่กี่ราย

ประเด็นสำคัญอีกด้านคือ เทคโนโลยี AI ที่ทรงพลังที่สุดในโลกถูกควบคุมโดยบริษัทและบุคคลเพียงกลุ่มเล็ก ๆ ผู้ให้บริการรายใหญ่ เช่น OpenAI, Google, Anthropic และ Meta มีทั้งข้อมูล ระบบประมวลผล และบุคลากรที่จำเป็นต่อการสร้างโมเดลขั้นสูง

การกระจุกตัวของอำนาจอาจทำให้คนจำนวนไม่มากมีอิทธิพลต่อการเปลี่ยนแปลงทางเศรษฐกิจ สังคม การเมือง และการเข้าถึงข้อมูลของประชาชนทั่วโลก

หากบริษัทสามารถกำหนดทิศทางการพัฒนาและการนำ AI ไปใช้ได้โดยไม่มีระบบตรวจสอบที่เพียงพอ อาจเกิดปัญหาเกี่ยวกับการเลือกปฏิบัติ การละเมิดความเป็นส่วนตัว การเฝ้าระวังประชาชน และการใช้ข้อมูลโดยไม่ได้รับความยินยอม

เรียกร้องให้กำหนดเส้นแดงสำหรับ AI

ข้าหลวงใหญ่สิทธิมนุษยชนแห่งสหประชาชาติเรียกร้องให้ประชาคมโลกช่วยกันกำหนด “เส้นแดง” หรือข้อห้ามที่ชัดเจนว่า AI ไม่ควรถูกนำไปใช้ทำอะไรบ้าง

ตัวอย่างของการใช้งานที่อาจต้องได้รับการควบคุมอย่างเข้มงวด ได้แก่ การสร้างอาวุธอัตโนมัติ การสอดส่องประชาชนจำนวนมาก การออกแบบอาวุธชีวภาพ การโจมตีระบบสาธารณูปโภค และการปลอมแปลงตัวตนเพื่อหลอกลวงประชาชน

UN ยังสนับสนุนให้ประเทศต่าง ๆ ประสานกฎเกณฑ์ด้าน AI ให้เป็นไปในทิศทางเดียวกัน เพราะระบบออนไลน์ไม่มีพรมแดน หากประเทศหนึ่งมีกฎหมายเข้มงวด แต่ผู้ให้บริการสามารถย้ายการพัฒนาไปยังประเทศที่มีข้อบังคับน้อยกว่า การควบคุมอาจไม่ได้ผลตามที่ต้องการ

ต้องมีมาตรการความปลอดภัยก่อนเปิดตัว AI

ข้อเสนอสำคัญคือ บริษัทผู้พัฒนาควรทดสอบความปลอดภัยของโมเดลก่อนเปิดให้ประชาชนใช้งาน โดยเฉพาะ AI ที่สามารถเขียนโปรแกรม เชื่อมต่อระบบภายนอก ใช้เครื่องมือ และดำเนินงานแทนมนุษย์ได้

การทดสอบควรครอบคลุมความสามารถในการหลีกเลี่ยงคำสั่ง การหลอกผู้ใช้งาน การโจมตีทางไซเบอร์ การสร้างข้อมูลเท็จ และการทำงานต่อเนื่องโดยปราศจากการควบคุมของมนุษย์

นอกจากการประเมินโดยบริษัทเองแล้ว ผู้เชี่ยวชาญเสนอให้มีองค์กรอิสระหรือหน่วยงานของรัฐเข้ามาตรวจสอบ เพื่อป้องกันไม่ให้ผลประโยชน์ทางธุรกิจมีอิทธิพลเหนือความปลอดภัยของประชาชน

สิทธิมนุษยชนอาจได้รับผลกระทบเป็นอันดับแรก

แม้ AI จะสร้างประโยชน์ต่อการแพทย์ การศึกษา วิทยาศาสตร์ และการทำงาน แต่เทคโนโลยีเดียวกันอาจกระทบสิทธิมนุษยชนได้ หากถูกนำไปใช้อย่างไม่มีความรับผิดชอบ

ระบบ AI อาจเลือกปฏิบัติต่อบุคคลบางกลุ่มจากข้อมูลที่มีอคติ ใช้ตัดสินผู้สมัครงานหรือผู้ขอสินเชื่ออย่างไม่เป็นธรรม รวมถึงรวบรวมข้อมูลส่วนบุคคลเกินความจำเป็น

AI สร้างภาพ เสียง และวิดีโอปลอมยังอาจถูกใช้เผยแพร่ข้อมูลบิดเบือน ทำลายชื่อเสียง หรือแทรกแซงการเลือกตั้ง ทำให้ประชาชนแยกแยะระหว่างข้อมูลจริงกับเนื้อหาที่สร้างขึ้นได้ยากขึ้น

AI Agent กลายเป็นความเสี่ยงใหม่ที่ต้องติดตาม

หนึ่งในเทคโนโลยีที่ได้รับความสนใจเป็นพิเศษคือ AI Agent หรือระบบ AI ที่สามารถวางแผน ใช้เครื่องมือ และทำงานหลายขั้นตอนได้ด้วยตนเอง

AI ลักษณะนี้สามารถช่วยทำงานซ้ำ ๆ วิเคราะห์ข้อมูล หรือจัดการกระบวนการทางธุรกิจได้อย่างมีประสิทธิภาพ แต่หากระบบเข้าใจเป้าหมายผิด ถูกเจาะระบบ หรือได้รับสิทธิ์เข้าถึงข้อมูลมากเกินไป ก็อาจสร้างความเสียหายได้อย่างรวดเร็ว

ความเสี่ยงจะเพิ่มขึ้นอีกเมื่อ AI Agent สามารถเชื่อมต่ออีเมล ฐานข้อมูล เว็บไซต์ ระบบชำระเงิน และโครงสร้างพื้นฐานสำคัญโดยไม่มีมนุษย์ตรวจสอบทุกขั้นตอน

ไม่ได้เรียกร้องให้หยุดพัฒนา AI ทั้งหมด

คำเตือนของ UN ไม่ได้หมายความว่าทุกประเทศต้องหยุดพัฒนา AI แต่เป็นการเรียกร้องให้การพัฒนาเดินหน้าไปพร้อมกับความปลอดภัย ความรับผิดชอบ และการคุ้มครองสิทธิมนุษยชน

กฎควบคุมควรพิจารณาตามระดับความเสี่ยง ระบบช่วยแก้คำผิดหรือแนะนำเนื้อหาอาจไม่จำเป็นต้องอยู่ภายใต้ข้อกำหนดเดียวกับ AI ที่ควบคุมอาวุธ วิเคราะห์ข้อมูลสุขภาพ หรือจัดการระบบโครงสร้างพื้นฐานของประเทศ

แนวทางนี้จะช่วยให้สังคมยังได้รับประโยชน์จากเทคโนโลยี โดยไม่ละเลยความเสี่ยงที่อาจตามมาในอนาคต

สรุป

คำเตือนจากข้าหลวงใหญ่สิทธิมนุษยชนแห่งสหประชาชาติสะท้อนว่า การแข่งขันสร้าง AI ที่ฉลาดขึ้นไม่ใช่เพียงเรื่องของธุรกิจ แต่เกี่ยวข้องกับความมั่นคง สิทธิมนุษยชน และอนาคตของประชาชนทั่วโลก

สิ่งที่ต้องจับตาต่อจากนี้คือ ประเทศต่าง ๆ จะสามารถร่วมกันกำหนดกฎสากลได้หรือไม่ บริษัทเทคโนโลยีจะยอมเปิดเผยข้อมูลด้านความปลอดภัยมากเพียงใด และจะมีมาตรการใดช่วยให้มนุษย์ยังคงควบคุม AI ขั้นสูงได้อย่างมีประสิทธิภาพ ติดตามความเคลื่อนไหวด้าน AI และข่าวเทคโนโลยีได้ที่ COMSIAM NEWS