COMSIAM NEWS

จาคุบ พาช็อกกี (Jakub Pachocki) หัวหน้านักวิทยาศาสตร์ของ OpenAI ออกมาเตือนว่า สังคมอาจยังไม่พร้อมรับมือกับผลกระทบจากความฉลาดของเครื่องจักรที่เพิ่มขึ้นอย่างรวดเร็ว พร้อมเรียกร้องให้บริษัทเทคโนโลยี รัฐบาล และองค์กรระหว่างประเทศร่วมกันกำหนดมาตรฐานความปลอดภัยสำหรับ AI ที่มีประสิทธิภาพสูง คำเตือนดังกล่าวปรากฏอยู่ในบทความชื่อ An Alien Mind ซึ่งพาช็อกกีเผยแพร่ผ่านเว็บไซต์ของ OpenAI โดยกล่าวถึงความยากในการทำความเข้าใจและควบคุม AI เมื่อระบบเริ่มทำงานซับซ้อนขึ้น มีความเป็นอิสระมากขึ้น และต้องเผชิญสถานการณ์ที่แตกต่างจากข้อมูลที่เคยใช้ฝึก โลกอาจตามความสามารถของ AI ไม่ทัน พาช็อกกีระบุว่า ช่วงเวลานี้จำเป็นต้องใช้ความระมัดระวังอย่างยิ่ง เพราะความฉลาดของ AI กำลังเพิ่มขึ้นอย่างต่อเนื่อง ขณะที่ระบบความปลอดภัย กฎหมาย และความเข้าใจของมนุษย์อาจพัฒนาตามไม่ทัน AI รุ่นใหม่ไม่ได้ทำหน้าที่เพียงตอบคำถามหรือสร้างข้อความ แต่เริ่มสามารถเขียนโปรแกรม วิเคราะห์ระบบ ใช้เครื่องมือ เชื่อมต่ออินเทอร์เน็ต และดำเนินงานหลายขั้นตอนได้ด้วยตัวเอง เมื่อความสามารถเพิ่มขึ้น ระบบอาจต้องตัดสินใจในสถานการณ์ที่ไม่เคยพบระหว่างการฝึก ท...

องค์การสหประชาชาติส่งสัญญาณเตือนถึงความเสี่ยงจากการพัฒนาปัญญาประดิษฐ์ขั้นสูง โดยระบุว่า AI อาจกลายเป็นภัยคุกคามระดับการดำรงอยู่ของมนุษยชาติ หากรัฐบาลและบริษัทเทคโนโลยียังไม่เร่งวางมาตรการความปลอดภัยที่เข้มแข็งเพียงพอ คำเตือนดังกล่าวมาจาก โวลเคอร์ เติร์ก (Volker Türk) ข้าหลวงใหญ่สิทธิมนุษยชนแห่งสหประชาชาติ ระหว่างการกล่าวเปิดประชุมคณะมนตรีสิทธิมนุษยชนแห่งสหประชาชาติ สมัยที่ 63 ที่นครเจนีวา ประเทศสวิตเซอร์แลนด์ เมื่อวันที่ 7 กันยายน 2569 UN กังวล AI มีอำนาจมากขึ้นเรื่อย ๆ โวลเคอร์ เติร์ก เตือนว่า AI ที่มีความสามารถสูงอาจสร้างความเสี่ยงร้ายแรงต่อมนุษยชาติ โดยเฉพาะเมื่อระบบสามารถตัดสินใจและทำงานที่ซับซ้อนได้อย่างอัตโนมัติมากขึ้น ขณะที่กลไกควบคุมและกฎหมายของหลายประเทศยังพัฒนาตามเทคโนโลยีไม่ทัน คำว่า “ความเสี่ยงระดับการดำรงอยู่” หรือ Existential Risk ไม่ได้หมายความว่า AI จะทำลายมนุษยชาติอย่างแน่นอน แต่หมายถึงความเสียหายที่อาจมีขนาดรุนแรงมาก หากมนุษย์สูญเสียความสามารถในการควบคุมระบบขั้นสูง หรือมีผู้ใช้นำเทคโนโลยีไปสร้างอาวุธ โจมตีโครงสร้างพื้นฐาน และก่ออาชญากรรมในวงกว้าง UN จึงต้องการให้รัฐบ...