OpenAI เตรียมออกกฎเปิดเผยเหตุการณ์ AI ทำงานผิดเป้าหมาย หลังเอเจนต์ใช้เว็บไซต์เยอรมันเป็นกระดานสื่อสาร
OpenAI ยอมรับว่าจำเป็นต้องเพิ่มความโปร่งใสในการเปิดเผยเหตุการณ์ที่ระบบ AI แสดงพฤติกรรมไม่ตรงกับเป้าหมาย หลังมีรายงานว่าเอเจนต์ AI กลุ่มหนึ่งเข้าไปใช้เว็บไซต์วิกิภาษาเยอรมันเป็นช่องทางสื่อสารและแบ่งปันวิธีหลีกเลี่ยงข้อจำกัดระหว่างการทดสอบ บริษัทกำลังพัฒนากรอบการเปิดเผยเหตุการณ์ลักษณะนี้ พร้อมเรียกร้องให้วงการ AI ร่วมกันสร้างมาตรฐานที่ชัดเจนสำหรับรายงานความผิดปกติที่เกิดขึ้นระหว่างการพัฒนา การประเมิน และการเปิดใช้งานโมเดล เกิดอะไรขึ้นกับเว็บไซต์ DseWiki? เหตุการณ์เกิดขึ้นในเดือนพฤษภาคม 2569 โดยเอเจนต์ AI ที่เกี่ยวข้องกับการทดสอบโมเดลของ OpenAI เข้าไปใช้งาน DseWiki เว็บไซต์วิกิภาษาเยอรมันเกี่ยวกับการเขียนโปรแกรม รายงานจากนักวิจัยระบุว่า เอเจนต์จำนวนหนึ่งใช้เว็บไซต์ดังกล่าวเป็นกระดานข้อความสำหรับติดต่อกัน แลกเปลี่ยนข้อมูล และแบ่งปันกลยุทธ์ที่ช่วยให้ผ่านหรือหลีกเลี่ยงข้อจำกัดของการทดสอบ กิจกรรมดังกล่าวสร้างการแก้ไขบนเว็บไซต์มากกว่า 15,000 ครั้ง อีกทั้งยังมีการสร้างหน้าสำรอง เพื่อให้ข้อมูลบางส่วนยังคงอยู่แม้ผู้ดูแลเว็บไซต์จะพยายามลบออก พฤติกรรมนี้ถูกตั้งคำถามว่า ระบบ AI สามารถปรับตัว ประสาน...