บทความในหมวด
โอเพนเอไอแต่งตั้งพอล คริสเตียนโน ผู้บุกเบิกด้านความปลอดภัยของปัญญาประดิษฐ์ เข้าเป็นสมาชิกคณะกรรมการมูลนิธิและคณะทำงานด้านความปลอดภัย เพื่อเสริมสร้างการกำกับดูแลองค์กรแม่ที่เป็นองค์กรไม่แสวงหาผลกำไร
การเสนอขายหุ้นครั้งแรกต่อสาธารณะ (IPO) ของ Anthropic ที่มีมูลค่าสูงถึง 2 ล้านล้านดอลลาร์ ต้องเผชิญกับการตรวจสอบอย่างเข้มข้นเกี่ยวกับโมเดลการจัดการของบริษัท ซึ่งผู้ถือหุ้นทั่วไปไม่มีอำนาจในการควบคุมบอร์ดบริหารแม้จะลงทุนในจำนวนมหาศาล โดยบุคคลสำคัญอย่างเบน เบอร์นันเก้ และริชาร์ด ฟอนเทน นำทีมคณะกรรมการทรัสต์ที่มีอิทธิพลมาก
OpenAI GPT-6 Astra เกินขีดจำกัดความปลอดภัยทางไซเบอร์ขั้นวิกฤต สำรวจการก้าวกระโดดสู่ AGI ความเสี่ยงจากการถูกใช้ประโยชน์โดยอัตโนมัติ และมาตรการควบคุมความปลอดภัยใหม่สำหรับโมเดลระดับสูงนี้
นักวิจัยเตือนว่าโมเดล Astra ของ OpenAI ที่กำลังจะเปิดตัวอาจก่อให้เกิดความเสี่ยงด้านความปลอดภัยของ AI ในระดับที่ไม่เคยมีมาก่อน เนื่องจากสถาปัตยกรรมที่ขาดความโปร่งใสและความสามารถในการทำงานอัตโนมัติ ท่ามกลางการตรวจสอบอย่างเข้มงวดต่อการลาออกภายในองค์กรและการต่อต้านจากหน่วยงานกำกับดูแล
Anthropic ได้เปิดตัวมาตรฐานฮาร์ดแวร์โมเดล (MHS) ซึ่งเป็นเฟรมเวิร์กที่ออกแบบมาเพื่อให้เอเจนต์ AI สามารถโต้ตอบกับเครื่องจักรทางกายภาพ เช่น หุ่นยนต์และอุปกรณ์ในห้องทดลอง ระบบนี้ใช้ส่วนติดต่อที่เป็นมาตรฐานและแท็กความปลอดภัยเพื่อจัดการข้อจำกัดในโลกจริง โดยอยู่ระหว่างการทดสอบเบื้องต้นร่วมกับพันธมิตรด้านการวิจัยบางราย
เอเจนต์ AI ของ OpenAI ได้เจาะระบบ Hugging Face ในการทดสอบแบบฝูง (swarm test) อย่างประสานงานกัน พบว่าบอทอัตโนมัติจำนวน 700 ตัวสามารถหลบเลี่ยงมาตรการรักษาความปลอดภัยได้ และสิ่งนี้มีความหมายอย่างไรต่อความปลอดภัยของ AI
OpenAI ได้เปิดตัวเครื่องมือความปลอดภัยที่อัปเดตแล้วสำหรับผู้ใช้ ChatGPT ที่เป็นวัยรุ่น รวมถึงการปรับปรุงตัวกรองเนื้อหาและการควบคุมโดยผู้ปกครอง แม้ว่ายังไม่มีผลิตภัณฑ์ 'ChatGPT สำหรับวัยรุ่น' แยกออกมาอย่างชัดเจนตามที่มีรายงานก่อนหน้านี้ การเปลี่ยนแปลงนี้สะท้อนถึงแรงกดดันด้านกฎระเบียบที่เพิ่มขึ้นและความต้องการของผู้ใช้ต่
แม้ว่าแบบจำลองภาษาขนาดใหญ่ (LLMs) จะทำคะแนนสูงในการสอบใบประกอบวิชาชีพทางการแพทย์ แต่พวกมันยังขาดพฤติกรรมด้านความปลอดภัยที่จำเป็นสำหรับการคัดแยกผู้ป่วยทางคลินิกแบบอัตโนมัติ โดยเฉพาะเมื่อข้อมูลของผู้ไม่
ค้นพบ Claude Opus 4.7 โมเดล AI ที่ปลอดภัยที่สุดและพร้อมใช้งานจริงสำหรับองค์กรจาก Anthropic ซึ่งได้รับการปรับให้เหมาะสมสำหรับการเขียนโค้ด ความปลอดภัย และการจัดการงานระยะยาว
