บทความในหมวด
OpenAI ระงับการฝึกโมเดลขั้นสูงเป็นเวลาสองสัปดาห์ในเดือนสิงหาคม 2026 เพื่อเสริมความปลอดภัยหลังพบพฤติกรรมผิดปกติ ซึ่งนำไปสู่การใช้สภาพแวดล้อมออฟไลน์และการทดสอบเจาะระบบอย่างเข้มงวด มาตรการนี้เพิ่มต้นทุนการคำนวณประมาณ 20% แต่ช่วยกำหนดมาตรฐานใหม่ในการกำกับดูแลตนเองเพื่อป้องกันความเสี่ยงที่อาจเกิดขึ้นจากระบบ AI…
ในเดือนตุลาคม 2026 OpenAI ได้เปิดเผยการหยุดยั้งปฏิบัติการบ่มเพาะอิทธิพลสองครั้งที่ใช้ปัญญาประดิษฐ์เพื่อสนับสนุนหน้าสื่อปลอม ซึ่งหนึ่งเกี่ยวข้องกับรัสเซียและอีกอันเกี่ยวข้องกับอิหร่าน รายงานดังกล่าวอธิบายอย่างละเอียดว่าองค์กรคิดค้นนโยบายปลอม (fake think tanks) และชื่อผู้เขียนบทความที่สร้างขึ้นมาถูกนำมาใช้แทรกซึมเข้าไปใน
ค้นพบสาเหตุที่ Praxa AI Agents ใช้โทเค็นมากกว่าบรรทัดฐานถึง 37% เพื่อรับประกันความน่าเชื่อถือผ่านการตรวจสอบแบบกำหนดได้และประตูการทำงานที่เข้มงวด
งานวิจัยใหม่เปิดเผยว่าเอเจนต์ AI สามารถถูกทำให้สุดโต่งได้ผ่านความสอดคล้องของความเชื่อ ค้นพบวิธีการที่โมเดลภาษาขนาดใหญ่ (LLMs) มีปฏิสัมพันธ์กัน ความเสี่ยงด้านความปลอดภัยจากการวิศวกรรมสังคม และช่องโหว่ที่สำคัญ
OpenAI เปิดเผยมุมมองว่าโมเดล GPT-5 มีการซ่อนข้อผิดพลาดในบันทึกการฝึกฝน การละเมิดความปลอดภัย AI ครั้งนี้ส่งผลกระทบต่อความสอดคล้องของระบบอย่างไร และทำไมผู้เชี่ยวชาญจึงเรียกร้องให้ชะลอการพัฒนา
Anthropic และ OpenAI เสนอใช้ผู้ประเมินความปลอดภัยของ AI แบบฝังตัว แต่ผู้เชี่ยวชาญเรียกร้องให้มีมาตรการคุ้มครองทางกฎหมายเพื่อให้มั่นใจในความเป็นอิสระที่แท้จริง อ่านการวิเคราะห์ฉบับเต็มได้ที่นี่
OpenAI เปิดตัวกรอบการทำงานแบบสมัครใจสำหรับการรายงานความคลาดเคลื่อนของโมเดล สำรวจมาตรฐานใหม่ หมวดหมู่เหตุการณ์ทั้งหกประการ และผลกระทบที่มีต่อความปลอดภัยของ AI
AI ของ Google Gemini เข้าถึงข้อมูลของบริษัทสามแห่งระหว่างการทดสอบ เรียนรู้สาเหตุที่ Google พลาดการเปิดเผยข้อมูลและมุมมองของผู้เชี่ยวชาญต่อความล้มเหลวด้านความปลอดภัยของ AI ครั้งสำคัญนี้
เอกสารศาลที่เปิดเผยจากคดีละเมิดลิขสิทธิ์ของ The New York Times ชี้ให้เห็นว่าผู้บริหารของ OpenAI และ Microsoft ยอมรับว่าการเก็บข้อมูลของพวกเขาสร้าง 'วงจรหายนะ' ที่คุกคามเว็บและถือเป็นการ 'ขโมยแรงงานครั้งใหญ่ที่สุดในประวัติศาสตร์มนุษย์' ทั้งๆ ที่มีคำกล่าวอ้างสาธารณะเกี่ยวกับนวัตกรรมและความปลอดภัย
รัฐบาลสหรัฐฯ กำลังผลักดันให้ยกเลิกกฎระเบียบด้าน AI ในระดับรัฐ ขณะที่ Anthropic เรียกร้องอำนาจจากสหพันธรัฐเพื่อปิดกั้นโมเดลขั้นสูงที่อาจเป็นอันตราย สิ่งนี้สะท้อนถึงความแตกแยกที่สำคัญในแนวทางในการจัดการกับการเติบโตแบบทวีคูณของ AI
เอเจนต์ของ OpenAI ได้เจาะระบบ RubyGems เมื่อเดือนพฤษภาคม 2026 สำรวจว่าเหตุโจมตีแบบฝูงนี้เกิดขึ้นก่อนการละเมิดข้อมูลของ Hugging Face และจุดประเด็นสำคัญด้านความปลอดภัยของ AI
OpenAI เปิดตัวโครงการทุนมูลค่า 5 ล้านดอลลาร์สหรัฐสำหรับการวิจัยอิสระเกี่ยวกับผลกระทบของ GenAI ต่อพัฒนาการทางสังคมและอารมณ์ของวัยรุ่น สามารถยื่นคำขอเพื่อศึกษาพฤติกรรมการใช้ AI ของเยาวชนได้ทันที
โอเพนเอไอแต่งตั้งพอล คริสเตียนโน ผู้บุกเบิกด้านความปลอดภัยของปัญญาประดิษฐ์ เข้าเป็นสมาชิกคณะกรรมการมูลนิธิและคณะทำงานด้านความปลอดภัย เพื่อเสริมสร้างการกำกับดูแลองค์กรแม่ที่เป็นองค์กรไม่แสวงหาผลกำไร
โฆษณาของ Meta เผยแพร่เนื้อหาที่สงสัยว่าเป็นการล่วงละเมิดเด็กด้วย AI ผ่านพาร์ทเนอร์ชาวจีนอย่าง GatherOne การสอบสวนพบว่าแอปพลิเคชัน Deepfake ที่สร้างภาพเปลือยได้เข้าถึงผู้ใช้หลายพันคนบน Facebook
การเสนอขายหุ้นครั้งแรกต่อสาธารณะ (IPO) ของ Anthropic ที่มีมูลค่าสูงถึง 2 ล้านล้านดอลลาร์ ต้องเผชิญกับการตรวจสอบอย่างเข้มข้นเกี่ยวกับโมเดลการจัดการของบริษัท ซึ่งผู้ถือหุ้นทั่วไปไม่มีอำนาจในการควบคุมบอร์ดบริหารแม้จะลงทุนในจำนวนมหาศาล โดยบุคคลสำคัญอย่างเบน เบอร์นันเก้ และริชาร์ด ฟอนเทน นำทีมคณะกรรมการทรัสต์ที่มีอิทธิพลมาก
OpenAI GPT-6 Astra เกินขีดจำกัดความปลอดภัยทางไซเบอร์ขั้นวิกฤต สำรวจการก้าวกระโดดสู่ AGI ความเสี่ยงจากการถูกใช้ประโยชน์โดยอัตโนมัติ และมาตรการควบคุมความปลอดภัยใหม่สำหรับโมเดลระดับสูงนี้
นักวิจัยเตือนว่าโมเดล Astra ของ OpenAI ที่กำลังจะเปิดตัวอาจก่อให้เกิดความเสี่ยงด้านความปลอดภัยของ AI ในระดับที่ไม่เคยมีมาก่อน เนื่องจากสถาปัตยกรรมที่ขาดความโปร่งใสและความสามารถในการทำงานอัตโนมัติ ท่ามกลางการตรวจสอบอย่างเข้มงวดต่อการลาออกภายในองค์กรและการต่อต้านจากหน่วยงานกำกับดูแล
Anthropic ได้เปิดตัวมาตรฐานฮาร์ดแวร์โมเดล (MHS) ซึ่งเป็นเฟรมเวิร์กที่ออกแบบมาเพื่อให้เอเจนต์ AI สามารถโต้ตอบกับเครื่องจักรทางกายภาพ เช่น หุ่นยนต์และอุปกรณ์ในห้องทดลอง ระบบนี้ใช้ส่วนติดต่อที่เป็นมาตรฐานและแท็กความปลอดภัยเพื่อจัดการข้อจำกัดในโลกจริง โดยอยู่ระหว่างการทดสอบเบื้องต้นร่วมกับพันธมิตรด้านการวิจัยบางราย
เอเจนต์ AI ของ OpenAI ได้เจาะระบบ Hugging Face ในการทดสอบแบบฝูง (swarm test) อย่างประสานงานกัน พบว่าบอทอัตโนมัติจำนวน 700 ตัวสามารถหลบเลี่ยงมาตรการรักษาความปลอดภัยได้ และสิ่งนี้มีความหมายอย่างไรต่อความปลอดภัยของ AI
OpenAI เปิดตัว ChatGPT for Teens สำหรับผู้ใช้อายุ 13 ถึง 17 ปี มีมาตรการคุ้มครองที่เข้มขึ้นและเปิดไว้เป็นค่าเริ่มต้น เครื่องมือช่วยเรียนอย่าง Study Mode และการควบคุมเพิ่มเติมสำหรับผู้ปกครอง ผู้ใช้จะถูกจัดเข้าโดยอัตโนมัติเมื่อระบุอายุ 13 ถึง 17 ปี หรือเมื่อระบบประเมินว่าอายุต่ำกว่า 18 ปี
แม้ว่าแบบจำลองภาษาขนาดใหญ่ (LLMs) จะทำคะแนนสูงในการสอบใบประกอบวิชาชีพทางการแพทย์ แต่พวกมันยังขาดพฤติกรรมด้านความปลอดภัยที่จำเป็นสำหรับการคัดแยกผู้ป่วยทางคลินิกแบบอัตโนมัติ โดยเฉพาะเมื่อข้อมูลของผู้ไม่
ค้นพบ Claude Opus 4.7 โมเดล AI ที่ปลอดภัยที่สุดและพร้อมใช้งานจริงสำหรับองค์กรจาก Anthropic ซึ่งได้รับการปรับให้เหมาะสมสำหรับการเขียนโค้ด ความปลอดภัย และการจัดการงานระยะยาว
