ทำไม LLMs ถึงล้มเหลวในการคัดแยกผู้ป่วยทางการแพทย์ในโลกจริง แม้ว่าจะผ่านการสอบก็ตาม

สรุปสั้น: การศึกษาจากฐานข้อมูล MIMIC พบว่า LLMs ทำผลงานแย่กว่าแพทย์ในการวินิจฉัยโรคทางช่องท้องจากกรณีผู้ป่วยจริง 2,400 กรณี เนื่องจากขาดความปลอดภัยเมื่อข้อมูลไม่สมบูรณ์ จึงยังไม่พร้อมใช้งานอัตโนมัติ

ข้อเท็จจริงสำคัญ

• LLMs ทำคะแนนสูงในการสอบใบอนุญาตทางการแพทย์ แต่ขาดพฤติกรรมความปลอดภัยที่จำเป็นสำหรับการคัดแยกผู้ป่วยทางคลินิกอัตโนมัติ โดยเฉพาะเมื่อข้อมูลไม่สมบูรณ์
• ปัญหาหลักคือ LLMs ถูกฝึกให้สร้างข้อความที่มีความน่าจะเป็นทางสถิติสูงสุด แทนที่จะถูกปรับให้เหมาะสมเพื่อความปลอดภัยทางคลินิกในสถานการณ์ที่มีความเสี่ยงสูง
• LLMs มักล้มเหลวในการขยายขอบเขตการวินิจฉัยโรค ค้นหาสัญญาณเตือนภัย (red flags) หรือลดเกณฑ์การส่งต่อเมื่อมีหลักฐานไม่เพียงพอ ซึ่งแตกต่างจากพฤติกรรมแพทย์
• การศึกษาที่ใช้กรณีผู้ป่วยจริง 2,400 กรณีจากฐานข้อมูล MIMIC พบว่า LLMs ทำผลงานได้แย่กว่าแพทย์อย่างมีนัยสำคัญในการวินิจฉัยโรคช่องท้องที่พบบ่อย 4 ชนิด
• LLMs ในการศึกษา MIMIC ล้มเหลวในการปฏิบัติตามแนวทางการรักษา ตีความผลการตรวจทางห้องปฏิบัติการผิดพลาด และไวต่อปริมาณและลำดับของข้อมูลป้อนเข้าอย่างมาก
• การประเมิน LLMs ปัจจุบันพึ่งพาสถานการณ์จำลองที่สมบูรณ์และคัดสรรแล้ว ซึ่งบดบังช่องว่างด้านความปลอดภัยเมื่อต้องเผชิญกับข้อมูลที่ขาดหายหรือขัดแย้งกัน
• นักวิจัยกำลังสำรวจระบบหลายเอเจนต์ (multi-agent systems) แบบโมดูลาร์เพื่อเพิ่มความโปร่งใสและความปลอดภัย โดยยังเน้นย้ำว่าการกำกับดูแลโดยมนุษย์ยังคงจำเป็น

โอกาสและความเสี่ยงของ AI ในการคัดกรองผู้ป่วยทางคลินิก

โมเดลภาษาขนาดใหญ่ ได้แสดงให้เห็นถึงความสามารถในการผ่านการสอบใบอนุญาตทางการแพทย์และทำการวินิจฉัยโดยอาศัยเหตุผลจากกรณีศึกษาของผู้ป่วยที่มีการบันทึกข้อมูลอย่างละเอียดและคัดเลือกมาอย่างดี [1] ความสำเร็จเหล่านี้ได้กระตุ้นความสนใจที่เพิ่มขึ้นในการนำ โมเดลภาษาขนาดใหญ่ไปใช้เพื่อสนับสนุนการตัดสินใจทางคลินิก ซึ่งครอบคลุมตั้งแต่การประเมินอาการ การแนะนำการรักษา ไปจนถึงการทำเอกสารด้านบริหาร อย่างไรก็ตาม มุมมองล่าสุดเตือนว่าความสำเร็จดังกล่าวไม่สามารถแปลผลไปสู่การใช้งานอัตโนมัติอย่างปลอดภัยในสภาพแวดล้อมจริง โดยเฉพาะในช่วงขั้นตอนสำคัญของการคัดกรองผู้ป่วยที่ยังไม่มีการวินิจฉัยชัดเจน

จุดอ่อนหลัก: การละเลยสิ่งที่สำคัญที่สุด

ปัญหาหลักอยู่ที่วิธีการฝึกฝนและประเมินผล LLMs แทนที่จะถูกปรับให้เหมาะสมเพื่อความปลอดภัยทางคลินิก โมเดลเหล่านี้ถูกออกแบบมาเพื่อสร้างข้อความที่มีความน่าจะเป็นทางสถิติสูงตามข้อมูลที่ใช้ในการฝึกสอน สิ่งนี้สร้างความไม่สอดคล้องกันอย่างพื้นฐานในสภาพแวดล้อมที่มีความเสี่ยงสูง ซึ่งต้นทุนจากการละเลยโรคหายากแต่คุกคามชีวิตมีค่ามากกว่าความเสี่ยงของการแจ้งเตือนผิดพลาด [1] ในกรณีเช่นนี้ แพทย์ได้รับการฝึกฝนให้ขยายขอบเขตการคิดทางการวินิจฉัย แสวงหาสัญญาณเตือนภัย (red flags) อย่างกระตือรือร้น และยกระดับระดับการรักษาเมื่อมีความไม่แน่นอนเกิดขึ้น อย่างไรก็ตาม LLMs มักจะล้มเหลวในการแสดงพฤติกรรมเหล่านี้ พวกมันไม่สามารถขยายชุดโรคที่ต้องพิจารณาได้ reliably ไม่สอบถามข้อมูลที่ยังขาดหายลง และไม่ลดเกณฑ์การส่งต่อหรือเลื่อนการวินิจฉัยเมื่อหลักฐานมีไม่เพียงพอ

ประสิทธิภาพในโลกจริงไม่เป็นไปตามที่คาดหวัง

การทดสอบเชิงประจักษ์เผยให้เห็นช่องว่างระหว่างประสิทธิภาพในห้องปฏิบัติการและการใช้งานจริง การศึกษาหนึ่งที่ใช้กรณีผู้ป่วยจริง 2,400 กรณีจากฐานข้อมูล Medical Information Mart for Intensive Care (MIMIC) ได้ประเมิน LLMs รุ่นล่าสุดกับพยาธิสภาพของช่องท้องที่พบบ่อยสี่ชนิด [4] ผลลัพธ์แสดงให้เห็นว่าโมเดลปัจจุบันทำได้ดีกว่าแพทย์น้อยอย่างมีนัยสำคัญในการวินิจฉัยโรคที่ถูกต้องในทุกกรณี นอกจากนี้ โมเดลเหล่านี้ยังล้มเหลวในการปฏิบัติตามแนวทางการวินิจฉัยและการรักษาที่กำหนดไว้ ตีความผลการตรวจทางห้องปฏิบัติการผิดพลาด และไม่สามารถบูรณาการเข้ากับขั้นตอนการทำงานทางคลินิกได้อย่างมีประสิทธิภาพ เนื่องจากมีความไวต่อทั้งปริมาณและลำดับของข้อมูลที่ป้อนเข้าไป

วิธีการประเมินผลที่บกพร่องบดบังความล้มเหลวที่สำคัญ

การประเมินที่มีอยู่จำนวนมากพึ่งพาการจำลองสถานการณ์แบบสมบูรณ์และผ่านการคัดสรรแล้ว ซึ่งไม่ได้สะท้อนถึงความคลุมเครือและความไม่สมบูรณ์ของประวัติผู้ป่วยจริง ในสภาพแวดล้อมที่มีการควบคุมเหล่านี้ LLMs อาจดูมีความสามารถ—โดยแสดงพฤติกรรมคล้ายผู้ช่วยและอคติเชิงบวก—ซึ่งสร้างความประทับใจที่เข้าใจผิดเกี่ยวกับความน่าเชื่อถือ [1] สิ่งนี้สร้างความรู้สึกปลอดภัยที่ผิดพลาด เนื่องจากความสามารถของโมเดลในการจัดการกับข้อมูลที่ขาดหายหรือขัดแย้งกันยังคงถูกซ่อนไว้ การขาดการทดสอบภายใต้สภาวะความไม่แน่นอนหมายความว่าโหมดความล้มเหลวที่สำคัญจะไม่ถูกตรวจพบจนกว่าจะนำไปใช้งานในสภาพแวดล้อมทางคลินิกจริง

สู่ระบบที่ปลอดภัยยิ่งขึ้น: แนวทางการกำกับดูแลแบบหลายเอเจนต์และจริยธรรม

นักวิจัยกำลังสำรวจสถาปัตยกรรมทางเลือกเพื่อปรับปรุงความปลอดภัยและความสามารถในการตีความ (ความตีความได้) แนวทางหนึ่งเกี่ยวข้องกับระบบหลายเอเจนต์ (ระบบหลายเอเจนต์) ซึ่งเอเจนต์เฉพาะทางจะจัดการกับด้านต่าง ๆ ของข้อมูลผู้ป่วย เช่น การแปลผลสัญญาณชีพ การวิเคราะห์ผลการตรวจในห้องปฏิบัติการ หรือการให้เหตุผลเกี่ยวกับบริบท ก่อนที่จะสังเคราะห์คำแนะนำสุดท้าย [3] การออกแบบที่เป็นโมดูลาร์นี้มีเป้าหมายเพื่อเพิ่มความโปร่งใสและความไว้วางใจ โดยเฉพาะในหอผู้ป่วยวิกฤต นอกจากนี้ กำลังมีการพัฒนากรอบการกำกับดูแลเอไอเชิงจริยธรรมเพื่อให้มั่นใจถึงความรับผิดชอบและการสอดคล้องกับมาตรฐานความปลอดภัยทางคลินิก

แม้มีความก้าวหน้าเหล่านี้ แต่ฉันทามติยังคงชัดเจนว่า: เอแอลเอ็ม (LLMs) ยังไม่พร้อมสำหรับการตัดสินใจแบบอัตโนมัติในการดูแลทางคลินิก ประสิทธิภาพของพวกมันในการสอบและกรณีศึกษาที่คัดสรรมาอย่างดี ไม่ได้การันตีพฤติกรรมที่ปลอดภัยในสถานการณ์จริง ซึ่งข้อมูลที่ไม่สมบูรณ์เป็นสิ่งที่พบได้บ่อยกว่าข้อยกเว้น จนกว่าโมเดลจะสามารถจัดลำดับความสำคัญของโรค ‘ที่ต้องไม่พลาด’ ได้อย่างน่าเชื่อถือ และปรับตัวได้อย่างปลอดภัยภายใต้ความไม่แน่นอน การกำกับดูแลโดยมนุษย์จึงยังคงเป็นสิ่งจำเป็น

ข้อเท็จจริงสำคัญ

• เอแอลเอ็ม (LLMs) สามารถผ่านการสอบใบอนุญาตทางการแพทย์และแข่งขันกับแพทย์ได้ในด้านการให้เหตุผลเชิงวินิจฉัยในกรณีศึกษาที่คัดสรรมาอย่างดี แต่ยังไม่มีหลักฐานด้านความปลอดภัยสำหรับการใช้ระบบคัดกรองผู้ป่วยแบบอัตโนมัติ [1,2]
• จุดอ่อนหลักของเอแอลเอ็ม (LLMs) ในการดูแลทางคลินิกคือความขาดแคลนในความเที่ยงตรงของการประเมินทางคลินิก โดยเฉพาะอย่างยิ่ง ความไม่สามารถดำเนินการได้อย่างปลอดภัยเมื่อคำตอบที่ถูกต้องคือการวินิจฉัยโรค ‘ที่ต้องไม่พลาด’ ซึ่งมีความน่าจะเป็นต่ำ [1,2]
• เอแอลเอ็ม (LLMs) ที่ได้รับการปรับให้เหมาะสมสำหรับการสร้างข้อความที่มีความน่าจะเป็นสูง ไม่แสดงพฤติกรรมการคัดกรองผู้ป่วยที่ปลอดภัย เช่น การพิจารณาความแตกต่างของโรคให้กว้างขึ้น การค้นหาสัญญาณเตือนภัยที่ขาดหายไป การลดเกณฑ์ในการส่งต่อกรณีฉุกเฉิน หรือการยอมถอยเพื่อรอการตัดสินใจภายใต้ประวัติผู้ป่วยที่ไม่สมบูรณ์ [1,2]
• การประเมินเอแอลเอ็ม (LLMs) ในปัจจุบันมักใช้สถานการณ์จำลองที่สมบูรณ์และคัดสรรมาอย่างดี ซึ่งไม่ได้ทดสอบความสามารถในการให้เหตุผลเมื่อข้อมูลไม่ครบถ้วน อาจทำให้บดบังรูปแบบความล้มเหลว เช่น พฤติกรรมแบบผู้ช่วย และอคติเชิงบวก [1,2]
• การศึกษาหนึ่งที่ใช้สภาพแวดล้อมทางคลินิกจำลองจากฐานข้อมูล MIMIC พร้อมกรณีผู้ป่วยจริง 2,400 กรณี พบว่า เอแอลเอ็ม (LLMs) ในปัจจุบันทำผลงานได้แย่กว่าแพทย์อย่างมีนัยสำคัญในการวินิจฉัยโรคทางช่องท้องที่พบบ่อยสี่ชนิด [4]
• ในการศึกษาดังกล่าว เอแอลเอ็ม (LLMs) ล้มเหลวในการปฏิบัติตามแนวทางการวินิจฉัยหรือการรักษา และไม่สามารถแปลผลผลการตรวจในห้องปฏิบัติการได้อย่างถูกต้อง [4]
• เอแอลเอ็ม (LLMs) แสดงให้เห็นถึงการบูรณาการเข้ากับขั้นตอนการทำงานทางคลินิกได้ไม่ดี เนื่องจากมีความไวต่อทั้งปริมาณและลำดับของข้อมูลที่ให้มา [4]
• ระบบหลายเอเจนต์ที่ใช้อาเจนต์แบบโมดูลาร์สำหรับการวิเคราะห์ผลการตรวจในห้องปฏิบัติการ การแปลผลสัญญาณชีพ และการให้เหตุผลเกี่ยวกับบริบท ได้ถูกเสนอขึ้นเพื่อปรับปรุงความสามารถในการตีความและความไว้วางใจในสภาพแวดล้อมหอผู้ป่วยวิกฤต [3]

แหล่งข้อมูล

1. Reasoning in Real World Clinical Care: Why Large Language Models Are Not Yet Safe for Autonomous Clinical Decision Support (arxiv.org) — 2026-07-29
2. Evaluation and mitigation of the limitations of large language models in clinical decision-making (pmc.ncbi.nlm.nih.gov) — 2024-07-04
3. Reinforcing Clinical Decision Support through Multi-Agent Systems and Ethical AI Governance (arxiv.org) — 2025-02-19