รายงานของ BBC เกี่ยวกับอันตรายของการใช้ AI เพื่อขอคำแนะนำทางการแพทย์แสดงให้เห็นว่าทำไมภาษาที่โน้มน้าวใจจึงอาจเสี่ยงในสถานพยาบาล ระบบอาจฟังดูสุขุมและมั่นใจในขณะที่ยังคงให้คำแนะนำที่ไม่ครบถ้วน ลำดับความสำคัญไม่ดี หรือผิดสำหรับผู้ป่วยที่อยู่ตรงหน้า

นั่นคือเหตุผลที่หลักฐาน การตรวจสอบความถูกต้อง และบริบทมีความสำคัญมากกว่าความคล่องแคล่วในการใช้ภาษา ในทางการแพทย์ อินเทอร์เฟซที่มีประโยชน์จะมีค่าก็ต่อเมื่อการตัดสินพื้นฐานนั้นปลอดภัยอย่างสม่ำเสมอเท่านั้น

การวิจัยล่าสุดจาก Yale School of Public Health เผยให้เห็นรูปแบบที่น่ากังวลในคุณภาพของคำแนะนำทางการแพทย์ของ AI ในการศึกษาที่ครอบคลุมซึ่งวิเคราะห์การตอบสนองจากแชทบอท AI ชั้นนำต่อสถานการณ์ทางคลินิก 1,000 สถานการณ์ นักวิจัยพบว่า 27% ของคำแนะนำมีความไม่ถูกต้องที่อาจเป็นอันตราย ในขณะที่ 42% ละเลยคำเตือนด้านความปลอดภัยที่สำคัญ การศึกษานี้เน้นย้ำว่าระบบ AI มักให้ความสำคัญกับความสอดคล้องทางภาษามากกว่าความถูกต้องทางคลินิก ซึ่งสร้างภาพลวงตาของความสามารถที่เป็นอันตราย

กรอบการกำกับดูแลกำลังดิ้นรนเพื่อให้ทันกับความก้าวหน้าของ AI ช่องทาง Software as a Medical Device (SaMD) ของ FDA ได้อนุมัติอุปกรณ์ที่รองรับ AI/ML เพียง 692 รายการ ณ ปี 2025 ซึ่งคิดเป็นน้อยกว่า 3% ของเครื่องมือ AI ที่ใช้งานอยู่ในสถานพยาบาลในปัจจุบัน ช่องว่างในการกำกับดูแลนี้ทำให้ผู้ป่วยมีความเสี่ยงต่อระบบที่ไม่ได้รับการตรวจสอบความถูกต้องซึ่งขาดหลักฐานทางคลินิกที่เหมาะสม โดยเฉพาะอย่างยิ่งในพื้นที่ที่มีความเสี่ยงสูง เช่น การจัดการโรคเรื้อรังและการสนับสนุนด้านสุขภาพจิต

ข้อกำหนดการตรวจสอบความถูกต้องทางคลินิกต้องพัฒนาไปไกลกว่าวิธีการทดสอบซอฟต์แวร์แบบดั้งเดิม แนวทางปัจจุบันมักล้มเหลวในการพิจารณาลักษณะเฉพาะของ AI รวมถึงการเลื่อนไหลของข้อมูล (data drift) อคติของอัลกอริทึม และพฤติกรรมที่เกิดขึ้นใหม่ พรบ. AI ของสหภาพยุโรปกำหนดหมวดหมู่ความเสี่ยงตามลำดับชั้นสำหรับ AI ทางการแพทย์ โดยกำหนดให้มีการทดสอบประสิทธิภาพทางคลินิกที่เข้มงวดสำหรับการใช้งานที่มีความเสี่ยงสูง อย่างไรก็ตาม ระยะเวลาในการดำเนินการขยายไปถึงปี 2027 ทำให้เกิดช่วงเวลาแห่งความไม่แน่นอนในการกำกับดูแล

คุณภาพของข้อมูลเป็นความท้าทายพื้นฐานสำหรับการตรวจสอบความถูกต้องของ AI ทางการแพทย์ ชุดข้อมูลที่ใช้ฝึกมักประสบกับอคติในการเลือก เอกสารที่ไม่ครบถ้วน และการเป็นตัวแทนของประชากรผู้ป่วยที่หลากหลายที่ไม่เพียงพอ การวิเคราะห์เมตาในปี 2025 ที่ตีพิมพ์ใน The Lancet Digital Health พบว่า 78% ของการศึกษา AI ทางการแพทย์ใช้ชุดข้อมูลที่มีความไม่สมดุลทางประชากรอย่างมีนัยสำคัญ ซึ่งอาจทำให้ความเหลื่อมล้ำในการดูแลสุขภาพรุนแรงขึ้นเมื่อนำไปใช้ในสถานการณ์จริง

กลไกการเฝ้าระวังหลังการออกสู่ตลาดสำหรับเครื่องมือแพทย์ AI ยังคงไม่ได้รับการพัฒนา แตกต่างจากอุปกรณ์ทางการแพทย์แบบดั้งเดิมที่มีลักษณะประสิทธิภาพที่คงที่ ระบบ AI สามารถวิวัฒนาการได้อย่างคาดเดาไม่ได้ผ่านการเรียนรู้อย่างต่อเนื่องหรือการเลื่อนไหลของข้อมูล แนวทาง Total Product Life Cycle (TPLC) ที่เสนอโดย FDA มีเป้าหมายเพื่อแก้ไขปัญหานี้ผ่านข้อกำหนดการเฝ้าติดตามอย่างต่อเนื่อง แต่การดำเนินการต้องเผชิญกับความท้าทายทางเทคนิคในการตรวจจับการเสื่อมถอยของประสิทธิภาพที่ละเอียดอ่อนในสภาพแวดล้อมทางคลินิกที่หลากหลาย

รังสีวิทยากลายเป็นพื้นที่ทดสอบที่มองเห็นได้ชัดเจนที่สุดสำหรับ AI ทางการแพทย์ ส่วนใหญ่เป็นเพราะปริมาณงานด้านภาพมีมากกว่าจำนวนผู้เชี่ยวชาญที่มีอยู่ งานวิจัยที่ตีพิมพ์ในปี 2025 ติดตามโครงการตรวจคัดกรองมะเร็งเต้านมซึ่งมีการบูรณาการการอ่านผลที่ช่วยเหลือโดย AI เข้ากับขั้นตอนมาตรฐาน และในขณะที่ความไวในการตรวจดีขึ้นในการทดลองที่ควบคุมอย่างเข้มงวด คลินิกจริงกลับรายงานอัตราผลบวกลวงที่ไม่สม่ำเสมอ คำแนะนำการติดตามผลที่ถูกโต้แย้ง และความสอดคล้องระหว่างรังสีแพทย์กับเครื่องจักรที่แปรผัน ช่องว่างระหว่างมาตรฐานในห้องปฏิบัติการกับความเป็นจริงทางคลินิกในชีวิตประจำวันเน้นย้ำถึงความจำเป็นของโมเดลที่ผ่านการตรวจสอบในระดับท้องถิ่น ซึ่งปรับให้เข้ากับผู้ป่วยกลุ่มผสม อุปกรณ์ถ่ายภาพ และความชอบของรังสีแพทย์ของแต่ละโรงพยาบาล แทนที่จะพึ่งพาค่าเฉลี่ยทั่วโลกที่มักไม่สามารถถ่ายโอนได้อย่างน่าเชื่อถือข้ามประชากรและระบบสุขภาพที่แตกต่างกัน หลักฐานนี้ชี้ให้เห็นว่าตัวเลขประสิทธิภาพของ AI ที่ผู้ขายอ้างถึงไม่ควรถือเป็นจริงเมื่อเครื่องมือไปถึงแผนกที่วุ่นวาย

ความสามารถในการอธิบายยังคงเป็นอุปสรรคที่ใหญ่ที่สุดสำหรับการยอมรับ AI วินิจฉัยของแพทย์ในแผนกรังสีวิทยา ระบบประสิทธิภาพสูงหลายระบบทำงานเป็นกล่องดำ โดยสร้างคะแนนที่มั่นใจโดยไม่เปิดเผยว่าคุณสมบัติใดของภาพที่ขับเคลื่อนการคาดการณ์ ซึ่งทำให้ผู้เชี่ยวชาญยากที่จะรู้ว่าเมื่อใดควรยอมรับผลลัพธ์และเมื่อใดควรท้าทาย รังสีแพทย์ที่ถูกสัมภาษณ์ในการสำรวจปี 2025 กล่าวว่าพวกเขาจะเชื่อถือการสนับสนุนของ AI มากขึ้นอย่างมาก หากเครื่องมือแสดงบริเวณที่โดดเด่น ทำเครื่องหมายความไม่แน่นอนอย่างชัดเจน และระบุช่วงความเชื่อมั่นที่ชัดเจนพร้อมกับคำแนะนำแต่ละข้อ ผู้ควบคุมและผู้ขายกำลังร่วมมือกันในมาตรฐานการตีความ เพื่อว่าเมื่ออัลกอริทึมไม่เห็นด้วยกับผู้เชี่ยวชาญ แพทย์จะเข้าใจเหตุผลพื้นฐานเพียงพอที่จะตัดสินใจอย่างรอบรู้ว่าจะแทนที่เครื่องหรือไม่ หากไม่มีความโปร่งใสนี้ แม้แต่ระบบที่แม่นยำก็ยากที่จะได้รับความเชื่อมั่นที่จำเป็นสำหรับการผสานรวมอย่างสมบูรณ์ในขั้นตอนการทำงานรายวัน

ข้อโต้แย้งทางเศรษฐกิจสำหรับ AI การถ่ายภาพนั้นน่าสนใจแต่ขึ้นอยู่กับความน่าเชื่อถือของเทคโนโลยีภายใต้สภาวะปกติ การคัดแยกอัตโนมัติสามารถจัดลำดับความสำคัญของการสแกนเร่งด่วน ลดภาระการอ่านผลตามปกติ และลดเวลารอสำหรับผู้ป่วย แต่มีความเสี่ยงต้นทุนแอบแฝงในการฝึกโมเดลใหม่ บุคลากรเทคนิคเฉพาะทาง และการกำกับดูแลที่จำเป็นในการติดตามการเสื่อมถอยของประสิทธิภาพเมื่อเวลาผ่านไป ระบบสุขภาพที่นำ AI มาใช้เป็นหลักในฐานะเครื่องมือเพิ่มผลผลิตโดยไม่ได้จัดสรรทรัพยากรที่เพียงพอสำหรับการตรวจสอบและการกำกับดูแลอย่างต่อเนื่อง มักพบว่าผลประโยชน์ในช่วงแรกหายไปเมื่อการเสื่อมถอยเล็กน้อยของความแม่นยำไม่มีใครสังเกต ประสบการณ์ของผู้ใช้งานกลุ่มแรกนี้ตอกย้ำหลักการสำคัญว่าการประหยัดต้นทุนและการปรับปรุงประสิทธิภาพเป็นจริงก็ต่อเมื่อการตัดสินใจทางคลินิกพื้นฐานยังคงปลอดภัยอย่างสม่ำเสมอในกลุ่มผู้ป่วยที่หลากหลาย

การสร้างความไว้วางใจที่ยั่งยืนใน AI ทางการแพทย์ท้ายที่สุดต้องเตรียมตัวบุคลากรให้พร้อมสำหรับการปฏิบัติทางคลินิกรูปแบบใหม่ โรงเรียนแพทย์และโปรแกรมฝึกอบรมแพทย์เริ่มสอนแพทย์ถึงวิธีตีความผลลัพธ์ของ AI รับรู้ข้อจำกัดของโมเดล และผสานคำแนะนำที่สร้างโดยเครื่องจักรเข้ากับการให้เหตุผลเชิงวินิจฉัยโดยไม่ละทิ้งวิจารณญาณวิชาชีพ เป้าหมายไม่ใช่การเปลี่ยนผู้ปฏิบัติงานให้เป็นโปรแกรมเมอร์ แต่เพื่อทำให้พวกเขาเป็นผู้บริโภคหลักฐานที่ซับซ้อนซึ่งสามารถถามคำถามที่ถูกต้องว่าโมเดลถูกฝึกบนข้อมูลใด เพื่อวัตถุประสงค์ทางคลินิกใด เมื่อความสามารถเหล่านี้กลายเป็นเรื่องปกติ การสนทนาก็กว้างขึ้นจากคำถามว่า AI ได้รับความไว้วางใจได้หรือไม่ ไปสู่วิธีที่ AI ถูกกำกับดูแลอย่างรับผิดชอบทั่วทั้งเส้นทางการดูแลทั้งหมด โดยแพทย์ยังคงเป็นผู้ตัดสินใจที่ต้องรับผิดชอบ ในขณะที่เครื่องจักรทำหน้าที่เป็นผู้ช่วยที่ทรงพลังแต่ได้รับการดูแลอย่างใกล้ชิด

แผนงานการดำเนินการสำหรับ AI ทางการแพทย์ที่อิงตามหลักฐานต้องให้ความสำคัญกับความโปร่งใส ความสามารถในการตรวจสอบ และการกำกับดูแลโดยมนุษย์ แนวทางปฏิบัติปี 2025 ขององค์การอนามัยโลกแนะนำให้จัดตั้งศูนย์ตรวจสอบความถูกต้องอิสระ กรอบการรายงานที่เป็นมาตรฐาน และข้อกำหนดบังคับให้มีแพทย์ร่วมในกระบวนการ (clinician-in-the-loop) สำหรับการใช้งานที่มีความเสี่ยงสูง มาตรการเหล่านี้มีจุดมุ่งหมายเพื่อสร้างสมดุลระหว่างนวัตกรรมกับความปลอดภัยของผู้ป่วย เพื่อให้มั่นใจว่าการเพิ่มประสิทธิภาพด้วย AI จะช่วยเสริมมากกว่าเข้ามาแทนที่การตัดสินใจทางคลินิก

เพิ่มเติม...