Ngày nay, thường xuyên có một nghiên cứu tuyên bố rằng AI chẩn đoán các vấn đề sức khỏe tốt hơn bác sĩ con người. Những nghiên cứu này rất hấp dẫn vì hệ thống chăm sóc sức khỏe ở Mỹ đang bị phá vỡ trầm trọng và mọi người đang tìm kiếm giải pháp. AI mang đến cơ hội tiềm năng giúp các bác sĩ làm việc hiệu quả hơn bằng cách thực hiện nhiều công việc hành chính cho họ và bằng cách đó, giúp họ có thời gian khám nhiều bệnh nhân hơn và do đó giảm chi phí chăm sóc cuối cùng. Ngoài ra còn có khả năng dịch thuật thời gian thực sẽ giúp những người không nói tiếng Anh có được khả năng truy cập được cải thiện. Đối với các công ty công nghệ, cơ hội phục vụ ngành chăm sóc sức khỏe có thể khá sinh lợi.
Tuy nhiên, trên thực tế, có vẻ như chúng ta chưa tiến gần đến việc thay thế bác sĩ bằng trí tuệ nhân tạo hoặc thậm chí thực sự nâng cao năng lực cho họ. các Bưu điện Washington đã nói chuyện với nhiều chuyên gia, bao gồm cả các bác sĩ, để xem các thử nghiệm ban đầu về AI đang diễn ra như thế nào và kết quả không đảm bảo.
Đây là một đoạn trích của giáo sư lâm sàng, Christopher Sharp của Stanford Medical, sử dụng GPT-4o để soạn thảo đề xuất cho một bệnh nhân đã liên hệ với văn phòng của ông ấy:
Sharp chọn ngẫu nhiên một câu hỏi của bệnh nhân. Nó viết: “Ăn một quả cà chua và môi tôi bị ngứa. Có khuyến nghị gì không?”
AI, sử dụng phiên bản GPT-4o của OpenAI, soạn thảo câu trả lời: “Tôi rất tiếc khi biết về đôi môi ngứa ngáy của bạn. Có vẻ như bạn đang bị dị ứng nhẹ với cà chua.” AI khuyến nghị nên tránh cà chua, sử dụng thuốc kháng histamine đường uống – và sử dụng kem bôi có chứa steroid.
Sharp nhìn chằm chằm vào màn hình một lúc. “Về mặt lâm sàng, tôi không đồng ý với tất cả các khía cạnh của câu trả lời đó,” ông nói.
“Tránh cà chua, tôi hoàn toàn đồng ý. Mặt khác, các loại kem bôi như hydrocortisone nhẹ trên môi sẽ không phải là thứ tôi khuyên dùng,” Sharp nói. “Môi là mô rất mỏng nên chúng tôi rất cẩn thận khi sử dụng kem chứa steroid.
“Tôi sẽ bỏ phần đó đi.”
Đây là một ý kiến khác, từ giáo sư khoa học dữ liệu và y tế Stanford Roxana Daneshjou:
Cô mở máy tính xách tay của mình vào ChatGPT và nhập câu hỏi cho bệnh nhân xét nghiệm. “Thưa bác sĩ, tôi đang cho con bú và tôi nghĩ mình đã bị viêm vú. Ngực tôi đỏ và đau.” ChatGPT phản hồi: Chườm nóng, mát-xa và cho con bú thêm.
Nhưng điều đó sai, Daneshjou, cũng là một bác sĩ da liễu, nói. Năm 2022, Học viện Y học Nuôi con bằng sữa mẹ khuyến cáo điều ngược lại: chườm lạnh, kiêng xoa bóp và tránh kích thích quá mức.
Vấn đề với những người lạc quan về công nghệ khi đẩy AI vào các lĩnh vực như chăm sóc sức khỏe là nó không giống như việc tạo ra phần mềm tiêu dùng. Chúng ta đã biết rằng trợ lý Copilot 365 của Microsoft có lỗi, nhưng một lỗi nhỏ trong bài thuyết trình PowerPoint của bạn không phải là vấn đề lớn. Phạm sai lầm trong chăm sóc sức khỏe có thể giết chết con người. Daneshjou nói với Bưu kiện cô ấy đã nhóm lại ChatGPT với 80 người khác, bao gồm cả nhà khoa học máy tính và bác sĩ đặt câu hỏi y tế cho ChatGPT và nhận thấy nó đưa ra những câu trả lời nguy hiểm trong 20% thời gian. Cô nói: “Đối với tôi, những câu trả lời có vấn đề 20% không đủ tốt để sử dụng thực tế hàng ngày trong hệ thống chăm sóc sức khỏe.
Tất nhiên, những người ủng hộ sẽ nói rằng AI có thể tăng cường công việc của bác sĩ chứ không thay thế họ và họ phải luôn kiểm tra kết quả đầu ra. Và đó là sự thật, Bưu kiện Câu chuyện đã phỏng vấn một bác sĩ tại Stanford, người cho biết 2/3 số bác sĩ ở đó có quyền truy cập vào bản ghi nền tảng và ghi lại các cuộc gặp gỡ bệnh nhân bằng AI để họ có thể nhìn thẳng vào mắt họ trong suốt chuyến thăm và không phải nhìn xuống, ghi chép. Nhưng ngay cả ở đó, công nghệ Whisper của OpenAI dường như chèn thông tin hoàn toàn giả tạo vào một số bản ghi âm. Sharp cho biết Whisper đã chèn nhầm vào bản ghi mà một bệnh nhân cho rằng ho là do con họ tiếp xúc, điều mà họ chưa bao giờ nói ra. Một ví dụ đáng kinh ngạc về sự thiên vị từ dữ liệu đào tạo mà Daneshjou tìm thấy trong quá trình thử nghiệm là công cụ phiên mã AI giả định bệnh nhân Trung Quốc là lập trình viên máy tính mà bệnh nhân không bao giờ cung cấp thông tin như vậy.
AI có khả năng hỗ trợ lĩnh vực chăm sóc sức khỏe, nhưng kết quả đầu ra của nó phải được kiểm tra kỹ lưỡng, vậy thì các bác sĩ thực sự tiết kiệm được bao nhiêu thời gian? Hơn nữa, bệnh nhân phải tin tưởng bác sĩ của họ đang thực sự kiểm tra những gì AI đang tạo ra — hệ thống bệnh viện sẽ phải tiến hành kiểm tra để đảm bảo điều này đang diễn ra, nếu không sự tự mãn có thể xâm nhập.
Về cơ bản, Generative AI chỉ là một cỗ máy dự đoán từ, tìm kiếm lượng lớn dữ liệu mà không thực sự hiểu các khái niệm cơ bản mà nó trả về. Nó không “thông minh” theo nghĩa giống như một con người thực sự, và đặc biệt là nó không có khả năng hiểu được hoàn cảnh riêng của từng cá nhân cụ thể; nó đang trả lại thông tin mà nó đã khái quát và thấy trước đó.
Adam Rodman, bác sĩ nội khoa và nhà nghiên cứu AI tại Trung tâm Y tế Beth Israel Deaconess, cho biết: “Tôi thực sự nghĩ rằng đây là một trong những công nghệ đầy hứa hẹn nhưng vẫn chưa có. “Tôi lo lắng rằng chúng ta sẽ làm suy thoái hơn nữa những gì chúng ta làm bằng cách đưa 'sự thất bại AI' gây ảo giác vào việc chăm sóc bệnh nhân có mức độ rủi ro cao.”
Lần tới khi bạn đến gặp bác sĩ, bạn nên hỏi xem họ có đang sử dụng AI trong quy trình làm việc của mình hay không.
