Đạo đức của ChatGPT trong y học và chăm sóc sức khỏe – Phần 2 của 4.

Đánh giá có hệ thống về Mô hình ngôn ngữ lớn

Joschka Haltaufderheide và Robert Ranisch. npj Digital Medicine Tập 7, Số bài: 183 (2024)

Lê Quang Văn dịch, giải thích và thực hiện phần kỹ thuật số.

Kết quả

Tìm kiếm của chúng tôi đã mang lại tổng cộng 796 lượt truy cập cơ sở dữ liệu. Sau khi loại bỏ các bản sao, 738 hồ sơ đã trải qua sàng lọc tiêu đề / trừu tượng. 158 văn bản đầy đủ đã được đánh giá. 53 hồ sơ đã được đưa vào bộ dữ liệu, bao gồm 23 bài báo gốc bao gồm công việc lý thuyết hoặc thực nghiệm, 11 bức thư, sáu bài xã luận, bốn đánh giá, ba bình luận, một báo cáo và năm bài báo không xác định. Hầu hết các tác phẩm tập trung vào các ứng dụng sử dụng ChatGPT trên nhiều lĩnh vực chăm sóc sức khỏe khác nhau. Về sự liên kết của các tác giả đầu tiên, 25 bài báo đến từ Bắc Mỹ, 11 từ châu Âu, sáu từ Tây Á, bốn từ Đông Á, ba từ Nam Á và bốn từ Úc.

Trong quá trình phân tích, bốn chủ đề chung xuất hiện trong tập dữ liệu của chúng tôi, mà chúng tôi đã sử dụng để cấu trúc báo cáo của mình. Các chủ đề này bao gồm các ứng dụng lâm sàng, ứng dụng hỗ trợ bệnh nhân, hỗ trợ các chuyên gia y tế và quan điểm y tế công cộng.

Để hỗ trợ chẩn đoán ban đầu và phân loại bệnh nhân, một số tác giả thảo luận về việc sử dụng các mô hình ngôn ngữ lớn trong bối cảnh phân tích bệnh nhân dự đoán và đánh giá rủi ro trong hoặc trước các tình huống lâm sàng như một ứng dụng có khả năng biến đổi. Vai trò của các mô hình ngôn ngữ lớn trong kịch bản này được mô tả là vai trò của một "phi công phụ" sử dụng thông tin bệnh nhân có sẵn để gắn cờ các khu vực quan tâm hoặc để dự đoán bệnh và các yếu tố nguy cơ.

Currie cùng với hầu hết các tác giả, lưu ý rằng dự đoán kết quả sức khỏe và các mô hình có liên quan rất có khả năng cải thiện kết quả của bệnh nhân và đóng góp vào lợi ích của bệnh nhân. Ví dụ, các khoa cấp cứu quá đông đúc là một vấn đề nghiêm trọng trên toàn thế giới và có tác động đáng kể đến kết quả của bệnh nhân. Từ góc độ tránh tác hại, sử dụng các mô hình ngôn ngữ lớn với các ghi chú phân loại có thể dẫn đến giảm thời gian lưu trú và sử dụng thời gian hiệu quả hơn trong phòng chờ.

Tuy nhiên, tất cả các tác giả lưu ý rằng các ứng dụng như vậy cũng có thể có vấn đề và đòi hỏi sự giám sát chặt chẽ của con người. Mặc dù các mô hình ngôn ngữ lớn có thể tiết lộ mối liên hệ giữa các kiến thức khác nhau, nhưng việc tạo ra thông tin không chính xác sẽ có hậu quả tiêu cực nghiêm trọng. Điều này có thể dẫn đến tác hại trực tiếp cho bệnh nhân hoặc cung cấp cho các bác sĩ lâm sàng những lời biện minh và lý do sai lầm và nguy hiểm cho quyết định của họ. Những vấn đề này được kết nối chặt chẽ với những thành kiến cố hữu trong các mô hình ngôn ngữ lớn, xu hướng "ảo giác" và sự không minh bạch của chúng. Thuật ngữ "ảo giác" đề cập đến một mô hình ngôn ngữ lớn tạo ra các tuyên bố hợp lý và thường tự tin, thực tế không chính xác theo nghĩa không có căn cứ trong dữ liệu. Ngoài ra, sự không chắc chắn được tăng lên bằng cách sử dụng dữ liệu phi cấu trúc. Ghi chú y tế thường khác với dữ liệu các mô hình được đào tạo trước sử dụng. Điều này gây khó khăn cho việc dự đoán độ chính xác của đầu ra khi sử dụng dữ liệu đó trong lời nhắc hoặc để tinh chỉnh các mô hình ngôn ngữ lớn. Khả năng diễn giải của kết quả và khuyến nghị giới thiệu thêm sự phức tạp và nguồn gây hại tiềm ẩn. Tác giả Currie lưu ý rằng bất chấp những khó khăn như vậy, việc sử dụng các mô hình ngôn ngữ lớn tiến hành phần lớn mà không có hướng dẫn, khuyến nghị và kiểm soát. Do đó, kết quả cuối cùng phụ thuộc vào khả năng của các bác sĩ lâm sàng để giải thích các phát hiện và xác định thông tin không chính xác

Trong tư vấn và giao tiếp với bệnh nhân, các mô hình ngôn ngữ lớn có thể cung cấp một cách tiếp cận mới cho sự tương tác giữa bệnh nhân và nhà cung cấp bằng cách tạo điều kiện trao đổi thông tin và thu hẹp khoảng cách giữa các cơ sở lâm sàng và tiền lâm sàng, chẳng hạn như các biện pháp tự quản lý hoặc hỗ trợ cộng đồng. Điều này bao gồm giảm

Episode 3047 - October 15 - Phần 2 của 4 - Đạo đức của ChatGPT trong Y học - Vina Technology at AI time

Vina Technology at AI time - Công nghệ Việt Nam thời AI

Episode 3047 - October 15 - Phần 2 của 4 - Đạo đức của ChatGPT trong Y học - Vina Technology at AI time