Sarah được viết tắt bởi cụm từ Smart AI Resource Assistant for Health (Trợ lý tài nguyên AI thông minh cho sức khỏe), là nhân viên y tế ảo sẵn sàng nói chuyện 24/7 bằng 8 ngôn ngữ khác nhau với người dùng để giải thích các chủ đề như sức khỏe tâm thần, sử dụng thuốc lá và ăn uống lành mạnh cho... Đây là một phần trong chiến dịch của WHO nhằm tìm kiếm công nghệ có thể vừa giáo dục con người vừa lấp đầy khoảng trống về nhân sự trong bối cảnh thế giới đang phải đối mặt với tình trạng thiếu nhân viên y tế.
Mặc dù nhận được nhiều kỳ vọng về sản phẩm mới nhưng WHO không quên cảnh báo trên trang web của mình rằng nguyên mẫu trợ lý AI mới không phải lúc nào cũng đưa ra những phản hồi chính xác.
Nguyên nhân được xác định bởi một số dữ liệu để đào tạo AI Sarah có thể đã lỗi thời so với các tiến bộ mới nhất trong lĩnh vực y tế. Bên cạnh đó, đôi khi Sarah bot lại đưa ra những câu trả lời kỳ quái (được gọi là ảo giác AI), có thể truyền bá thông tin sai lệch về sức khỏe cộng đồng.
Sarah không có tính năng chẩn đoán như WebMD hay Google. Trên thực tế, bot được lập trình để không nói về bất cứ điều gì ngoài tầm nhìn của WHO, bao gồm cả các câu hỏi về các loại thuốc cụ thể. Vì vậy Sarah thường điều hướng mọi người đến trang web của WHO hoặc khuyên người dùng nên “tham khảo ý kiến của nhà cung cấp dịch vụ chăm sóc sức khỏe của bạn”.
Ramin Javan, nhà nghiên cứu và bác sĩ X quang tại Đại học George Washington, cho biết Sarah đang thiếu chiều sâu, tuy nhiên đây chỉ lf bước đầu tiên và WHO chưa thực sự muốn vượt qua những ranh giới, quy định của tổ chức.
WHO cho biết Sarah có nhiệm vụ hợp tác với các nhà nghiên cứu và chính phủ để cung cấp số liệu thống kê y tế công cộng chính xác, từ đó đề xuất các bước cơ bản để có cuộc sống lành mạnh hơn. Cơ quan này đang trưng cầu các giải pháp cải thiện bot và sử dụng nó trong các tình huống khẩn cấp về sức khỏe.
Sau cùng, WHO vẫn nhấn mạnh rằng trợ lý AI vẫn đang trong quá trình hoàn thiện. Giám đốc đổi mới và y tế kỹ thuật số của WHO là Alain Labrique cho biết: “Những công nghệ này không thể thay thế cho việc tương tác với chuyên gia hoặc nhận lời khuyên y tế từ bác sĩ lâm sàng hay nhà cung cấp dịch vụ y tế được đào tạo thực tế”.
Sarah đã được đào tạo trên nền tảng của ChatGPT 3.5, tuy nhiên dữ liệu đào tạo của nó mới chỉ được cập nhật đến tháng 9/2021, vì vậy bot không có thông tin cập nhật về các tư vấn y tế hoặc sự kiện tin tức. Đơn cử, khi được hỏi liệu Cục Quản lý Thực phẩm & Dược phẩm Hoa Kỳ (FDA) có phê duyệt thuốc điều trị bệnh Alzheimer Lecanemab hay không, Sarah cho biết loại thuốc này vẫn đang trong quá trình thử nghiệm lâm sàng. Thực tế, loại thuốc này đã được phê duyệt để điều trị bệnh sớm vào tháng 1/2023.
Ngay cả dữ liệu của chính WHO cũng có thể khiến Sarah gặp khó khăn. Khi được hỏi liệu số ca tử vong do viêm gan có gia tăng hay không, trợ lý ảo này cũng không thể cung cấp ngay thông tin chi tiết từ báo cáo gần đây của WHO mà điều hướng người dùng vào website của tổ chức.
Trong một số trường hợp, Sarah lại “lờ” đi câu trả lời như khi được hỏi nơi có thể chụp quang tuyến vú ở Washington (Mỹ), trợ lý ảo này không đưa ra đáp án cho người dùng.
Điều này không có gì là bất thường trong những ngày đầu phát triển AI. Trong một nghiên cứu năm ngoái xem xét cách ChatGPT trả lời 284 câu hỏi y tế, các nhà nghiên cứu tại Trung tâm Y tế Đại học Vanderbilt đã phát hiện ra rằng mặc dù nó luôn cung cấp câu trả lời đúng nhưng có nhiều trường hợp chatbot “sai một cách ngoạn mục và đáng ngạc nhiên”.
Giám đốc truyền thông của WHO Jaimie Guerra cho biết, để có thể bắt chước sự đồng cảm trong các phiên đặt câu hỏi, Sarah truy cập vào camera máy tính để lưu trữ nét mặt của người dùng trong 30 giây, sau đó xóa các bản ghi. Mỗi lượt truy cập đều ẩn danh nhưng người dùng có thể chọn chia sẻ câu hỏi của họ với WHO trong một cuộc khảo sát để cải thiện trải nghiệm. Mọi dữ liệu được thu thập đều là ngẫu nhiên và không bị ràng buộc với địa chỉ IP hoặc người dùng cụ thể.
Đáng lưu ý, việc sử dụng dữ liệu nguồn mở như GPT có những nguy hiểm riêng vì đây là mục tiêu tấn công thường xuyên của tội phạm mạng. Nhà nghiên cứu CNTT và y tế cộng đồng tại Đại học Hofstra là Jingquan Li cho biết, một số người truy cập Sarah qua Wi-fi rất dễ bị phần mềm độc hại tấn công hoặc hack camera trên thiết bị. Các cuộc tấn công cố gắng truy cập dữ liệu sẽ không đáng lo ngại vì các phiên truy cập đều ẩn danh.
Các đối tác và nhà nghiên cứu của chính phủ cũng không có quyền truy cập thường xuyên vào dữ liệu, bao gồm các câu hỏi có thể giúp theo dõi các mô hình sức khỏe, trừ khi họ yêu cầu dữ liệu khảo sát tự nguyện.
Thực tế, Sarah là phần tiếp theo của dự án nhân viên y tế ảo của WHO được triển khai từ năm 2021 có tên Florence nhằm cung cấp thông tin cơ bản về Covid-19 và thuốc lá. Công ty Soul Machines có trụ sở tại New Zealand đã xây dựng hình đại diện cho cả hai dự án. Soul Machines không thể truy cập dữ liệu Sarah, nhưng giám đốc điều hành Greg Cross cho biết trong một tuyên bố rằng công ty đang sử dụng dữ liệu GPT để cải thiện kết quả và trải nghiệm.
Đầu năm nay, WHO đã ban hành hướng dẫn đạo đức cho các đối tác chính phủ của mình đối với các mô hình AI liên quan đến sức khỏe, bao gồm thúc đẩy tính minh bạch của dữ liệu và bảo vệ sự an toàn.
Về tạo hình, Sarah có hình đại diện giống như một người da trắng. Tuy nhiên, người dùng cũng có thể chọn hình đại diện khác trong các phiên bản sau này. Về giới tính, khi được hỏi, Sarah cho biết: “Tôi là người quảng bá sức khỏe kỹ thuật số bằng chatbot nên tôi không phân biệt giới tính hay sử dụng đại từ nhân xưng. Mục đích của tôi là hỗ trợ bạn sống một lối sống lành mạnh. Bạn có câu hỏi nào về việc bỏ thuốc lá, giảm tiêu thụ rượu hoặc cải thiện sức khỏe tổng thể của mình không?".
