Theo đơn kiện được nộp lên Tòa Thượng thẩm bang California tại San Francisco, nguyên đơn là Scott Winters, cựu mục sư sống ở Florida. Ông cho biết trong nhiều tháng đã sử dụng Chat-GPT để trao đổi về các vấn đề sức khỏe, từ triệu chứng, kết quả xét nghiệm cho đến những băn khoăn liên quan đến việc điều trị.

Nguyên đơn là Scott Winters, cựu mục sư sống ở Florida.

Từ khuyên đi khám đến khuyến khích ở nhà

Theo nội dung đơn kiện, ở giai đoạn đầu Chat-GPT vẫn thường xuyên khuyến nghị Winters tham khảo ý kiến bác sĩ hoặc đến cơ sở y tế. Tuy nhiên, theo thời gian, chatbot được cho là dần thay đổi cách phản hồi.

Winters cáo buộc Chat-GPT bắt đầu trấn an ông rằng các triệu chứng không đáng lo ngại, đồng thời khuyên ông hạn chế vận động và nghỉ ngơi tại nhà thay vì tìm kiếm sự chăm sóc y tế chuyên nghiệp.

Giai đoạn đầu Chat-GPT vẫn thường xuyên khuyến nghị Winters tham khảo ý kiến bác sĩ.

Một trong những tình huống được nêu trong hồ sơ là khi Winters hỏi về cơn đau vùng háng. Theo đơn kiện, Chat-GPT cho rằng đây nhiều khả năng không phải dấu hiệu của vấn đề nghiêm trọng.

Các bác sĩ chẩn đoán ông bị thuyên tắc phổi – tình trạng cục máu đông làm tắc động mạch phổi, có thể đe dọa tính mạng nếu không được điều trị kịp thời. Theo đơn kiện, các bác sĩ nhận định việc ít vận động trong thời gian dài có thể là yếu tố góp phần dẫn đến tình trạng này.

Chat-GPT bị cáo buộc tạo dựng lòng tin bằng các cuộc trò chuyện về đức tin

Ngoài những lời khuyên liên quan đến sức khỏe, Winters còn cho rằng ChatGPT đã sử dụng ngôn ngữ mang màu sắc tôn giáo trong quá trình trò chuyện với ông.

Theo đơn kiện, chatbot nhiều lần đề cập đến Chúa và các nội dung về đức tin, khiến ông ngày càng tin tưởng vào những phản hồi của hệ thống và tiếp tục làm theo các khuyến nghị thay vì tìm đến bác sĩ.

Theo thời gian, chatbot được cho là dần thay đổi cách phản hồi.

Nguyên đơn cũng cáo buộc rằng ngay cả sau khi xuất viện, ChatGPT vẫn khuyên ông không cần tham gia chương trình phục hồi chức năng do bác sĩ đề xuất mà nên tiếp tục nghỉ ngơi tại nhà.

Ngoài yêu cầu bồi thường thiệt hại, Winters còn đề nghị tòa án buộc OpenAI thay đổi cách ChatGPT xử lý các trường hợp có dấu hiệu cấp cứu.

Cụ thể, đơn kiện đề xuất chatbot phải tự động chấm dứt cuộc trò chuyện và hướng người dùng tìm kiếm hỗ trợ y tế ngay lập tức khi phát hiện những dấu hiệu có thể đe dọa tính mạng, thay vì tiếp tục đưa ra các lời khuyên.

Bên cạnh đó, nguyên đơn cũng yêu cầu tạm dừng việc triển khai ChatGPT 4o Health – dịch vụ hỗ trợ sức khỏe cá nhân hóa dựa trên hồ sơ y tế – cho đến khi hệ thống được một tổ chức độc lập đánh giá đầy đủ về mức độ an toàn.

OpenAI: Chat-GPT không phải là bác sĩ

Phản hồi về vụ việc, người phát ngôn OpenAI Drew Pusateri cho biết công ty tin rằng AI có thể hỗ trợ người dùng trong quá trình chăm sóc sức khỏe, nhưng nhấn mạnh Chat-GPT không phải là bác sĩ và không nên được sử dụng để thay thế việc khám, chẩn đoán hoặc điều trị bởi nhân viên y tế.

Chat-GPT không phải là bác sĩ và không nên được sử dụng để thay thế việc khám, chẩn đoán hoặc điều trị bởi nhân viên y tế.

Đại diện OpenAI cũng cho rằng việc quy toàn bộ nguyên nhân dẫn đến các quyết định y tế của một cá nhân cho chatbot là cách nhìn quá đơn giản đối với một vấn đề vốn rất phức tạp.

Vụ kiện của Scott Winters là diễn biến mới nhất trong loạt tranh chấp pháp lý liên quan đến ChatGPT và các hệ thống AI tạo sinh. Những vụ việc này tiếp tục làm dấy lên các cuộc tranh luận về trách nhiệm của doanh nghiệp công nghệ khi AI ngày càng được sử dụng trong những lĩnh vực nhạy cảm như chăm sóc sức khỏe và tư vấn cá nhân.

Nguồn: Mobihealthnews, CBS