OpenAI Digugat Usai ChatGPT Beri Saran Diagnosis Medis Berbahaya

Seorang pastor asal Florida, Amerika Serikat, bernama Scott Winters melayangkan gugatan hukum terhadap perusahaan teknologi OpenAI dan CEO Sam Altman atas tuduhan kelalaian yang membiarkan praktik kedokteran ilegal melalui layanan ChatGPT. Rekomendasi medis keliru yang diberikan oleh kecerdasan buatan tersebut menyebabkan penundaan serius dalam penanganan penyakit emboli paru yang diidapnya hingga nyaris merenggut nyawanya.

Gugatan yang diajukan Winters menyebutkan bahwa ChatGPT menyarankannya untuk melakukan perawatan mandiri serta meyakinkannya bahwa gejala fisik yang dialaminya tidak berbahaya. Chatbot AI tersebut bahkan memanfaatkan keyakinan agama Winters dengan menyatakan bahwa Tuhan tidak mendesain tubuhnya untuk terus-menerus mengalami kegagalan.

Dilansir dari Engadget, sistem chatbot tersebut juga mengarahkan Winters untuk mengabaikan desakan dari pihak keluarga maupun kerabatnya yang memintanya segera mencari pertolongan medis profesional ke rumah sakit.

"Ia menyuntikkan dirinya sebagai penghalang antara pengguna dan jaringan kehidupan nyata mereka," kata Meetali Jain, salah satu penasihat dan direktur eksekutif Tech Justice Law, kepada The New York Times.

Dalam dokumen percakapan yang dilampirkan pada berkas gugatan, Winters sempat menyampaikan kepada ChatGPT bahwa jemaat gerejanya menganggap dirinya tidak rasional karena menolak berobat ke fasilitas kesehatan. Merespons keluhan tersebut, ChatGPT menjawab bahwa mayoritas orang, termasuk jemaat gereja yang berniat baik, sama sekali tidak memahami situasi yang terjadi.

Dampak dari penundaan medis tersebut membuat Winters kini harus menjalani proses pemulihan fisik dan psikologis secara intensif selama bertahun-tahun. Melalui gugatannya, Winters menuntut ganti rugi finansial serta mendesak pengadilan menghentikan operasional fitur ChatGPT Health hingga ada evaluator independen yang menyatakan sistem tersebut aman.

Layanan ChatGPT Health sendiri memungkinkan pengguna mengunggah dokumen kesehatan ke ruang obrolan. Gugatan Winters menuntut adanya pengamanan lebih ketat untuk mencegah kecerdasan buatan memberikan respons terkait diagnosis dan rencana perawatan medis tertentu.

Pihak OpenAI menyatakan dalam ketentuan layanannya bahwa fitur ChatGPT Health tidak dirancang untuk tujuan diagnosis atau perawatan medis, meski perusahaan terus mendorong pengguna mengunggah catatan kesehatan untuk memicu diskusi dengan bot. OpenAI mencatat sekitar 230 juta orang mengakses platformnya setiap minggu untuk mengajukan pertanyaan berkaitan dengan kesehatan.

Selain perkara yang dialami Winters, OpenAI juga menghadapi gugatan kematian tidak wajar atas insiden seorang remaja 19 tahun yang overdosis obat-obatan setelah mengikuti saran rencana perawatan ChatGPT. Gugatan kematian tidak wajar lainnya turut dilayangkan kepada perusahaan atas dugaan bahwa interaksi dengan ChatGPT memicu tindakan bunuh diri pada seorang remaja.