Tanggung Jawab Hukum Negara Bagi Korban Malpraktik Dokter AI

Nursiah, S.H., M.H.
(Mahasiswa Doktoral Ilmu Hukum Universitas 17 Agustus 1945 Surabaya)

Teknologi kecerdasan buatan (Artificial Intelligence/AI) telah berkembang pesat dalam beberapa dekade terakhir, merambah hampir semua sektor, termasuk layanan kesehatan. Di era modern ini, kebutuhan akan efisiensi, akurasi, dan aksesibilitas dalam pelayanan kesehatan menjadi semakin penting, terutama mengingat tekanan terhadap sistem kesehatan global akibat pandemi, pertumbuhan populasi, dan meningkatnya prevalensi penyakit kronis. Dalam konteks ini, AI menjadi salah satu solusi potensial untuk mengatasi tantangan tersebut. Dengan kemampuan mengolah data dalam jumlah besar dan mengenali pola yang sulit dideteksi oleh manusia, AI telah membawa perubahan besar dalam cara layanan kesehatan dirancang, diberikan, dan dikelola.

Penerapan AI dalam layanan kesehatan mencakup berbagai aspek yang secara signifikan meningkatkan kualitas dan efisiensi pelayanan. Salah satu penggunaan AI yang paling populer adalah dalam diagnosis otomatis. Teknologi ini menggunakan algoritma pembelajaran mesin (machine learning) untuk menganalisis data medis seperti hasil radiologi, rekam medis elektronik, dan tes laboratorium. Contohnya, Google DeepMind telah berhasil mengembangkan algoritma yang dapat mendeteksi penyakit mata dengan tingkat akurasi yang sangat tinggi, mendekati bahkan melampaui kemampuan dokter spesialis. Hal serupa terjadi dalam deteksi kanker payudara, di mana AI telah terbukti dapat mendeteksi tanda-tanda awal penyakit yang sering kali terlewatkan oleh tenaga medis manusia.(Powles & Hodson, 2017).

Selain diagnosis, AI juga digunakan dalam layanan telemedicine, yang menjadi semakin penting sejak pandemi COVID-19. Telemedicine memungkinkan pasien untuk berkonsultasi dengan dokter dari jarak jauh melalui video call atau aplikasi berbasis AI. Hal ini tidak hanya mengurangi risiko penyebaran penyakit tetapi juga memperluas akses terhadap layanan kesehatan, terutama di daerah terpencil yang kekurangan fasilitas medis. Chatbot medis adalah inovasi lain yang semakin banyak digunakan. Chatbot berbasis AI seperti Babylon Health dan Ada Health mampu memberikan saran kesehatan awal, menjawab pertanyaan sederhana dari pasien, dan bahkan merekomendasikan tindakan medis berdasarkan gejala yang dilaporkan.

Layanan kesehatan berbasis AI memiliki berbagai kelebihan, termasuk meningkatkan akurasi diagnosis melalui analisis data besar seperti citra medis, hasil laboratorium, dan rekam medis pasien. AI juga mempercepat proses diagnostik, yang memungkinkan pengobatan dini pada penyakit serius seperti kanker dan penyakit jantung. Teknologi ini memberikan akses yang lebih luas melalui telemedicine, memungkinkan pasien di daerah terpencil untuk berkonsultasi tanpa harus bepergian. Selain itu, AI dapat mempersonalisasi rencana perawatan berdasarkan data genetik dan riwayat medis individu, serta mengurangi beban kerja tenaga medis melalui otomatisasi tugas administratif. Semua ini menciptakan layanan kesehatan yang lebih efisien, terjangkau, dan inklusif.

Teknologi AI telah memberikan dampak positif yang signifikan terhadap efisiensi layanan kesehatan. Dengan memanfaatkan AI, waktu yang dibutuhkan untuk menganalisis data medis dapat dipangkas secara drastis. Contohnya, analisis citra radiologi yang biasanya membutuhkan waktu berjam-jam dapat diselesaikan oleh AI dalam hitungan menit. Selain itu, biaya operasional juga dapat ditekan karena AI dapat menjalankan tugas-tugas yang sebelumnya membutuhkan tenaga manusia, seperti penyaringan awal pasien atau pengelolaan data kesehatan. Efisiensi ini menjadikan layanan kesehatan berbasis AI semakin populer, baik di kalangan tenaga medis maupun pasien.(Ego, 2024)

Namun, popularitas layanan ini juga menghadirkan tantangan. Salah satunya adalah tingkat kepercayaan masyarakat terhadap teknologi ini. Banyak pasien masih meragukan kemampuan AI untuk memberikan diagnosis yang setara dengan dokter manusia, terutama dalam kasus yang melibatkan aspek emosional atau kompleksitas klinis tinggi. Selain itu, dokter dan tenaga kesehatan lainnya juga perlu diberikan pelatihan khusus agar dapat memanfaatkan teknologi ini secara optimal.

Meskipun menawarkan berbagai manfaat, penerapan AI dalam layanan kesehatan tidak lepas dari berbagai tantangan. Salah satu isu utama adalah keamanan data pasien. Layanan AI memerlukan data dalam jumlah besar untuk melatih algoritmanya, yang sering kali mencakup informasi medis yang sangat sensitif. Jika data ini tidak dikelola dengan baik, risiko kebocoran atau penyalahgunaan data menjadi sangat tinggi.

Tantangan lain adalah kesalahan diagnosis. Meskipun AI memiliki kemampuan analitis yang tinggi, algoritmanya tetap bergantung pada data yang digunakan untuk pelatihan. Jika dataset yang digunakan tidak mencerminkan populasi yang beragam atau memiliki bias tertentu, hasil diagnosis AI dapat menjadi tidak akurat. Sebagai contoh, algoritma AI yang dilatih menggunakan data pasien dari negara maju mungkin tidak dapat memberikan hasil yang optimal jika diterapkan pada populasi negara berkembang dengan karakteristik kesehatan yang berbeda.

Potensi AI dalam layanan kesehatan sangat besar. Dengan kemajuan teknologi yang terus berlanjut, di masa depan, AI diperkirakan akan memainkan peran yang semakin penting dalam menciptakan sistem kesehatan yang lebih terintegrasi, efisien, dan personal. Salah satu area yang menjanjikan adalah pengobatan presisi (precision medicine), di mana AI digunakan untuk menciptakan rencana perawatan yang sepenuhnya disesuaikan dengan kebutuhan unik setiap pasien berdasarkan data genetik, lingkungan, dan gaya hidup mereka.

Di sisi lain, AI juga berpotensi untuk memperluas akses layanan kesehatan ke daerah-daerah terpencil yang selama ini kesulitan mendapatkan layanan medis berkualitas. Melalui perangkat wearable dan telemedicine berbasis AI, pasien di daerah tersebut dapat terus dipantau kesehatannya tanpa harus mengunjungi fasilitas kesehatan secara langsung. Namun, untuk mewujudkan potensi ini, diperlukan investasi besar dalam infrastruktur teknologi serta pelatihan bagi tenaga medis dan pengguna.

Di Amerika Serikat, hukum yang mengatur penerapan kecerdasan buatan (AI) dalam bidang kesehatan melibatkan berbagai tingkat regulasi federal dan negara bagian. Federal Food and Drug Administration (FDA) memainkan peran kunci dengan menyediakan panduan untuk pengembangan dan penerapan perangkat medis berbasis AI, terutama dengan pendekatan berbasis pembelajaran adaptif yang memungkinkan perangkat ini terus berkembang seiring waktu. FDA juga memprioritaskan keamanan, transparansi, dan efisiensi teknologi AI dengan memastikan perangkat tersebut memberikan manfaat yang sebanding dengan risikonya.

Di tingkat negara bagian, berbagai undang-undang juga diusulkan atau diterapkan untuk mengatur penggunaan AI di layanan kesehatan. Beberapa negara bagian seperti California, Georgia, dan Massachusetts telah menetapkan regulasi yang spesifik, termasuk memastikan algoritma AI tidak mendiskriminasi berdasarkan karakteristik pribadi atau membatasi konsultasi langsung pasien dengan tenaga medis. Selain itu, undang-undang di beberapa negara bagian mengharuskan transparansi dalam penggunaan algoritma AI, seperti di Pennsylvania yang mengharuskan pengungkapan algoritma oleh perusahaan asuransi. (Matheny, 2019).

Hukum penerapan AI di bidang kesehatan di Eropa diatur secara ketat melalui Artificial Intelligence Act (AI Act), yang bertujuan untuk memastikan bahwa penggunaan AI mematuhi prinsip keselamatan, hak asasi manusia, dan demokrasi. Regulasi ini menetapkan kerangka kerja yang membedakan aplikasi AI berdasarkan risiko, termasuk dalam sektor kesehatan. Sistem AI untuk diagnosis medis atau pengobatan, misalnya, dianggap berisiko tinggi sehingga memerlukan pengawasan manusia (human in the loop) untuk melindungi hak pasien dan mencegah kesalahan otomatis

Dalam konteks perlindungan data, General Data Protection Regulation (GDPR) melarang pengambilan keputusan otomatis sepenuhnya tanpa keterlibatan manusia, kecuali dengan persetujuan eksplisit pasien atau untuk alasan kepentingan publik tertentu, seperti pencegahan pandemi. Sistem AI dalam kesehatan juga harus mematuhi standar keamanan data tinggi dan memberikan informasi yang jelas tentang logika yang digunakan serta dampak potensial dari pemrosesan data. Aturan-aturan ini mencerminkan pendekatan kehati-hatian Uni Eropa dalam mengintegrasikan AI ke dalam layanan kesehatan, menekankan pentingnya transparansi, akuntabilitas, dan perlindungan hak individu. (van Kolfschooten & van Oirschot, 2024)

Di Malaysia dan Singapura, penerapan AI dalam layanan kesehatan diatur secara ketat untuk memastikan keamanan pasien, melindungi privasi data, dan mendukung pengembangan yang bertanggung jawab. Regulasi di Malaysia mencakup perangkat medis berbasis AI yang harus memenuhi persyaratan dari Medical Device Authority (MDA) di bawah Kementerian Kesehatan. Hal ini mencakup prosedur pendaftaran, evaluasi, dan pengawasan keamanan perangkat medis berbasis AI. Selain itu, hukum terkait privasi data seperti Personal Data Protection Act (PDPA) 2010 turut mengatur perlindungan informasi pasien, yang menjadi elemen penting dalam implementasi teknologi AI di bidang kesehatan. (Solaiman & Cohen, 2024).

Singapura memiliki pendekatan yang komprehensif melalui Artificial Intelligence in Healthcare Guidelines (AIHGIe) yang dirilis oleh Kementerian Kesehatan (MOH), Health Sciences Authority (HSA), dan Integrated Health Information Systems (IHiS). Panduan ini memberikan rekomendasi terkait pengembangan, pengujian, dan implementasi perangkat medis berbasis AI. AI yang digunakan dalam diagnosis, pengobatan, atau manajemen kondisi medis diklasifikasikan sebagai perangkat medis dan harus memenuhi regulasi yang relevan, termasuk pedoman tentang perangkat lunak medis. Selain itu, data pasien dilindungi melalui aturan privasi yang ketat untuk memastikan kepercayaan publik terhadap teknologi AI dalam layanan kesehatan. Pendekatan ini menekankan bahwa teknologi AI harus digunakan secara aman dan efektif, sekaligus terus dipantau untuk memastikan kesesuaiannya dengan standar kesehatan yang berlaku. (Saripan dkk., 2021).

Di Indonesia, hukum penerapan AI di bidang kesehatan di Indonesia masih berada dalam tahap awal pengembangan. Indonesia telah mengakui pentingnya regulasi AI untuk memastikan teknologi ini dapat memberikan manfaat yang maksimal sambil melindungi pengguna. Strategi Nasional Kecerdasan Artifisial 2020–2045 telah disusun oleh Badan Pengkajian dan Penerapan Teknologi (BPPT) untuk memberikan panduan umum, meskipun implementasi teknis dan rinciannya masih terbatas.

Di bidang hukum, AI sering diperlakukan sebagai agen elektronik sesuai dengan definisi dalam Pasal 1 Undang-Undang Informasi dan Transaksi Elektronik (UU ITE), yang mengatur tanggung jawab penyelenggara sistem elektronik. Dalam konteks kesehatan, ini berarti pengembang atau penyedia sistem AI bertanggung jawab atas keandalan dan keamanan teknologi mereka, terutama untuk mencegah kesalahan seperti diagnosa yang keliru.

Tantangan utama dalam pengaturan ini adalah memastikan bahwa regulasi AI bersifat adaptif, mengingat teknologi AI berkembang sangat cepat. Pendekatan regulasi bertahap dan multidisiplin dianggap penting untuk memastikan perlindungan konsumen sekaligus mendorong inovasi. Dalam bidang kesehatan, misalnya, penting untuk memastikan sistem AI bebas dari bias data yang dapat menyebabkan diskriminasi atau kesalahan diagnosis yang berdampak serius pada pasien.

Tanggung jawab hukum dokter pengguna aplikasi layanan telemedicine di Indonesia diatur berdasarkan hubungan hukum antara dokter, platform penyedia layanan, dan pasien. Dalam konteks ini, dokter bertanggung jawab untuk memberikan diagnosis atau konsultasi yang akurat sesuai dengan standar praktik medis. Sebagai bagian dari platform, dokter wajib memastikan bahwa layanan yang diberikan tidak melanggar regulasi yang berlaku, seperti Undang-Undang Nomor 29 Tahun 2004 tentang Praktik Kedokteran dan Undang-Undang Nomor 36 Tahun 2009 tentang Kesehatan.

Namun, terdapat tantangan hukum, seperti kurangnya regulasi yang jelas mengenai izin praktik kedokteran yang dilakukan secara daring di Indonesia. Hal ini membuat perlindungan pasien menjadi isu penting, karena platform telemedicine hanya berfungsi sebagai perantara, bukan sebagai penyedia layanan kesehatan langsung. Dalam hal terjadi kesalahan atau kerugian, tanggung jawab penyedia layanan menolak pembebanan tanggung jawab yang diikat dalam perjanjian dalam syarat dan ketentuan pada platformnya, seperti halnya yang dibuat Alodokter atau Halodoc. (Widjaja & Sutrianingtyas Rahayu, 2022).

Contoh kasus malpraktik penggunaan kecerdasan buatan (AI) di bidang kesehatan di Amerika Serikat mencakup situasi di mana rekomendasi AI tidak akurat dan menyebabkan potensi risiko kesehatan. Salah satu contohnya adalah kasus IBM Watson for Oncology, yang dirancang untuk memberikan rekomendasi pengobatan kanker. Dalam beberapa kasus, Watson memberikan saran pengobatan yang tidak aman, termasuk merekomendasikan obat-obatan yang tidak sesuai untuk kondisi pasien. Hal ini menimbulkan pertanyaan apakah tanggung jawab terletak pada dokter yang mengandalkan teknologi ini, pengembang perangkat lunak, atau produsen perangkat tersebut.

Kasus IBM Watson for Oncology mencerminkan tantangan dan kegagalan dalam penerapan kecerdasan buatan (AI) dalam bidang kesehatan. Watson, yang dikembangkan oleh IBM untuk membantu dalam diagnosis dan pengobatan kanker, mengalami berbagai masalah dalam memberikan rekomendasi pengobatan yang aman dan tepat. Pada awalnya, proyek ini diharapkan dapat merevolusi pengobatan kanker dengan menggunakan AI untuk menganalisis data medis dan memberikan saran pengobatan. Namun, dalam praktek, sistem ini sering kali memberikan saran yang tidak akurat atau bahkan berbahaya.

Salah satu isu utama yang ditemukan adalah bahwa Watson for Oncology tidak mampu memahami konteks medis secara mendalam, seperti yang dilakukan oleh dokter manusia. Hal ini menyebabkan Watson memberikan rekomendasi yang tidak sesuai dengan kondisi pasien, terutama dalam pengobatan yang kompleks seperti kanker. Bahkan, dalam uji klinis, Watson menunjukkan kinerja yang buruk, sering kali memberikan rekomendasi yang tidak lebih baik dari yang dilakukan oleh dokter manusia.

Kesalahan ini menyebabkan beberapa rumah sakit dan organisasi medis yang bekerja sama dengan IBM Watson for Oncology untuk berhenti menggunakan layanan tersebut, dan bahkan IBM sendiri akhirnya mengurangi fokus pada Watson Health. Kasus ini menunjukkan pentingnya kecerdasan buatan dalam kesehatan untuk memenuhi standar medis yang ketat dan menjamin keakuratan

dalam pengambilan keputusan medis. Namun, kegagalan ini juga menjadi pelajaran berharga bahwa teknologi AI harus didampingi oleh pemahaman dan evaluasi mendalam dari para profesional medis untuk memastikan bahwa AI berfungsi dengan baik dalam situasi klinis yang kompleks. (Zhou dkk., 2019).

Kasus lain di Amerika Serikat yang tahun lalu mengemuka adalah kasus layanan AI dari Humana Inc. Perusahaan ini menghadapi gugatan hukum terkait penggunaan AI dalam proses pengambilan keputusan terkait cakupan perawatan medis untuk pasien lansia. Pada Desember 2023, gugatan yang diajukan di Pengadilan Distrik Kentucky mengklaim bahwa Humana menggunakan model AI yang disebut nH Predict untuk menentukan seberapa banyak perawatan medis yang dibutuhkan pasien, yang sering kali mengabaikan penilaian dari dokter nyata. Model AI ini diduga menyebabkan penolakan klaim untuk perawatan pasca-rawat inap, meskipun dokter merekomendasikan perawatan lebih lanjut.

Gugatan ini menganggap penggunaan AI yang tidak tepat oleh Humana sebagai pelanggaran kontrak, pelanggaran terhadap kewajiban baik hati dan adil, serta pengayaan yang tidak sah. Para penggugat mengklaim bahwa AI membuat prediksi yang tidak akurat dan sering kali bertentangan dengan peraturan yang mengatur cakupan Medicare Advantage. Hal ini menyebabkan pasien, terutama yang lebih tua, dipaksa untuk membayar biaya perawatan medis yang seharusnya ditanggung oleh asuransi atau terpaksa berhenti menerima perawatan yang diperlukan. (Mello & Rose, 2024).

Di negara-negara Eropa dan di Asia, termasuk Cina, Malaysia dan Singapura, gugatan berkaitan dengan adanya malpraktik dokter AI belum pernah ada yang mengemuka. Namun isu yang dimunculkan dari sejumlah hasil penelitian banyak yang ter-blow up, terutama berkaitan dengan kesalahan diagnosis dokter AI, seperti untuk kasus diagnosis penyakit jantung dan kanker. Kesalahan diagnosis lebih diakibatkan pengaruh bias algoritma dan penerapan yang tidak tepat. Salah satu kasus adalah penggunaan AI untuk mendiagnosis penyakit hati, di mana alat tersebut menunjukkan perbedaan signifikan dalam akurasi antara jenis kelamin. AI ini salah mendiagnosis 44 persen pasien perempuan dibandingkan dengan 23 persen pasien laki-laki. Ketidakakuratan ini terjadi karena algoritma dilatih menggunakan dataset yang kurang mewakili populasi perempuan, sehingga performanya tidak konsisten saat digunakan di dunia nyata.

Kasus lain terjadi pada AI dalam endoskopi gastrointestinal, di mana alat berbasis AI untuk mendeteksi polip pra-kanker di usus besar menunjukkan potensi manfaat tetapi juga menimbulkan kekhawatiran terkait tanggung jawab hukum. Kesalahan alat ini dapat menyebabkan keterlambatan pengobatan yang penting atau prosedur medis yang tidak perlu. Hal ini menekankan perlunya pedoman ketat untuk menetapkan tanggung jawab antara penyedia layanan kesehatan dan pengembang teknologi AI, mengingat kompleksitas penerapan AI dalam layanan medis. Kasuskasus ini menunjukkan pentingnya memastikan pengembangan AI yang adil dan penerapan regulasi ketat guna mengurangi risiko dalam pelayanan kesehatan.

Di Eropa, hukum terhadap diagnosis yang salah akibat dokter Ai dalam sektor kesehatan diatur melalui kerangka hukum yang mencakup berbagai regulasi dan sistem tanggung jawab yang ada. Secara umum, kecelakaan medis akibat AI, termasuk diagnosis yang salah, dapat mengarah pada klaim malpraktik dan tanggung jawab berdasarkan beberapa prinsip hukum yang berlaku.

Pertama, produk yang dikeluarkan oleh produsen, di bawah Directive Product Liability, produsen perangkat medis dan perangkat lunak berbasis AI dapat dimintai tanggung jawab jika teknologi mereka gagal berfungsi sebagaimana mestinya atau mengakibatkan kerugian bagi pasien. Meskipun AI dapat terus berkembang setelah produk diluncurkan, produsen tetap bertanggung jawab jika ada cacat dalam desain atau kurangnya.

Kedua, Malpraktik Medis: Dokter atau profesional medis yang menggunakan AI untuk diagnosis juga dapat dihadapkan pada klaim malpraktik jika mereka gagal mengevaluasi dengan cermat rekomendasi AI yang diberikan. Jika diagnosis yang salah menyebabkan kerugian bagi pasien, dokter bisa dikenai tuntutan jika terbukti mereka tidak mengikuti standar perawatan yang diperlukan

Ketiga, regulasi yang melindungi pasien, Medical Device Regulation (MDR) dan In Vitro Diagnostic Regulation (IVDR) bertujuan untuk menjamin bahwa perangkat medis, termasuk perangkat AI, aman digunakan di pasar. Jika sistem AI terbukti tidak aman atau cacat dalam fungsinya, pasien dapat mengajukan klaim berdasarkan hukum produk dan malpraktik.

Keempat, pengembangan standar perawatan. Seiring meningkatnya penggunaan AI, ada kemungkinan perubahan standar perawatan medis. Dokter yang mengandalkan AI untuk diagnosis mungkin akan diminta untuk memenuhi standar yang lebih tinggi seiring dengan meningkatnya penggunaan teknologi ini, meskipun mereka tetap bertanggung jawab atas keputusan akhir dalam perawatan pasien. (Busch dkk., 2024).

Di Indonesia, belum tersedia regulasi yang mengatur secara khusus tentang layanan kesehatan berbasis AI, seperti telemedicine, dokter AI, precision medicine, imonoterapi, dan lainnya. Namun terdapat sejumlah regulasi terkait yang bisa saja menjadi dasar layanan serta memberikan perlindungan hukum bagi pengguna layanan kesehatan berbasis AI. Sejumlah regulasi itu adalah UU Praktik Kedokteran, UU Perlindungan Konsumen, UU ITE, dan UU Pelindungan Data Pribadi.

Konsumen yang menggunakan layanan kesehatan berbasis AI memiliki hak untuk mendapatkan pelayanan yang aman dan berkualitas. Berdasarkan UU Perlindungan Konsumen, jika terjadi kerugian akibat penggunaan layanan AI yang cacat atau salah, konsumen dapat mengajukan klaim kepada penyedia layanan atau produsen teknologi AI yang digunakan. Misalnya, jika sistem AI memberikan diagnosis atau rekomendasi pengobatan yang salah, yang menyebabkan kerugian bagi pasien, penyedia layanan dan pengembang teknologi dapat dimintai pertanggungjawaban.

Penyedia layanan AI dalam kesehatan wajib memberikan informasi yang jelas mengenai produk atau layanan yang mereka tawarkan, termasuk risiko penggunaan teknologi AI dalam diagnosis atau pengobatan. Jika mereka tidak memenuhi standar yang telah ditetapkan atau tidak memberikan informasi yang memadai, mereka dapat dikenai sanksi hukum. (Luh dkk., 2021).

Meskipun AI digunakan dalam proses diagnosis atau pengobatan, dokter yang menggunakan teknologi ini tetap memiliki tanggung jawab utama dalam memastikan kualitas layanan medis. Berdasarkan Undang-Undang Praktik Kedokteran, seorang dokter wajib memberikan pelayanan medis yang memenuhi standar profesi, bahkan jika mereka menggunakan teknologi AI. Jika AI memberikan rekomendasi yang salah dan dokter tidak memverifikasi atau mengambil tindakan yang tepat, dokter dapat bertanggung jawab atas malpraktik.

Hal ini juga terkait dengan undang-undang yang mengatur kewajiban dokter dalam memberikan informasi kepada pasien. Pasien harus diberi informasi yang jelas mengenai penggunaan AI dalam diagnosis atau pengobatan, termasuk potensi risiko dan tingkat akurasi AI tersebut. Dalam hal ini, dokter dan penyedia layanan kesehatan harus memenuhi kewajiban mereka untuk memberikan informasi yang lengkap dan transparan kepada pasien.

Selain itu, penting untuk memperhatikan regulasi terkait perlindungan data pribadi pasien, seperti yang diatur dalam Undang-Undang Perlindungan Data Pribadi. Layanan kesehatan AI yang mengumpulkan data medis pasien harus mematuhi aturan ini untuk melindungi kerahasiaan dan keamanan informasi pasien. Penyalahgunaan atau kebocoran data pribadi dapat menimbulkan tanggung jawab hukum bagi penyedia layanan.

Secara keseluruhan, perlindungan hukum bagi konsumen yang menggunakan layanan kesehatan berbasis AI di Indonesia berfokus pada hak untuk mendapatkan layanan yang aman, berkualitas, dan sesuai standar, dengan perlindungan data pribadi yang ketat. Sebagai pengguna teknologi baru, pasien berhak mendapatkan informasi yang jelas mengenai risiko dan manfaat penggunaan AI dalam pengobatan atau diagnosis, serta mendapatkan pertanggungjawaban jika terjadi kesalahan atau malpraktik. (Putong, 2023).

Dalam teori perlindungan hukum menurut Philipus M. Hadjon, fokusnya ada pada bagaimana negara melindungi hak-hak warga negara dari tindakan yang melanggar hukum oleh otoritas pemerintah. Hadjon membedakan perlindungan hukum menjadi dua jenis utama: perlindungan hukum preventif dan perlindungan hukum represif. Preventif, artinya langkah-langkah yang diambil untuk mencegah terjadinya pelanggaran hukum. Dalam konteks ini, Hadjon menekankan pentingnya regulasi yang jelas dan transparan agar masyarakat mengetahui hak dan kewajiban mereka serta dapat mengambil tindakan sebelum terjadi sengketa hukum. Contohnya adalah proses perumusan kebijakan publik atau pemberian izin yang harus melibatkan partisipasi masyarakat. Represif, maknanya mengacu pada penyelesaian konflik atau sengketa setelah terjadi pelanggaran hukum. Proses represif biasanya dilakukan melalui mekanisme peradilan, seperti pengadilan umum atau administratif, untuk memberikan ganti rugi atau memulihkan hak-hak yang telah dilanggar. Tujuan utamanya adalah memberikan keadilan bagi pihak yang dirugikan.

Teori ini relevan dalam banyak konteks hukum modern, termasuk perlindungan konsumen, hak asasi manusia, dan administrasi negara. Dalam praktiknya, teori ini menunjukkan bahwa perlindungan hukum yang ideal harus dimulai dari pencegahan agar pelanggaran tidak terjadi. Ini menuntut pemerintah untuk bersikap transparan, responsif, dan bertanggung jawab dalam pengambilan kebijakan. Namun, ketika pelanggaran tidak dapat dihindari, mekanisme represif harus adil, cepat, dan efektif untuk memberikan keadilan bagi warga negara. Teori Hadjon sangat penting dalam pengembangan hukum administrasi, karena memberikan kerangka untuk mengawasi otoritas negara dalam menjalankan kekuasaan mereka. Teori ini juga menjadi dasar dalam upaya mengedepankan perlindungan hak-hak individu dari tindakan otoriter atau maladministrasi. Dengan demikian, perlindungan hukum mencerminkan keseimbangan antara kekuasaan negara dan hak-hak masyarakat. (Arya Prayoga dkk., t.t.).

Konsep perlindungan hukum preventif dan perlindungan hukum represif dalam penyelenggaraan layanan kesehatan berbasis AI ini penting dalam konteks peran negara untuk memastikan bahwa setiap individu atau pihak yang dirugikan akibat penggunaan teknologi medis, seperti AI, dapat memperoleh hak-haknya dan keadilan yang layak.

Dalam perlindungan hukum preventif, negara seharusnya memiliki tanggung jawab untuk mencegah terjadinya kerugian atau pelanggaran hak-hak individu melalui regulasi yang jelas dan efektif. Dalam konteks AI dalam layanan kesehatan, negara wajib menciptakan regulasi yang memastikan bahwa sistem AI yang digunakan oleh dokter atau penyedia layanan medis aman, andal, dan tidak menimbulkan risiko besar bagi pasien. Negara harus mengatur, terutama mengenai bagaimana standar teknis dan prosedural bagi penggunaan AI di bidang kesehatan, memastikan teknologi yang digunakan telah melalui uji coba yang ketat dan memadai. Jika negara gagal untuk menyediakan perlindungan preventif ini, maka negara akan dianggap lalai dalam melaksanakan tanggung jawabnya untuk melindungi hak-hak warga negara, termasuk hak untuk mendapatkan pelayanan kesehatan yang aman.

Dalam perlindungan hukum represif, negara bertanggung jawab untuk memastikan adanya mekanisme hukum yang memungkinkan korban malpraktik mendapatkan ganti rugi dan keadilan. Jika seorang pasien menjadi korban kesalahan diagnosis atau tindakan medis yang salah akibat penggunaan AI oleh dokter, negara harus menyediakan jalur hukum untuk, pertama, menuntut ganti rugi dan kompensasi kepada korban yang dirugikan, baik melalui gugatan perdata maupun jalur hukum lainnya. Kedua, negara harus memfasilitasi terpenuhinya tanggung jawab atas malpraktik dokter yang menggunakan AI, di mana dokter tersebut tetap bertanggung jawab meskipun teknologi AI yang digunakan gagal memberikan diagnosis atau rekomendasi yang tepat.

Dengan regulasi yang ada saat ini, sebenarnya upaya hukum pidana maupun perdata sangat mungkin dilakukan jika terjadi pelanggaran atau adanya kelalaian dalam layanan kesehatan berbasis AI. Namun, keterbatasan kualitas aparat penegak hukum, serta kesadaran hukum akan penggunaan layanan kesehatan AI oleh masyarakat masih sangat rendah. Pembuktian atas terjadinya pelanggaran atau kelalaian sangat sulit dihadirkan oleh para korban malpraktik layanan kesehatan berbasis AI. Untuk itulah negara harus hadir untuk memberikan kepastian hukum dan pelindungan hukum bagi pengguna layanan kesehatan AI agar tidak menjadi korban nyawa dan harta. 

Bibliografi

Afrilies, M. H., & Naili, Y. T. (2023). Legal Aspects of Telemedicine Health Services in the Perspective of Health Law in Indonesia in the Digital Era. Journal of Advanced Health Informatics Research, 1(1), 41–46. https://doi.org/10.59247/jahir.v1i1.23.

Akyon, S. H., Akyon, F. C., & Yılmaz, T. E. (2027). Artificial Intelligence-Supported Web Application Design and Development for Reducing Polypharmacy Side Effects and Supporting Rational Drug Use in Geriatric Patients. Dalam Frontiers in Medicine (Vol. 17). Frontiers Media S.A. https://doi.org/10.3389/fmed.2023.1029198.

Al-kfairy, M. et. al. (2024). Ethical Challenges and Solutions of Generative AI: An Interdisciplinary Perspective. Informatics, 11(3), 58. https://doi.org/10.3390/informatics11030058.

Altamimi, I., et. al. (2023). Artificial Intelligence (AI) Chatbots in Medicine: A Supplement, Not a Substitute. Cureus. https://doi.org/10.7759/cureus.40922.

Arya Prayoga, D., Anom Husodo, J., & Elok Puri Maharani, A. (2023). Perlindungan Hukum Terhadap Hak Warga Negara Dengan Berlakunya Undang-Undang Nomor 23 Tahun 2019 Tentang Pengelolaan Sumber Daya Nasional. Dalam Jurnal Demokrasi dan Ketahanan Nasional | (Vol. 2, Nomor 2).

Azevedo, D., Legay, A., & Kieffer, S. (2022). User Reception of Babylon Health’s Chatbot. Proceedings of the International Joint Conference on Computer Vision, Imaging and Computer Graphics Theory and Applications, 2, 134–141. https://doi.org/10.5220/0010803000003124.

Bohr, A., & Memarzadeh, K. (2020). The Rise of Artificial Intelligence in Healthcare Applications. Dalam Artificial Intelligence in Healthcare (hlm. 25–60). Elsevier. https://doi.org/10.1016/B978-0-12-818438-7.00002-2.

Bottomley, D., & Thaldar, D. (2023). Liability for harm caused by AI in healthcare: an overview of the core legal concepts. Dalam Frontiers in Pharmacology (Vol. 14, hlm. 1–9). Frontiers Media SA. https://doi.org/10.3389/fphar.2023.1297353.

Busch, F., et. al. (2024). Navigating the European Union Artificial Intelligence Act for Healthcare. Dalam npj Digital Medicine (Vol. 7, Nomor 1). Nature Research. https://doi.org/10.1038/s41746-024-01213-6.

Ego, O. K. (2024). The Role of Technology in Enhancing Public Health Initiative: Utilization of Technological Advancements, Such as Telemedicine or Health Apps, in Improving Healthcare Accessibility and Outcomes. International Journal of Research and Innovation in Social Science (IJRISS), VIII(VI), 1938–1946. https://doi.org/10.47772/IJRISS.

Farhan, M., dkk. (2024). Aspek Hukum Pemanfaatan Chatbot AI Dalam Layanan Dukungan Bisnis oleh PT. Matahari Department Store. Jurnal Multidisiplin Indonesia, 3(1).

Gallese, C. (2022). Legal Issues of the Use of Chatbot Apps for Mental Health Support. Communications in Computer and Information Science, 1678 CCIS, 258–267. https://doi.org/10.1007/978-3-031-18697-4_21.

Gallese Nobile, C. (2023). Legal Aspects of the Use Artificial Intelligence in Telemedicine. Journal of Digital Technologies and Law, 1(2), 314–336. https://doi.org/10.21202/jdtl.2023.13.

Gilbert, S. et. al. (2020). How Accurate are Digital Symptom Assessment Apps for sSuggesting Conditions and Urgency Advice? A Clinical Vignettes Comparison to GPs. BMJ Open, 10(12), 1–14. https://doi.org/10.1136/bmjopen-2020-040269.

Jungmann, S. M., Klan, T., Kuhn, S., & Jungmann, F. (2019). Accuracy of a Chatbot (Ada) in the Diagnosis of Mental Disorders: Comparative Case Study with Lay and Expert Users. JMIR Formative Research, 3(4), 1–10. https://doi.org/10.2196/13863.

Kuswardani, K., & Abidin, Z. (2023). Perlindungan hukum Perlindungan Hukum Terhadap Pasien Sebagai Pengguna Fitur Layanan Kesehatan di Aplikasi Fisdok. AL-MANHAJ: Jurnal Hukum dan Pranata Sosial Islam, 5(1), 101–112. https://doi.org/10.37680/almanhaj.v5i1.1803.

Li, J. (2023). Security implications of ai chatbots in health care. Dalam Journal of Medical Internet Research (Vol. 25, Nomor 1). JMIR Publications Inc. https://doi.org/10.2196/47551.

Li, R., et. al. (2020). Using artificial intelligence to improve medical services in China. Annals of Translational Medicine, 8(11), 711–711. https://doi.org/10.21037/atm.2019.11.108.

Luh, N., Yuliana, D., & Bagiastra, N. (2021). Perlindungan Hukum Terhadap Pasien yang Menderita Kerugian Akibat Salah Diagnosis Dalam Platform Layanan Kesehatan Online. Dalam Jurnal Kertha Wicara (Vol. 10, Nomor 8).

Matheny, M. et. al. , ed. (2019). Artificial Intelligence in Health Care: The Hope, the Hype, the Promise, the Peril..

Mello, M. M., & Rose, S. (2024). Denial – Artificial Intelligence Tools and Health Insurance Coverage Decisions. Dalam JAMA Health Forum (Vol. 5, Nomor 3, hlm. E240622). American Medical Association. https://doi.org/10.1001/jamahealthforum.2024.0622

Mursalat, M. H., Fakhriah, L., & Handayani, T. (2022). Problematika Yuridis dan Prinsip Perlindungan Hukum Dalam Pelayanan Kesehatan Jarak Jauh Menggunakan Teknologi Informasi dan Komunikasi. Jurnal Poros Hukum Padjadjaran, 4(1), 94–111. https://doi.org/10.23920/jphp

Mustar, M., & Nashihuddin, W. (2019). Dokter Pustaka: Layanan Informasi Online Bidang Kesehatan Alumni Fakultas Kedokteran, Kesehatan Masyarakat dan Keperawatan Universitas Gadjah Mada Yogyakarta. Lentera Pustaka: Jurnal Kajian Ilmu Perpustakaan, Informasi dan Kearsipan, 5(2), 97. https://doi.org/10.14710/lenpust.v5i2.25944

Nasir, C., Ichsan, N., & Attas, N. H. (2022). Comparison of Legal Protection of Telemedicine Services in Indonesia and Malaysia. International Journal of Business, 3(2), 2022.

Njoto, H. (2023). The Forms of Legal Protection of Patient Medical Records in Online Health Services. International Journal of Law Reconstruction, 7(2), 211. https://doi.org/10.26532/ijlr.v7i2.33462

Nugroho, E. A., & Kusumaningrum, A. E. (2021). Legal Protection for Doctors in Health Service Practices. UNIFIKASI :ࣟJurnal Ilmu Hukum, 8(1), 105–112. https://doi.org/10.25134/unifikasi.v8i1.3619

Nyoman, N., et. al. (2024). Analisis Pertanggungjawaban Hukum Penyedia Layanan Kesehatan (Telemedicine) Apabila Terjadi Kerugian Terhadap Pasien. Jurnal Kertha Semaya, 12. https://doi.org/10.24843/KS.2024.v12.i05.p13

Parmena Olimid, A. (2024). Legal Analysis of EU Artificial Intelligence Act (2024): Insights From Personal Data Governance and Health Policy. Access to Justice in Eastern Europe, 7(4), 1– 23. https://doi.org/10.33327/ajee-18-7.4-a000103

Powles, J., & Hodson, H. (2017). Google DeepMind and Healthcare in an Age of Algorithms. Health and Technology, 7(4), 351–367. https://doi.org/10.1007/s12553-017-0179-1

Putong, D. D. (2023). Tinjauan Perlindungan Hukum Terhadap Pelaku Layanan Kesehatan Secara Online. Jurnal Hukum to-ra :ࣟHukum Untuk Mengatur dan Melindungi Masyarakat, 9(1), 95– 105. https://doi.org/10.55809/tora.v9i1.211

Putri, J., Prayuti, Y., Triyana, Y., Farhan, M. I., Lany, A., & Fahrudin, A. (2024). Prespektif Hukum Kesehatan Dalam Penyelenggaraan Layanan Kesehatan Berbasis Digital Kedokteran Jarak Jauh (Telemedicine). Jurnal Rectum, 6, 255–265. https://doi.org/10.46930/jurnalrectum.v6i2.4127

Santhi, N. N. P. P., & Damayanti, N. W. E. (2024). Implikasi Hukum Terhadap Penggunaan Kecerdasan Buatan Dalam Diagnosis dan Pengobatan Penyakit Dalam Sistem Kesehatan.

Journal Of Social Science Research, 4(3), 355–364. https://jinnovative.org/index.php/Innovative

Saripan, H., et. al. (2021). Artificial Intelligence and Medical Negligence in Malaysia: Confronting the Informed Consent Dilemma. International Journal of Academic Research in Business and Social Sciences, 11(11). https://doi.org/10.6007/ijarbss/v11-i11/11254.

Simbolon, Y. (2023). Pertanggungjawaban Perdata Terhadap Artificial Intelligence Yang Menimbulkan Kerugian Menurut Hukum di Indonesia. Veritas et Justitia, 9(1), 246–273. https://doi.org/10.25123/vej.v9i1.6037

Singh, P. (2024). Transforming Healthcare through AI: Enhancing Patient Outcomes and Bridging Accessibility Gaps. Journal of Artificial Intelligence Research By The Science Brigade (Publishing) Group 220 Journal of Artificial Intelligence Research, 4(1), 220–232.

Siregar, R. A. (2023). A Legal Perspective on The Transformation of Health Services with Artificial Intelligence. Jurnal Hukum Kesehatan, 9(2), 306–314. https://doi.org/10.24167/shk.v9i2.11270

Solaiman, Barry., & Cohen, I. Glenn. (Ed.). (2024). Research Handbook on Health, AI and the Law. Edward Elgar Publishing Limited.

Sun, L. (2023). Health Data Governance in China: Emphasizing ‘Sharing’ and ‘Protection’ Based on the Right to Health. Medical Law International, 23(1), 26–43. https://doi.org/10.1177/09685332221140416

Susilowatie, E., Yuhelson, & Rattanapun, S. (2009). Legal Protection of Patients in Healthcare Services: Ensuring Quality and Safeguarding Patients’ Rights. Curative Health Services, and Rehabilitative Health Services, 36, 117–124.

Trenggono, P. H., & Bachtiar, A. (2023). Peran Artificial Intelligence Dalam Pelayanan Kesehatan: a Systematic Review. Jurnal Ners Universitas Pahlawan, 7(1), 4–451. http://journal.universitaspahlawan.ac.id/index.php/ners

van Kolfschooten, H., & van Oirschot, J. (2024). The EU Artificial Intelligence Act (2024): Implications for Healthcare. Health Policy, 149. https://doi.org/10.1016/j.healthpol.2024.105152

Widjaja, G., & Sutrianingtyas Rahayu, R. (2022). Kaidah Hukum Aplikasi Serta Perlindungan dan Tanggungjawab Dokter Melalui Aplikasi. Journal of Law and Nation (JOLN), 1(2), 138–147. http://tesishukum.com

Yuliana. (2023). Legal Consideration in Implementing Artificial Intelligence when Dealing with Patients in Healthcare Services. Jurnal Sapientia et Virtus, 8(1), 210–224. https://doi.org/10.1186/s13643-022-01939-y

Zephaniah, I., & Febrian, D. (2023). Artificial Intelligence To Improve Accuracy And Efficiency Of Prescribing Between Doctors & Pharmacists.

Zhou, N., et. al. (2019). Concordance Study Between IBM Watson for Oncology and Clinical Practice for Patients with Cancer in China. The Oncologist, 24(6), 812–819. https://doi.org/10.1634/theoncologist.2018-0255.