redaksiharian.com – Seorang pengacara di New York, Amerika Serikat (AS) dibuat malu dan terancam mendapat sanksi saat menangani kasus hukum. Sebab, ia mengandalkan teknologi AI (Artificial Intelligence/kecerdasan buatan) untuk membuat legal brief atau analisis hukum singkat dari peraturan perundang-undangan dan putusan pengadilan.
Pengacara bernama Steven A. Schwartz itu diketahui menggunakan ChatGPT , chatbot besutan OpenAI, untuk membantunya meringkas beberapa penelitian kasus hukum yang tengah ia kerjakan.
Schwartz mengandalkan ChatGPT karena menurutnya, jawaban yang diberikan dapat membantu memperkuat argumennya saat mengajukan gugatan. Ada enam kasus yang diyakini bisa membantu Schwartz menguatkan argumennya, lengkap dengan kutipan yang seolah tampak nyata.
Melansir BGR, enam kasus yang dipakai Schwartz dalam surat gugatannya terdiri dari penggugat bernama Varghese yang menggugat China South Airlines, Martinez menggugat Delta Airlines, Shaboon menggugat Egypt Air, Miller menggugat United Airlines, dan sebagainya.
Namun, jawaban ChatGPT ternyata mengutip beberapa kasus hukum palsu dan tidak benar-benar ada. Sang pengacara tidak sadar laporan tersebut palsu dan tidak melakukan verifikasi ulang. Temuan ChatGPT pun langsung dicantumkan ke laporan gugatannya untuk dikirim ke pihak tergugat.
Kasus ini bermula dari seorang pria yang ingin mengugat maskapai penerbangan atas dugaan cidera pribadi. Pria tersebut menyewa jasa hukum untuk melakukan gugatan lebih lanjut.
Tim kuasa hukumnya perlu menyerahkan legal brief, mengutip beberapa kasus pengadilan serupa sebagai upaya membuktikan, menggunakan preseden, hingga alasan yang mendasari gugatan tersebut harus ditindaklanjuti.
Oleh karena itu, Schwartz, sebagai pengacara, perlu mencari bukti pendukung dari kasus-kasus hukum serupa agar dapat membantu kliennya menindaklanjuti gugatan ke maskapai penerbangan.
Sebagaimana dikutip KompasTekno dari BBC, Rabu (31/5/2023), pengacara dari pihak maskapai penerbangan yang menerima surat gugatan tersebut mengaku tidak dapat menemukan sumber rujukan dari enam kasus yang diajukan penggugat.
Walhasil, hakim pun meminta kejelasan dari sumber rujukan dan kutipan yang dipakai penggugat dalam sebuah surat perintah. Hakim menyebut bahwa kasus yang dicantumkan belum pernah terjadi sebelumnya dan sumber yang dipakai tidak ditemukan.
“Enam kasus yang diajukan tampaknya berisi keputusan yudisial palsu yang disertai dengan kutipan palsu dan sumber yang juga palsu,” tulis Hakim Castel dalam surat perintah guna meminta penjelasan dari tim hukum penggugat.
Usai menerima surat perintah hakim dan menyadari kesalahannya, Schwartz mengaku dirinya sangat menyesal telah mengandalkan chatbot AI. Ini adalah pertama kalinya ia mengandalkan teknologi AI untuk tujuan penelitian hukum. Schwartz juga tidak menyadari adanya kekeliruan atas jawaban ChatGPT.
Dalam pernyataan yang sama, Schwartz bersumpah tidak akan menggunakan AI lagi di masa mendatang. Ia berjanji akan lebih teliti dan melakukan verifikasi ulang atas keaslian sumber yang diterima.
Akibat hal ini, Schwartz harus menghadapi sanksi yang akan diberikan pada sidang yang ditetapkan awal Juni mendatang.
ChatGPT mulai populer sejak November 2022 lalu. Sebagian besar pengguna mengaggumi kemampuan yang dimiliki ChatGPT. Namun, popularitasnya juga memiliki dampak yang buruk.
Walau sering digadang-gadang dapat menggeser posisi mesin pencari Google, chatbot berteknologi AI ini punya risiko menyebarkan informasi bias, keliru, atau bahkan palsu.
Oleh karena itu, setiap pengguna yang mencari informasi di ChatGPT atau chatbot serupa harus tetap skeptis, berpikir kritis, dan melakukan verifikasi ulang atas data/informasi yang diterima.