Cara Mendeteksi Konten AI Claude Lewat Kode Spesifik dan Batasannya

Komunitas fanfiction kini menghadapi tantangan baru seiring meningkatnya penggunaan AI generatif. Sebuah gerakan muncul untuk mengidentifikasi karya yang dibuat atau dibantu oleh AI. Metode deteksi ini memicu perdebatan sengit tentang validitas dan implikasinya.

Munculnya detektor AI Claude menjadi salah satu sorotan utama dalam perdebatan ini. Alat ini diklaim mampu mengidentifikasi kode spesifik dari chatbot Anthropic Claude. Namun, detektor tersebut juga memiliki sejumlah batasan jelas yang perlu dipahami penggunanya.

Artikel ini akan mengulas cara kerja detektor Claude dan batasan yang melekat padanya. Kita juga akan melihat bagaimana deteksi AI berkembang di ranah lain. Hal ini demi memahami lanskap deteksi konten AI secara menyeluruh.

Mengurai Detektor AI Claude di Komunitas Fanfiction

Gerakan baru di komunitas fanworks bertujuan mengidentifikasi penulis yang memakai AI generatif. Metode deteksi yang digunakan masih menjadi bahan pertanyaan serius. Risiko menjebak penulis fanfic tak bersalah sangat besar.

Sebuah akun X anonim, @heatedrivalryai, pada akhir Juni mengumumkan solusi deteksi AI. Solusi ini berupa ‘skin’ untuk repositori fanfic populer Archive of Our Own (AO3). Skin tersebut diklaim bisa mengenali artefak kode yang ditinggalkan bot Claude.

Kode yang dimaksud adalah ‘font-claude-response-body’. Kehadiran kode ini, menurut akun tersebut, menunjukkan penggunaan Claude secara pasti. Saat pengguna membuka halaman fanfic dengan kode ini, latar belakangnya berubah merah.

Komunitas fanfic pun cepat menggunakan alat tersebut. Mereka secara publik menyorot dan mempermalukan penulis yang karyanya ditandai. Banyak anggota fandom menganggap penggunaan AI generatif sebagai pengkhianatan.

Mekanisme Kode Spesifik dan Cara Kerjanya

Uji coba menunjukkan layar berubah merah saat skin diterapkan pada teks Claude. Hal ini terjadi ketika teks disalin langsung dari chatbot ke editor AO3. Kode Claude memang muncul dalam kondisi tersebut.

Namun, kode ini hilang jika teks yang sama disalin dari perantara. Contohnya seperti Google Docs atau Microsoft Word. Kemudian baru ditempel ke AO3 setelahnya.

Para penggemar melihat penggunaan AI sebagai sesuatu yang tidak bisa dimaafkan. Ini mengingat kekhawatiran mereka tentang dampak lingkungan teknologi AI. Selain itu, cara AI dilatih dengan ‘scraping’ data dari web terbuka juga jadi masalah.

Bahkan, karya-karya fanfic yang diunggah ke platform seperti AO3 bisa jadi ikut digunakan. Mereka yakin fandom adalah ruang kolaboratif yang tumbuh subur. Ruang ini berkat elemen manusia dan percikan kreatifnya.

Jika AI diizinkan merusak ruang ini, esensi komunitas akan hilang. AO3 sendiri menyediakan tag “Created Using Generative AI” untuk transparansi. Namun, insentif untuk kejujuran cenderung rendah.

Batasan dan Celah Deteksi Konten AI Claude

Keterbatasan alat detektor Claude ini sangat jelas. Artefak kode hanya bertahan jika teks disalin langsung dari Claude. Teks yang diedit di aplikasi lain tidak akan terdeteksi.

Alat ini juga tidak akan mendeteksi teks yang menggunakan AI dari model lain. Selain itu, detektor tidak mengungkapkan seberapa banyak AI digunakan. Bisa saja hanya beberapa kalimat untuk periksa ejaan.

Belum ada solusi teknologi universal yang andal untuk membedakan teks AI. Membedakan teks buatan AI dari buatan manusia masih menjadi tantangan. Teknologi C2PA Content Credentials dan Google SynthID membuat kemajuan besar.

Mereka berhasil mengidentifikasi AI pada gambar, video, dan audio. Akan tetapi, metode ini bergantung pada tanda air dan metadata. Tanda air dan metadata ini tidak terbawa pada teks yang disalin.

Berikut beberapa batasan utama detektor AI Claude:

• Hanya efektif jika teks disalin langsung dari Claude ke editor.
• Tidak mendeteksi teks yang diolah melalui aplikasi perantara seperti pengolah kata.
• Tidak bisa mengidentifikasi penggunaan AI dari model lain selain Claude.
• Tidak menunjukkan sejauh mana AI digunakan dalam suatu karya.
• Rentang waktu kode tersebut dapat bertahan masih belum sepenuhnya jelas.

Risiko terbesar adalah penulis manusia bisa jadi korban ‘perburuan’ ini. Terutama jika karya mereka diedit oleh orang lain menggunakan AI. Ini bisa terjadi tanpa sepengetahuan penulis aslinya.

Tantangan Detektor AI di Luar Teks

Kecanggihan AI dalam menciptakan wajah manusia palsu membuat deteksi makin sulit. Trik lama seperti menghitung jari kini sudah usang. Para peneliti berpendapat, manusia terlatih adalah pertahanan berikutnya.

Bukan lagi detektor AI yang lebih baik, melainkan kemampuan manusia mengenali pola. Sebuah studi dari University of Aberdeen menemukan hal menarik. Orang dapat meningkatkan kemampuan membedakan wajah AI.

Ini terjadi setelah periode pelatihan terstruktur singkat. Mereka diajari mengenali pola halus yang sulit direplikasi generator gambar. Akurasi deteksi bisa naik dari 40% menjadi hampir 80%.

Kemampuan mendeteksi wajah AI ini semakin krusial. Teknologi deepfake telah digunakan dalam penipuan keuangan. Selain itu, kampanye pengaruh politik dan penipuan identitas online juga memakai deepfake.

Deloitte memperkirakan kerugian akibat deepfake yang diaktifkan AI dapat mencapai £40 miliar tahun depan. Ini peningkatan tajam dari £12 miliar pada 2023 di Amerika Serikat. Kasus penipuan deepfake di Hong Kong menjadi bukti nyata ancaman ini.

Dalam kasus tersebut, penipu menggunakan panggilan video deepfake. Mereka meyakinkan seorang karyawan agar mentransfer £25 juta. Ini menunjukkan tantangan etika AI dan kebutuhan akan pengamanan digital yang lebih baik.

Studi juga menyoroti bias dalam data pelatihan AI. Sistem AI masih kurang andal menghasilkan wajah orang tua atau anak-anak. Demikian juga kelompok etnis yang kurang terwakili.

Ironisnya, saat AI makin mahir berpura-pura menjadi manusia, kita perlu melatih diri sendiri. Kita harus belajar seperti cara mesin belajar, yaitu melalui data dan pengenalan pola. Detektor AI akan terus meningkat, tetapi manusia tetap punya peran.

Mendeteksi konten AI, terutama teks, adalah tantangan yang kompleks. Detektor AI Claude menawarkan solusi terbatas untuk fanfiction. Namun, kelemahannya menunjukkan perlunya pendekatan multi-aspek. Edukasi dan kemampuan pengenalan pola manusia menjadi pertahanan krusial. Teruslah update dengan perkembangan teknologi, Senarais!

Sumber: The Verge, “The fanfiction community is at war with AI — and itself”; Digital Trends, “What happens when AI detectors fail? Researchers say we must be trained to spot fake AI faces”