Kecerdasan buatan Anthropic, yang dikenali sebagai Claude, telah mengambil langkah ke hadapan dalam ketelusan kandungan. Syarikat itu telah mengumumkan bahawa semua model yang dikeluarkan mulai 2 Ogos dan seterusnya akan menggabungkan sistem penanda halimunan dalam teks yang dijana. Langkah ini, yang akan dilaksanakan secara global, bertujuan untuk menyelaraskan keperluan Kesatuan Eropah mengenai pengenalpastian kandungan sintetik.
Objektif utama adalah agar sebarang teks yang dihasilkan oleh Claude dapat dikenal pasti seperti itu, tanpa pengguna menyedari sebarang perbezaan dari segi kualiti atau kebolehbacaan. Tera air tidak dapat dilihat dengan mata kasar, tetapi kekal tertanam dalam teks walaupun ia disalin dan ditampal pada platform lain. Inisiatif ini bertindak balas terhadap Kod Amalan Baik mengenai Ketelusan Kandungan yang Dihasilkan AI, yang ditandatangani oleh lebih daripada 190 organisasi, dan Undang-undang AI EU, yang, sejak Ogos, telah mewajibkan penanda air untuk jenis kandungan ini.
Keputusan Anthropic bukanlah satu kebetulan. Peraturan Eropah mewajibkan syarikat AI melabelkan kandungan sintetik supaya pengguna dapat membezakannya daripada kandungan ciptaan manusia. Perkara 50.2 Akta AI menyatakan bahawa penyedia mesti memastikan output sistem mereka dilabelkan dalam format yang boleh dibaca mesin. Anthropic, bersama-sama syarikat teknologi utama lain seperti OpenAI, Google, Meta dan Microsoft, telah menandatangani kod ketelusan ini, walaupun syarikat seperti xAI Elon Musk belum lagi menyertainya.
Syarikat itu menjelaskan bahawa penandaan air dilakukan dalam dua cara: untuk imej dan grafik, metadata berdasarkan piawaian C2PA (Gabungan untuk Asal-usul Kandungan dan Ketulenan) digunakan; untuk teks, penanda air halimunan digunakan yang disepadukan ke dalam proses penjanaan itu sendiri. Penanda air ini tidak mengubah makna atau kualiti respons dan dihantar bersama teks apabila ia disalin, dieksport atau dikongsi melalui API.
Sistem ini berdasarkan urutan token yang dijana oleh model. Daripada menambah aksara tersembunyi atau metadata yang boleh dilihat, tera air dikodkan dalam pilihan perkataan apabila beberapa pilihan yang sama sah tersedia. Contohnya, memandangkan frasa "langit itu…", model mungkin memilih "mendung" atau "kelabu". Dengan tera air, pilihan ini tidak rawak, tetapi bergantung pada kunci kriptografi dan perkataan sebelumnya. Oleh itu, sesiapa yang memiliki kunci boleh menentukan secara statistik sama ada teks itu dijana oleh Claude.
Kaedah ini, yang telah digunakan dalam sistem lain seperti SynthID Google, tidak menambah kos mahupun kependaman pada proses tersebut. Pengesanan tanda air tidaklah mudah : jika teks disunting, diparafrasa, diterjemahkan atau dicampur dengan kandungan lain, tanda air mungkin hilang. Tambahan pula, isyarat lebih lemah dalam serpihan yang sangat pendek atau dalam kod. Anthropic mengakui bahawa ketiadaan tanda air tidak bermakna kandungan itu tidak dijana oleh AI, dan kehadiran tanda air tidak muktamad mengenai pengarang sebenar.
Syarikat itu telah menyatakan bahawa tanda air tersebut terpakai kepada semua model yang dikeluarkan sejak 2 Ogos, dan model terdahulu akan menerima kemas kini secara beransur-ansur. Langkah ini adalah global, bukan sahaja untuk Eropah , dan menjejaskan semua produk Claude, termasuk API, Claude Code, Claude Cowork dan platform pihak ketiga seperti infrastruktur AWS , Google Cloud dan Microsoft Foundry. Walau bagaimanapun, pengesanan awam masih belum tersedia: Anthropic telah mengumumkan bahawa ia akan mengeluarkan alat dalam beberapa minggu supaya pengguna dan pihak ketiga boleh menyemak sama ada teks mengandungi tanda air tersebut.
Satu lagi batasan ketara ialah tanda air tidak mengenal pasti pengguna atau perbualan asal. Ia juga gagal membezakan sama ada teks itu dicipta dari awal atau sama ada Claude hanya membantu membetulkan, menterjemah atau meringkaskan kandungan sedia ada. Ini telah mendapat kritikan, kerana peraturan Eropah secara eksplisit mengecualikan tugas penyuntingan standard, namun Anthropic menggunakan tanda air untuk semua kegunaan. Walaupun terdapat kekurangan ini, langkah ini mewakili kemajuan dalam memerangi maklumat salah dan penyalahgunaan AI.
Keputusan Anthropic adalah sebahagian daripada gerakan industri yang lebih luas. OpenAI, Google, Meta, Microsoft dan Mistral juga telah menandatangani Kod Ketelusan dan sedang melaksanakan sistem yang serupa. Walau bagaimanapun, kekurangan piawaian seragam dan batasan teknikal bermakna pengesanan tidak sempurna. Contohnya, mengambil tangkapan skrin imej boleh mengalih keluar metadata C2PA dan menulis semula teks sepenuhnya boleh memadamkan tera air.
Dalam suasana pendidikan dan profesional, alat penandaan ini mungkin berguna untuk mengenal pasti kerja yang dijana AI, tetapi pakar mengingatkan bahawa ia bukanlah penyelesaian yang pasti. Anthropic sendiri menekankan bahawa penandaan bukanlah bukti pengarang, tetapi sebaliknya petunjuk kebarangkalian. Seiring perkembangan teknologi, kita mungkin akan melihat sistem yang lebih mantap, tetapi buat masa ini, ketelusan masih menjadi cabaran.
Pendek kata, penambahan tanda air halimunan dalam Claude mewakili langkah penting ke arah mematuhi peraturan Eropah dan menyediakan pengguna dengan lebih banyak maklumat tentang asal usul kandungan. Walaupun sistem ini mempunyai batasan, ia merupakan langkah penting ke arah yang betul. Komuniti teknologi akan memerhatikan dengan teliti alat pengesanan yang dijanjikan oleh Anthropic untuk dilancarkan tidak lama lagi, serta bagaimana syarikat lain menyesuaikan diri dengan realiti baharu ini.