Watermark Anthropic Mempunyai Masalah Privasi

API pengesanan watermark baharu Anthropic memaksa pembangun, sekolah, dan perusahaan untuk memuat naik keseluruhan dokumen ke pelayannya, mengubah alat ketelusan menjadi risiko privasi yang berpotensi.

Cara watermark berfungsi

Anthropic menyematkan corak halimunan dalam setiap teks yang dihasilkan oleh Claude dengan memihak kepada pilihan kata tertentu menggunakan kunci rahsia. Sebagai contoh, ia mungkin menukar “grey” kepada “overcast” mengikut jadual tersembunyi yang tidak dapat dilihat oleh manusia. Hanya sistem pengesanan Anthropic yang dapat membaca corak tersebut, dan ia akan aktif untuk semua model Claude bermula 2 Ogos 2026.

Saluran pengesahan

Untuk membuktikan sesuatu teks mengandungi watermark, pengguna akan memanggil API pengesanan Anthropic dan menghantar keseluruhan dokumen ke titik akhir (endpoint) awan syarikat tersebut. Perkhidmatan ini menjalankan algoritma proprietarinya dan memberikan jawapan ya/tidak yang ringkas.

Mengapa ia penting

Keperluan memuat naik tersebut menyerahkan kandungan penuh kepada penyedia AI luaran. Universiti yang mengimbas esei, jabatan HR yang menyemak surat iringan, dan firma guaman yang menyemak kontrak semuanya mendedahkan:

  • Penyelidikan akademik dan data yang belum diterbitkan
  • Pernyataan peribadi, resume, dan surat rujukan
  • Memo dalaman, rancangan strategik atau ramalan kewangan
  • Perjanjian undang-undang sulit

Anthropic menyatakan bahawa watermark itu sendiri tidak mengekod identiti pengguna, tetapi teks mentah tersebut kini berada di infrastruktur Anthropic. Dengan mengawal kedua-dua bahagian penjanaan (di mana watermark dimasukkan) dan bahagian pengesahan (di mana teks diperiksa), syarikat tersebut mempunyai satu saluran tunggal yang boleh mengumpul jumlah maklumat proprietari atau maklumat pengenalan peribadi yang sangat besar.

Had keselamatan dan keberkesanan

Walaupun kebimbangan privasi hilang, keteguhan watermark tersebut adalah meragukan. Beberapa perubahan kata sahaja sudah cukup untuk memadamkan corak tersebut. Menjalankan teks melalui model AI lain yang menulis semula ayat tersebut juga akan menghilangkan isyaratnya. Alatan sumber terbuka sudah pun membuang watermark daripada output Claude. Akibatnya, API pengesanan mungkin hanya menandakan salinan yang dibuat dengan usaha rendah, manakala pengguna yang mahir dapat mengelaknya, sekali gus mendedahkan data tanpa memberikan manfaat keselamatan yang setimpal.

Siapa yang rugi, siapa yang untung

  • Pendidik dan majikan: Semakan pantas “adakah ini ditulis oleh AI?” melibatkan kos tersembunyi iaitu menghantar tugasan pelajar atau bahan pemohon ke makmal AI komersial.
  • Perusahaan yang mengendalikan dokumen sensitif: Pasukan undang-undang dan komunikasi korporat berisiko mendedahkan rahsia perdagangan atau maklumat istimewa kepada perkhidmatan luaran.

Apa yang perlu diperhatikan seterusnya

  • Polisi dan terma kontrak: Pelanggan mesti meneliti polisi pengekalan dan penggunaan data Anthropic untuk melihat sama ada teks yang dimuat naik disimpan, dikongsi, atau digunakan untuk latihan.
  • Kaedah pengesahan alternatif: Alatan pengesanan watermark sumber terbuka atau alatan analisis statistik mungkin muncul, menawarkan semakan di premis (on-premise) yang mengelakkan penghantaran data ke luar.

Jika produk anda bergantung pada Claude atau anda sedang mempertimbangkan API pengesanan tersebut, sahkan ke mana teks itu pergi selepas semakan dan apakah hak yang anda kekalkan ke atasnya. Ketelusan tentang kandungan yang dihasilkan oleh AI adalah berharga, tetapi ia tidak seharusnya mengorbankan privasi dengan menyerahkan data peribadi pengguna anda kepada syarikat yang sama yang mencipta watermark tersebut.