AI ปะทะ Fanfiction: สงครามการตรวจจับ Claude บน AO3

โลกแห่งความคิดสร้างสรรค์ของ fanfiction กำลังเผชิญกับสงครามกลางเมืองในโลกดิจิทัล เมื่อสมาชิกในชุมชนพยายามกวาดล้าง generative AI ออกจากกลุ่ม ความเคลื่อนไหวใหม่ที่กำลังเป็นประเด็นถกเถียงด้วยวิธีการตรวจจับที่มุ่งเป้าไปที่โมเดล Claude ของ Anthropic ได้ปรากฏขึ้น พร้อมกับสร้างความกังวลเรื่องการตรวจจับผิดพลาด (false positives) และความไม่แม่นยำทางเทคนิค

การผงาดขึ้นของ "Claude Detector" โดย @heatedrivalryai

เป็นเวลาหลายปีแล้วที่ความตึงเครียดระหว่างผู้สร้างสรรค์ที่เป็นมนุษย์และโมเดล AI อย่าง ChatGPT และ Claude ได้คุกรุ่นอยู่ในกลุ่มงานสร้างสรรค์เฉพาะทาง แม้ว่าโดยปกติแล้วผู้อ่านจะอาศัยสัญญาณเชิงอัตวิสัย เช่น "purple prose" (สำนวนที่ฟุ่มเฟือยเกินจริง) หรือรูปแบบเครื่องหมายวรรคตอนเฉพาะอย่างการใช้ em dash ที่มากเกินไป แต่แนวทางทางเทคนิคแบบใหม่ก็ได้ปรากฏขึ้นบน X (หรือ Twitter เดิม)

บัญชีนิรนาม @heatedrivalryai ได้เปิดตัว "skin" หรือส่วนขยายเบราว์เซอร์ (browser extension) แบบพิเศษที่ออกแบบมาสำหรับ Archive of Our Own (AO3) ซึ่งเป็นแหล่งเก็บรวบรวม fanfiction ที่ใหญ่ที่สุดในโลก เครื่องมือนี้แตกต่างจากวิธีการเชิงคุณภาพแบบเดิมๆ โดยอ้างว่าสามารถระบุร่องรอยทางเทคนิคเฉพาะอย่างหนึ่งได้ นั่นคือแท็ก HTML ที่ซ่อนอยู่ ตามคำกล่าวของผู้พัฒนา เมื่อผู้ใช้คัดลอกข้อความโดยตรงจากอินเทอร์เฟซของ Claude ของ Anthropic และวางลงในตัวแก้ไขของ AO3 ข้อความนั้นจะยังคงมีส่วนของโค้ดเฉพาะติดมาด้วย นั่นคือ: font-claude-response-body

กลไกการตรวจจับทำงานอย่างไร

กลไกนี้ทำงานแบบแบ่งแยกชัดเจน (binary) อย่างน่าตกใจ เมื่อ skin ของ AO3 ตรวจพบโค้ดที่ถูก "ฉีดโดย Claude" นี้ภายใน metadata หรือเนื้อหาของผลงาน มันจะส่งสัญญาณเตือนด้วยภาพโดยการเปลี่ยนพื้นหลังทั้งหมดของหน้าเว็บให้เป็นสีแดง

การทดสอบได้ยืนยันถึงประสิทธิภาพทางเทคนิคของวิธีการนี้ เมื่อเรื่องราวที่สร้างโดย Claude ถูกวางลงในตัวแก้ไขของ AO3 โดยตรงจากแชทบอท สัญญาณเตือน "หน้าจอสีแดง" จะทำงานทันที อย่างไรก็ตาม การตรวจจับนี้มีความอ่อนไหวสูงต่อวิธีการป้อนข้อมูล หากผู้ใช้นำข้อความที่สร้างโดย AI ชุดเดียวกันมาวางในรูปแบบข้อความธรรมดา (plain text) ซึ่งเป็นการล้างรูปแบบการจัดวางออกไป สัญญาณเตือนสีแดงก็จะหายไป สิ่งนี้เผยให้เห็นความแตกต่างที่สำคัญคือ เครื่องมือนี้ไม่ได้ตรวจจับ "สไตล์การเขียนของ AI" แต่เป็นการตรวจจับเศษซากที่หลงเหลือจากการกระทำ "คัดลอกและวาง" โดยไม่ตั้งใจ

ความเสี่ยงต่อความเสียหายข้างเคียงในชุมชนสร้างสรรค์

แม้ว่าเครื่องมือนี้จะสามารถระบุการคัดลอกและวางโดยตรงได้อย่างมีประสิทธิภาพ แต่มันก็นำมาซึ่งความเสี่ยงที่สำคัญต่อระบบนิเวศของ fanfiction ในวงกว้าง ข้อกังวลหลักคือความเคลื่อนไหวในการ "กวาดล้าง" AI อาจนำไปสู่สภาพแวดล้อมแห่งความระแวงสงสัย ซึ่งนักเขียนที่เป็นมนุษย์จริงๆ อาจต้องตกเป็นเหยื่อในความขัดแย้งนี้

การแยกแยะระหว่าง "การใช้ AI เป็นเครื่องมือ" กับ "การคัดลอกผลงานที่สร้างโดย AI" เป็นพื้นที่สีเทาในด้านจริยธรรมดิจิทัลอยู่แล้ว การใช้วิธีการตรวจจับแบบอัตโนมัติที่รุนแรงอาจทำให้ชุมชนเสี่ยงต่อการสร้างบรรยากาศแบบ "ถือว่ามีความผิดจนกว่าจะพิสูจน์ได้ว่าเป็นผู้บริสุทธิ์" นอกจากนี้ เมื่อ LLM เข้ามาเป็นส่วนหนึ่งของกระบวนการเขียนมากขึ้น เส้นแบ่งระหว่างร่างที่เขียนโดย AI แล้วผ่านการแก้ไขโดยมนุษย์ กับผลงานที่ออกมาจาก AI โดยตรง ก็เริ่มเลือนลางลงเรื่อยๆ ทำให้ "ร่องรอยทางเทคนิค" กลายเป็นเกณฑ์วัดความแท้จริงที่ไม่แน่นอน

สรุปประเด็นสำคัญ

• การตรวจจับทางเทคนิค: skin ใหม่ของ AO3 มุ่งเป้าไปที่ร่องรอยโค้ด font-claude-response-body ที่หลงเหลืออยู่เมื่อมีการวางข้อความโดยตรงจาก Claude ของ Anthropic
• ข้อบกพร่องของวิธีการ: เครื่องมือตรวจจับระบุถึง วิธีการวาง มากกว่า ลักษณะของสำนวนภาษา ซึ่งหมายความว่าข้อความจาก AI สามารถหลบเลี่ยงการตรวจจับได้หากมีการล้างรูปแบบการจัดวางออก
• ผลกระทบต่อชุมชน: ความเคลื่อนไหวนี้ส่งสัญญาณถึงความขัดแย้งที่รุนแรงขึ้นระหว่างประโยชน์ของ generative AI กับการรักษาพื้นที่สร้างสรรค์ที่มีมนุษย์เป็นศูนย์กลาง