एंथ्रोपिक अपने Claude एआई मॉडल द्वारा उत्पन्न पाठ के लिए एक नई वॉटरमार्किंग प्रणाली पेश करने की तैयारी कर रहा है, जिसका उद्देश्य आने वाले यूरोपीय संघ के विनियमों का पालन करना है जो एआई-जनित सामग्री की पहचान को अनिवार्य बनाते हैं। यह प्रणाली Claude द्वारा पाठ उत्पन्न करने के दौरान किए जाने वाले सांख्यिकीय विकल्पों में सूक्ष्म परिवर्तन करके कार्य करेगी। ये परिवर्तन औसत पाठक के लिए अप्रत्यक्ष होंगे लेकिन सही तकनीक के साथ आसानी से पहचाने जा सकते हैं।
इस वॉटरमार्किंग प्रणाली के कार्यान्वयन ने इस पर बहस छेड़ दी है कि क्या यह एआई-जनित पाठ की गुणवत्ता को प्रभावित कर सकता है। आलोचकों को चिंता है कि मॉडल के शब्द चयन प्रक्रिया को बदलने से इसकी सबसे सटीक या प्राकृतिक शब्द चुनने की क्षमता कम हो सकती है। फिर भी, कंप्यूटर विज्ञान विशेषज्ञ सुझाव देते हैं कि प्रभाव संभवतः न्यूनतम होगा क्योंकि एआई मॉडल पहले से ही उनके शब्द चयन में यादृच्छिकता शामिल करते हैं।
विशेषज्ञों के अनुसार, वॉटरमार्क मॉडल इस यादृच्छिकता को समाप्त नहीं करेगा। इसके बजाय, यह मॉडल की यादृच्छिक पसंद को सांख्यिकीय रूप से पूर्वानुमेय बना देगा, जिससे एआई-जनित पाठ की पहचान संभव हो सके। यह दृष्टिकोण इंटरनेट पर एआई-जनित सामग्री की बढ़ती उपस्थिति से संबंधित चिंताओं को भी संबोधित कर सकता है।
विशेषज्ञों ने चेतावनी दी है कि यदि भविष्य के एआई मॉडल एआई-जनित सामग्री पर व्यापक रूप से प्रशिक्षित होते हैं, तो वे “मॉडल पतन” का अनुभव कर सकते हैं, जो संभावित रूप से भविष्य की प्रणालियों की गुणवत्ता और विश्वसनीयता में गिरावट का कारण बन सकता है। जैसा कि एआई-जनित सामग्री तेजी से सामान्य हो रही है, वॉटरमार्किंग मशीन द्वारा लिखित पाठ को अलग करने और भविष्य के एआई प्रशिक्षण डेटा की गुणवत्ता को सुरक्षित रखने के लिए एक महत्वपूर्ण उपकरण के रूप में कार्य कर सकती है।