एंथ्रोपिक अपने AI मॉडल क्लॉड द्वारा तैयार किए गए टेक्स्ट के लिए एक नया वॉटरमार्किंग सिस्टम लागू करने की योजना बना रहा है। यह पहल यूरोपीय संघ के आगामी नियमों के अनुरूप है, जो AI जनरेटेड कंटेंट की पहचान को अनिवार्य बनाते हैं। इस सिस्टम का उद्देश्य AI द्वारा बनाए गए टेक्स्ट को पहचानने के लिए सांख्यिकीय विकल्पों में सूक्ष्म बदलाव करना है, जिससे सामान्य पाठक बिना किसी बदलाव को देखे, उपयुक्त तकनीक का उपयोग करके पैटर्न को पहचाना जा सके।
वॉटरमार्किंग की यह पहल AI द्वारा लिखे गए टेक्स्ट की गुणवत्ता पर संभावित प्रभाव की चिंता को भी जन्म देती है। आलोचकों का मानना है कि वॉटरमार्किंग की प्रक्रिया AI मॉडल की शब्द-चयन की सटीकता को प्रभावित कर सकती है। हालांकि, कंप्यूटर विज्ञान के विशेषज्ञों का कहना है कि AI मॉडल पहले से ही शब्द चयन में यादृच्छिकता का उपयोग करते हैं, इसलिए प्रभाव मामूली ही होगा।
विशेषज्ञ बताते हैं कि वॉटरमार्किंग मॉडल इस यादृच्छिकता को समाप्त नहीं करेगा, बल्कि इसे सांख्यिकीय रूप से पूर्वानुमानित बनाएगा, ताकि AI जनरेटेड टेक्स्ट की पहचान संभव हो सके। यह प्रणाली AI-जनरेटेड सामग्री की बढ़ती संख्या से जुड़ी चिंताओं को भी दूर कर सकती है। विशेषज्ञों ने आगाह किया है कि यदि भविष्य के AI मॉडल बड़े पैमाने पर AI-जनरेटेड कंटेंट पर प्रशिक्षित होते हैं, तो वे “मॉडल कोलैप्स” का सामना कर सकते हैं, जिससे उनकी गुणवत्ता और विश्वसनीयता में गिरावट आ सकती है।
AI-जनरेटेड कंटेंट की बढ़ती प्रवृत्ति को देखते हुए, वॉटरमार्किंग एक महत्वपूर्ण उपकरण बन सकता है जो मशीन द्वारा लिखे गए टेक्स्ट की पहचान में मदद करेगा। साथ ही, यह AI ट्रेनिंग डेटा की गुणवत्ता को भी बनाए रखने में सहायक साबित हो सकता है।