علامة مائية في ChatGPT: حيلة OpenAI للكشف عن المحتوى الاصطناعي.. لكنها ليست مثالية

علامة مائية في ChatGPT: حيلة OpenAI للكشف عن المحتوى الاصطناعي.. لكنها ليست مثالية

معين برس- تكنولوجيا: - منذ ساعة

بدأت OpenAI في وضع بصمة خفية داخل النصوص التي يولدها ChatGPT، خاصة في الاتحاد الأوروبي، كخطوة تقنية للتعرف على المحتوى الذي أنشأه الذكاء الاصطناعي، وذلك استجابة لمتطلبات قانون الذكاء الاصطناعي الأوروبي.

تعتمد هذه التقنية، المسماة textGrain، على إدخال أنماط غير مرئية للقارئ في اختيار الكلمات، مما يسمح لكاشف متخصص بالعثور عليها لاحقًا. ومع ذلك، أظهرت اختبارات OpenAI أن هذه العلامة ليست قاطعة، حيث يمكن إضعافها بسهولة عبر التعديل وإعادة الصياغة.

تشير الاختبارات إلى أن النظام يحقق نسبة اكتشاف تصل إلى 92% في أفضل حالاته، لكن تعديل 10% فقط من النص يقلل من نجاح الكشف بنحو 30%، بينما تغيير 20% قد يخفضه إلى 75%. كما أن دقة الكشف تتأثر بشكل ملحوظ مع النصوص القصيرة أو المترجمة.

لن تقدم العلامة المائية حلاً نهائياً لمشكلة التمييز بين النصوص البشرية والاصطناعية، فالنظام يعتمد على بقاء أنماط لغوية محددة، ويمكن لإعادة الصياغة تغيير هذه الأنماط. ولذلك، تعتبر textGrain أداة للمؤشرات التقنية أكثر من كونها أداة إثبات قاطعة، وقد تكون فائدتها الأكبر في تلبية متطلبات الشفافية التنظيمية.