لقطة شاشة عبر ميتا
تعمل ميتا على أداة لتحديد الصور ومقاطع الفيديو التي تم إنشاؤها باستخدام نموذجها الجديد لتوليد الصور، ميوز إيمج. عرضت الشركة معاينة للأداة المستندة إلى الويب التي يمكنها التحقق من العلامات المائية غير المرئية المستخدمة بواسطة النموذج الجديد.
هذا النظام للتعلام يطلق عليه "ختم المحتوى"، وهو يبقى موجودًا "حتى عند القص أو الضغط أو تغيير الحجم أو اللقطات الشاشة"، كما تشرح ميتا في منشور مدونة. "نحن نقدم أداة كشف تتيح لك التحقق مما إذا كانت الصورة تحمل علامة مائية لختم المحتوى، مما يوفر طريقة أولية لمساعدتك في فهم ما إذا كانت الصورة قد تم إنشاؤها باستخدام ذكاء ميتا الاصطناعي."
يبدو أن ختم المحتوى هو نهج جديد إلى حد ما لميتا. النسخة المكونة من ميوز إيمج هي مملوكة، على الرغم من أن الشركة قد أصدرت سابقًا نسخًا مفتوحة المصدر من التكنولوجيا، وفقًا لما قالته ميتا لموقع إنغادجيت. لا تتضمن نماذج ميتا الجديدة أي علامات مائية مرئية، مثل بعض النسخ السابقة من ذكاء ميتا الاصطناعي التي أضافت شعارًا صغيرًا إلى الزاوية اليمنى السفلى.
في الوقت الحالي، تقتصر قدرات الكشف لذكاء ميتا الاصطناعي على الصور التي تم إنشاؤها أو تحريرها باستخدام ميوز إيمج، على الرغم من أن الشركة قالت إنها تخطط لتوسيع العلامات المائية لختم المحتوى لتشمل مقاطع الفيديو التي تم إنشاؤها وتحريرها بواسطة الذكاء الاصطناعي أيضًا. تعمل ميتا أيضًا على نموذج منفصل لتوليد الفيديو يسمى ميوز فيديو والذي سيكون "قادماً قريبًا."
جربت ميزة الكشف الجديدة على الصور التي أنشأتها اليوم باستخدام ذكاء ميتا وكانت الأداة المستندة إلى الويب قادرة على الكشف عن علامة مائية للصور المعدلة والإنشاءات المصنوعة بالكامل بواسطة الذكاء الاصطناعي (مثل تلك الممثلة أعلاه). كما وجدت العلامة المائية في لقطات الشاشة للصور الخاصة بي. "نتيجة إيجابية تعني أن الصورة تم إنشاؤها أو تحريرها باستخدام تطبيق ميتا للذكاء الاصطناعي أو meta.ai،" كما تشرح الشركة في قسم الأسئلة الشائعة. "نتيجة سلبية تعني أنه من غير المرجح أن الصورة تم معالجتها باستخدام تطبيق ميتا للذكاء الاصطناعي أو meta.ai."
ومن المثير للاهتمام، أن قدرات الكشف الجديدة لذكاء ميتا الاصطناعي لا تبدو أنها جزء من تطبيق ذكاء ميتا حتى الآن. عندما سألت مساعد التطبيق المستند إلى التطبيق حول صورة تعرف عليها أداة الويب على أنها مصنوعة بواسطة الذكاء الاصطناعي، أجاب بأنه ليس لديه القدرة على التحقق. "لا أستطيع أن أخبرك بشكل قاطع إذا كانت هذه الصورة المحددة قد تم إنشاؤها بواسطة ميتا آل просто فقط من خلال النظر إليها،" قال. "ميتا آل لا تقوم تلقائيًا بتعريف الصور، وليس لدي أداة يمكنها الكشف عن أي نموذج ذكاء اصطناعي أنشأ صورة موجودة."
واجهت ميتا سابقًا بعض الانتقادات حول الطريقة التي تسجل وتحدد بها المواد المولدة بالذكاء الاصطناعي في تطبيقاتها. أبلغت لجنة الإشراف الشركة في وقت سابق من هذا العام بأنها "قلقة" من أن ميتا كانت "تنفذ بشكل غير متسق" العلامات المائية الرقمية على المحتوى المولد بالذكاء الاصطناعي الذي تم إنشاؤه بواسطة أدواتها الخاصة.
تبدو الميزة الجديدة لا تزال تحتوي على بعض القيود الأخرى. ختم المحتوى غير متوافق مع SynthID أو C2PA Content Credentials، وهما طريقتان مثبتتان لتحديد العلامات المائية تستخدمهما شركات أخرى. لم تتمكن الميزة المستندة إلى الويب من تحديد الصور التي تم إنشاؤها أو تعديلها باستخدام النسخ السابقة من نماذج الذكاء الاصطناعي من ميتا خلال اختباري. عندما أضفت صورًا تم إنشاؤها في محادثات سابقة مع ميتا، لم يتمكن من إخباري ما إذا كانت الصورة قد تم إنشاؤها باستخدام ذكاءه الاصطناعي. تبدو الميزة أيضًا، لسبب ما، خاضعة لحدود السرعة الخاصة بميتا. بعد تحميل عدد قليل من الأمثلة، تم تنبيهي بأنني قد وصلت إلى "حدودي اليومية على فحوصات التعريف."