تقول الوكالة الوطنية لمكافحة الجريمة في المملكة المتحدة إن المجرمين غالبًا ما يكونون من أوائل المتبنين للتطورات التكنولوجية في أدوات الذكاء الاصطناعي. الصورة: Getty/Cavan Images RF عرض الصورة في وضع ملء الشاشة تقول الوكالة الوطنية لمكافحة الجريمة في المملكة المتحدة إن المجرمين غالبًا ما يكونون من أوائل المتبنين للتطورات التكنولوجية في أدوات الذكاء الاصطناعي. الصورة: Getty/Cavan Images RF تحليل الذكاء الاصطناعي فريسة الذكاء الاصطناعي: لماذا تخبر مراقبة الإنترنت الآباء بحماية الأطفال من تطبيقات التحول إلى عري دان ميلمو محرر التقنية العالمية مع تطور أدوات التصوير، يستخدم المتصيدون على الإنترنت صور الأطفال لصنع مواد إباحية شديدة
تم تحذير الآباء في المملكة المتحدة من نشر صور أطفالهم في ظل مخاوف الاعتداء الجنسي المدعومة بالذكاء الاصطناعي
بدأت الصورتان كصور سيلفي مراهقين نموذجية: النظر في المرآة، مرتدين ملابس كاملة. لكن بمجرد أن حصل المتصيدون على تلك الصور وأدخلوها في أداة تصوير بالذكاء الاصطناعي، أصبحت أساسًا لمقاطع فيديو إباحية شديدة.
تأتي هذه الأمثلة من خدمة تقرير الحذف، التي تسمح للأطفال الذين تم توزيع صورهم بشكل صريح دون رضاهم بالإبلاغ عن الصورة بسرية وحظرها أو إزالتها من وسائل التواصل الاجتماعي. بسبب الانفجارات في الذكاء الاصطناعي، وتوفر نماذج الذكاء الاصطناعي وتطبيقات التحول إلى عري، أصبح بعض من هم دون 18 عامًا ضحايا دون حتى الاتصال بالمجرمين.
توضح هذان الضحيتان لماذا أصدرت الوكالة الوطنية لمكافحة الجريمة (NCA) ومؤسسة مراقبة الإنترنت (IWF)، وهي هيئة مراقبة لسلامة الأطفال، إرشادات تخبر الآباء consider_limit_visibility_of_family_pictures_by ، على سبيل المثال، جعل ملفك الشخصي على وسائل التواصل الاجتماعي خاصًا ومشاركة صور أطفالك فقط في مجموعات "الأصدقاء المقربين".
تقول كلا المنظمتين إنهما لا تخبران الآباء بما يجب عليهم فعله، ولكن تريدانهم أن يكونوا على دراية بالمشكلة وما يجب القيام به من إجراءات. تظهر البيانات أن الذكاء الاصطناعي أصبح مصدرًا متزايدًا لمواد الاعتداء الجنسي على الأطفال. ووفقًا لمؤسسة IWF، ارتفع عدد مواد الاعتداء الجنسي على الأطفال التي تم إنشاؤها بواسطة الذكاء الاصطناعي (CSAM) التي تم العثور عليها عبر الإنترنت بنسبة 14% العام الماضي، حيث تم تحديد 8029 صورة ومقطع فيديو تم إنشاؤها بواسطة الذكاء الاصطناعي من CSAM الواقعي في عام 2025.
عرض الصورة في وضع ملء الشاشة يشعر دان سيكستون من مؤسسة مراقبة الإنترنت بعدم الارتياح عندما يقول للآباء بعدم نشر صور أطفالهم ولكنه يشعر أنه ليس لديه خيار آخر. الصورة: غرايم روبرتسون / الغارديان يقول دان سيكستون، كبير مسؤولي التكنولوجيا في IWF، إنه يشعر "بعدمcomfort_بشكل كبير" بشأن إخبار الآباء بعدم نشر صور أطفالهم في الأماكن العامة، لكنه يشعر أنه ليس لديه خيار آخر. لا توجد حماية كافية ضد هذه التكنولوجيا، على حد قوله.
تقوم الحكومة البريطانية بفرض قيود، مثل جعل من غير القانوني امتلاك أو إنشاء أو توزيع أدوات الذكاء الاصطناعي المصممة لإنشاء مواد اعتداء جنسي على الأطفال. كما تعطي الشركات التقنية ووكالات حماية الأطفال السلطة لاختبار ما إذا كانت أدوات الذكاء الاصطناعي يمكن أن تنتج صور اعتداء على الأطفال.
يعترف سيكستون بأن الحل على المدى الطويل لا يمكن أن يكون بحذف الصور من الحسابات العامة على وسائل التواصل الاجتماعي. إنه يريد تشريعًا لنماذج الذكاء الاصطناعي التي يتطلب منها أن تكون "آمنة من حيث التصميم"، وهو مبدأ عبر عنه نشطاء سلامة الإنترنت الذين يريدون أن تُبنى منصات وسائل التواصل الاجتماعي بشكل مسؤول مع الرفاهة لمستخدميها كهدف أساسي. "يستخدم الناس مصطلح السلامة من حيث التصميم، لكنني لا أرى ذلك هنا،" يقول.
قال متحدث باسم الحكومة إن القانون البريطاني كان "واضحًا" بشأن عدم قانونية إنشاء أو امتلاك أو توزيع مواد الاعتداء الجنسي على الأطفال، بما في ذلك المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، وأنه يجب إزالة مثل هذه المواد بشكل استباقي من تقنية p…