تم التعبير عن دعوة لإنشاء هيئة معايير للإشراف على تطوير الذكاء الاصطناعي المتقدم يوم الثلاثاء من قبل الرئيس التنفيذي لشركة جوجل ديب مايند، وهي مختبر بحثي في مجال الذكاء الاصطناعي.
"ستكون هيئة المعايير مسؤولة عن تطوير بروتوكولات التقييم والعمل مع الوكالات الفيدرالية المناسبة ومختبرات الولايات المتحدة الوطنية لإجراء اختبارات في المجالات ذات الصلة بالأمن القومي،" كتب ديميس هاسابيس على لينكد إن.
واقترح أن يتم نمذجة اللجنة على شراكة عامة-خاصة تحت إشراف الحكومة أو منظمة ذاتية التنظيم، مثل مؤسسة تنظيم الصناعة المالية (FINRA)، وأن تشمل خبراء فنيين مستقلين وممثلين من المصادر المفتوحة.
"في الوقت الحالي، نحن محاصرون في سباق تجاري وجيوسياسي شديد التعقيد،" أوضح. "بينما تعزز هذه الديناميكيات التنافسية التقدم السريع وتسارع الفوائد المدهشة، تفوق التقدم على الحدود فهمنا للتكنولوجيا."
"لا أحد في العالم يعرف على وجه اليقين ما سيحدث بعد ذلك، وحتى الخبراء يختلفون،" تابع. "عندما يكون هناك درجة كبيرة من عدم اليقين والمخاطر مرتفعة إلى هذه الدرجة، فإن التقدم بتفاؤل حذر هو الاستراتيجية المعقولة والصحيحة."
"هذا يتطلب سياسة عامة تعزز الابتكار بينما تشجع أيضاً على المسؤولية والأمان، وتعزز التعاون الدولي في القضايا الرئيسية للسلامة، وتشجع على التفكير بعناية في كيفية نشر الذكاء الاصطناعي لفائدة المجتمع،" نصح.
تعتبر هيئة المعايير ضرورية بالتأكيد، أعلن كريس قنال، مؤسس مشارك والرئيس التنفيذي لشركة إكويستامب، وهي شركة سلامة في الذكاء الاصطناعي في لويس، ديلاوير. "الذكاء الاصطناعي هو تكنولوجيا مزدوجة الاستخدام،" قال لموقع TechNewsWorld. "نفس القدرات التي تسرع اكتشاف الأدوية يمكن أن تخفض من العوائق أمام الهجمات الإلكترونية والأسلحة البيولوجية."
"هناك شيئان يجعلان معايير ما قبل النشر غير قابلة للتفاوض،" قال. "أولاً، لا يمكن استدعاء نماذج الوزن المفتوح بمجرد إصدارها. الفوائد والمخاطر التي توفرها نموذج الوزن المفتوح موجودة بشكل دائم."
"ثانياً،" تابع، "تشارك مختبرات مثل أنثروبيك وأوبن إيه آي بالفعل نماذج غير علنية مع الشركاء والمختبرين قبل الإصدار، لذا يمكن أن تكون قدرة خطيرة متداولة وتسبب ضرراً قبل أن تعرف أي حكومة بوجودها."
وافق جيف ويليامز، الرئيس التنفيذي المشارك لشركة كونتراست سكيوريتي، وهي شركة أمان Runtime في لوس ألتوس، كاليفورنيا، على أن هيئة المعايير مطلوبة للإشراف على تطوير الذكاء الاصطناعي، خاصة الذكاء الاصطناعي المتقدم. "يمكن أن تشكل هذه الأنظمة في النهاية مخاطر مقارنة بأسلحة نووية أو بيولوجية أو كيميائية،" قال لموقع TechNewsWorld. "لا نعرف بعد مدى خطورتها، لكن الأدلة كافية لدرجة أن الانتظار سيكون غير مسؤول."
أوصى بأن تكون المقاربة علمية، تركز على القدرات القابلة للقياس، وتبني على العمل الجاري بالفعل في المجتمع الأمني. "قدمت مجموعة OWASP، على وجه الخصوص، إرشادات عملية عبر مجموعة واسعة من مخاطر الذكاء الاصطناعي التوليدي والعميل،" قال. "يجب على هيئة المعايير تمويل وتأكيد وتوسيع هذا العمل — وليس إعادة اختراعه خلف الأبواب المغلقة."
"نحتاج إلى اختبار صارم وموحد لنماذج الحدود،" أضافت ميشيل لوبيز مالدونادو، المدير المساعد لسياسة الذكاء الاصطناعي في مؤسسة التكنولوجيا والابتكار (ITIF)، وهي منظمة بحثية وسياسية عامة في واشنطن العاصمة.
"الولايات المتحدة تبني بالفعل تلك العضلات،" أخبرت موقع TechNewsWorld. "مركز معايير الابتكار في الذكاء الاصطناعي [CAISI] في NIST يبني نماذج….