15 يوليو، 2026 15 يوليو، 2026 Home » أبحاث العمارة » مَن يدفع ثمن الهلوسة؟ يغير الذكاء الاصطناعي بشكل جذري من طرق التواصل المهني وإنتاج المعرفة. فغالباً ما تُنتج النماذج اللغوية الكبيرة “هلوسات”، وهي مخرجات تبدو واثقة لكنها غير صحيحة واقعياً. وفي الإظهار المعماري، يمكن أن تظهر هذه الأخطاء على شكل تغييرات غير مصرح بها في الأبعاد الإنشائية أو الواجهات، وتحدث دون أي تحذيرات من النظام أو تنبيهات للمستخدم بشأن عدم اليقين.
تفرض نماذج التسعير الحالية رسوماً على المستخدمين مقابل كل عملية استنتاج (Inference)، بما في ذلك المخرجات الفاشلة أو غير الدقيقة. يختلف هذا النقص في المساءلة عن المعايير المهنية التقليدية حيث يتحمل مقدمو الخدمات مسؤولية الأخطاء. ومع تحول الذكاء الاصطناعي إلى بنية تحتية أساسية، يجب على الصناعة وضع أطر عمل تحدد المسؤولية عن أخطاء الآلة لضمان الاستدامة المهنية.
أعتقد أن التاريخ، بعد عشرين أو ثلاثين عاماً من الآن، لن يُقسِّم العالم إلى ما قبل الإنترنت وما بعده.
عندما أفتح أرشيف بريدي الإلكتروني من عام 2020 اليوم، أشعر وكأنني أقرأ مراسلات من حضارة أخرى. ليس لأن اللغة قد تغيرت، بل لأن الأشخاص الذين يقفون خلفها هم من تغيروا.
كان البريد الإلكتروني قبل عام 2022 بشرياً بطريقة يصعب وصفها بدقة حتى تقارنها بما جاء بعدها. كانت هناك أخطاء إملائية. جمل غير مكتملة. أفكار لم تتبلور بالكامل قبل إرسالها. ولكن خلف كل رسالة، حتى تلك المكتوبة بشكل سيء، كنت تشعر بوجود شخص يبذل جهداً في الوقت الفعلي. كان النقص دليلاً على الحضور.
اليوم، أصبحت الرسالة أطول. أكثر تنظيماً. أكثر دبلوماسية. وأكثر صقلاً، وأحياناً أكثر مما ينبغي. فالذكاء الاصطناعي لا يكتفي بتصحيح النص فحسب، بل يضيف طبقات: مقدمات، وانتقالات، وخاتمات، وتأطيراً بلاغياً ربما لم يقصده المرسل الأصلي، بل وربما لا يتعرف عليه كصوته الخاص. يرسل الناس الآن وبشكل روتيني رسائل لا تشبههم. لقد أضافت الآلة ما يمكن تسميته “هالة” حول كل فكرة، طبقة من الفصاحة تضخم الإشارة وتطمسها أحياناً.
هذه ليست شكوى من جودة الكتابة. إنها ملاحظة حول ما يحدث للتواصل عندما تبدأ الأداة في الحلول محل المتواصل نفسه.
إذا أردت أن أصف ما حدث للمعرفة في عصر الذكاء الاصطناعي باستخدام صورة واحدة، سأستخدم “كرة الثلج”.
قبل النماذج اللغوية الكبيرة، كانت المعرفة تتراكم ببطء. مقال هنا. كتاب هناك. ورقة بحثية. مشروع. محادثة. لقد بنى الفهم البشري نفسه من خلال الاحتكاك، ومن خلال الجهد المبذول لتجميع قطع لم تكن تتطابق دائماً مع بعضها البعض.
ثم جاءت النماذج. قرأت كل شيء. ضغطت كل شيء. تعلمت من إجمالي الإنتاج النصي البشري عبر عقود، وشفّرت ذلك التعلم في أوزان ومعايير (Parameters) يمكن الاستعلام عنها في ثوانٍ.
ثم بدأنا في استخدام تلك النماذج يومياً. وولّد كل تفاعل بيانات جديدة. كل تصحيح، كل أمر (Prompt) مُنقّح، كل حُكم حول أي مخرج أفضل من الآخر، عاد ليغذي النظام بطرق تختلف باختلاف الشركة والسياسة، ولكنها تساهم بشكل جماعي في التطوير المستمر للنماذج. كبرت كرة الثلج. ثم استخدمناها مرة أخرى. ثم كبرت من جديد.
هذه هي الحلقة المغلقة للعصر الحالي: يتعلم الذكاء الاصطناعي من البشرية، ثم تتعلم البشرية العمل مع الذكاء الاصطناعي، ثم يتم تدريب الذكاء الاصطناعي بشكل أكبر على النتائج. وتُنتج كل دورة من هذه الدورة نموذجاً أكثر قدرة في بعض النواحي من سابقه.
لكن “القدرة” ليست مرادفة لـ “الدقة”. ومن هنا تبدأ المشكلة.
يحمل هذا المصطلح معنىً تقنياً دقيقاً في أبحاث الذكاء الاصطناعي: يُولد النموذج مخرجات تبدو متماسكة وواثقة ومناسبة للسياق ولكنها غير صحيحة واقعياً أو مُختلقة ببساطة. لا يعرف النموذج أنه مخطئ. ليس لديه آلية للمعرفة. إنه ينتج ما هو أكثر ترجيحاً من الناحية الإحصائية بالنظر إلى المدخلات، وعندما تقوده الأنماط الإحصائية في بيانات التدريب الخاصة به نحو خطأ واثق، فإنه يلتزم بهذا الخطأ بنفس الطلاقة التي سيجلبها لإجابة صحيحة.
في توليد النصوص، يمكن للقارئ الملم بالموضوع أن يكتشف الهلوسات. الاستشه…