فطراس: المغرب يتجه إلى العقوبات دون بناء أدوات كشف التزييف العميق

الجهة 24- الرباط

قالت حنان فطراس النائبة البرلمانية عن حزب الاتحاد الاشتراكي، إن موضوع الذكاء الاصطناعي لم يعد شأناً تقنياً يخص المختصين فقط، بل تحوّل إلى سؤال دستوري يلامس جوهر نزاهة العملية الانتخابية وحرية الرأي والتعبير. وأكدت أن البرلمان المغربي يناقش مقتضيات زجرية مرتبطة بمحتويات رقمية تولّدها خوارزميات معقّدة، في وقت لم يحسم العالم نفسه في سؤال المسؤولية: هل مسؤولية التضليل يتحملها الشخص الذي نشر المحتوى؟ أم المنصة التي استضافته؟ أم الشركة المصنّعة للأداة التوليدية؟ أم الخوارزمية ذاتها التي أنتجت المادة المضلِّلة؟ وأوضحت أن التشريعات الدولية ما زالت في طور البحث عن صيغ دقيقة للإجابة عن هذا السؤال، بينما “نحن في المغرب نقفز مباشرة إلى العقوبات السجنية والمالية دون أن نحدد المسؤول الخوارزمي”.

وتوقفت البرلمانية مطولاً خلال أشغال لجنة الداخلية والجماعات الترابية والسكنى وسياسة المدينة والشؤون الإدارية ليوم الخميس 20 نونبر 2025 عند خطورة المرحلة الجديدة التي دخلها الذكاء الاصطناعي، مشيرة إلى أن التزييف العميق لم يعد مجرد صور مشوّهة أو أصوات متلاعبة، بل أصبح قادراً على محاكاة النبرة والتنفس والضحك، وعلى توليد فيديوهات يصعب على غير الخبراء التمييز بينها وبين الحقيقي. واعتبرت أن القاضي المغربي، مهما بلغ من خبرة، لن يكون قادراً اليوم على الفصل بين المادة الأصلية والمادة المزيفة دون تأسيس مختبر وطني للخبرة الخوارزمية، يملك أدوات تحليل “بصمة الخوارزمية” التي باتت المعتمد الأول في المحاكم الدولية.

وأشارت فطراس إلى إشكال آخر أكثر تعقيداً، وهو ما يُعرف بـ”الهلاوس الخوارزمية” التي تنتج عن الأنظمة التوليدية نفسها، حيث تظهر تقارير دولية نسباً تتراوح بين ثمانية وواحد وعشرين في المئة من الأخطاء التي يصنعها الذكاء الاصطناعي دون قصد، مما يطرح سؤالاً مقلقاً: هل سيواجه مواطن عقوبة زجرية بسبب خطأ تقني لم يرتكبه؟ وكيف يمكن التمييز بين التضليل العمدي والخطأ الخوارزمي في غياب مرجعيات تقنية وإجرائية دقيقة؟ واعتبرت أن غياب هذا التمييز يجعل النص التشريعي غير منسجم مع أبسط مبادئ العدالة.

وتابعت البرلمانية أن النصوص المقترحة تعتمد مفاهيم واسعة وفضفاضة مثل “الخبر الزائف” و”الادعاء الكاذب” و”الوقائع المختلقة” و”استعمال الذكاء الاصطناعي في إنتاج محتوى”، دون تحديد معياري أو تعريف خوارزمي دقيق أو جهاز وطني مكلف بالتحقق من أصل المحتوى. وهو ما يجعل هذه المفاهيم، حسب تعبيرها، عرضة لتأويلات قد تتجاوز قصد المشرّع وتُدخل النقاش العمومي في دائرة الالتباس.

ووضعَت فطراس مقارنة مباشرة مع تجارب دولية بارزة، مشيرة إلى أن الولايات المتحدة لا تلجأ إلى المتابعة القانونية إلا بعد إثبات القصد الجنائي وإرفاقه بتقرير تقني إلزامي صادر عن مختبر متخصص، بينما يتجه الاتحاد الأوروبي إلى تقييد الخوارزميات نفسها قبل مساءلة الأفراد. أما بريطانيا، تضيف المتحدثة، فقد اختارت اعتماد نظام “الوسم الخوارزمي الإجباري”، الذي يميز المحتوى المنتج بالذكاء الاصطناعي قبل وصوله إلى الجمهور. وفي المقابل، ترى فطراس أن المغرب يذهب في الاتجاه المعاكس، إذ يمنح الأولوية للعقوبة قبل بناء الأدوات والبنية التقنية الضرورية لتطبيقها، في غياب سجل وطني للبصمات الصوتية، وعدم وجود مختبر وطني للطب الرقمي، وعدم توفر نظام لتتبع أصل المحتوى، فضلاً عن غياب بروتوكول وطني للتعامل مع الحوادث الرقمية.

وأكدت البرلمانية أن أي عقوبة تطال المحتوى المولّد بواسطة الذكاء الاصطناعي يجب أن تسبقها منظومة قانونية وخوارزمية شفافة ودقيقة، تضمن أن الحكم القضائي قابل للدفاع عنه أمام المؤسسات والرأي العام. وشددت على ضرورة تعريف قانوني مضبوط للمحتوى المضلل، يربط بين القصد والتأثير، ويفرق بين التضليل المتعمد والخطأ التلقائي الذي قد تنتجه الخوارزميات. كما دعت إلى مساءلة المنصات والتقنيات قبل مساءلة المواطن، وإلى احتفاظ القضاء بالخبرة التقنية كجزء من المسطرة، إلى جانب حماية واضحة للصحافة والسخرية والنقد السياسي والمحتوى الفكري من أي متابعة غير مبررة.

وختمت فطراس مداخلتها برسالة قوية إلى الوزير والحكومة، مؤكدة أن “التنظيم يجب أن يسبق التجريم، والخبرة يجب أن تسبق العقوبة، والخوارزمية يجب أن تسبق النص”. وحذرت من أن التشريع، بصيغته الحالية، قد يتحول — من دون قصد — إلى أداة تقيد النقاش العمومي بدلاً من حماية نزاهة الانتخابات في لحظة حساسة تمر بها البلاد.