مجلس بوعياش يحذر من مخاطر الذكاء الاصطناعي ويكشف تعرض المغرب لـ13 مليون هجوم سيبراني
حذر المجلس الوطني لحقوق الإنسان من خطورة التطور المتسارع لنظم الذكاء الاصطناعي وما قد تفرزه من تأثيرات على الوعي الجماعي، مؤكداً أن هذه التقنيات لم تعد مجرد أدوات تكنولوجية ناشئة، بل أصبحت عنصراً مؤثراً في الحياة اليومية للأفراد وفي مختلف المجالات الاجتماعية والاقتصادية.
وأوضح المجلس، في تقريره السنوي برسم سنة 2024، أن التطورات الحديثة في مجال الذكاء الاصطناعي مكّنت هذه النظم من معالجة النصوص والصور في الوقت نفسه، وهو تحول نوعي يشير إلى انتقال هذه التكنولوجيا من مرحلة التجريب إلى مرحلة الاندماج الفعلي في الحياة اليومية.
وأشار التقرير إلى أن المغرب احتل المرتبة الثانية عالمياً من حيث استخدام منصة “ChatGPT”، كما جاء في المرتبة 101 عالمياً و13 على مستوى منطقة الشرق الأوسط وشمال إفريقيا في مؤشر جاهزية الحكومات للذكاء الاصطناعي لسنة 2024، بمعدل بلغ 41.78 نقطة من أصل 188 دولة.
ورغم الفرص التي توفرها هذه التقنيات لتحقيق أهداف التنمية المستدامة وتعزيز الحقوق والحريات، فإن المجلس عبّر عن قلقه من المخاطر المرتبطة بها، خاصة ظاهرة التزييف العميق (Deepfake)، التي تتيح إنتاج مقاطع صوتية وبصرية بالغة الواقعية قد تُستعمل لتضليل الرأي العام أو استهداف فئات معينة، خصوصاً النساء.
وأكد المجلس أن خطر هذه التقنيات يتضاعف عندما تُستعمل لتزييف الوعي الجماعي، مشيراً إلى انتشار محتويات رقمية تعتمد على التزييف العميق وتستعمل شخصيات ورموزاً ثقافية مغربية، ما قد يخلق ما سماه التقرير “فقاعات رقمية” تعزز التحيزات وسوء الفهم داخل الفضاء الرقمي.
وفي الجانب المتعلق بالأمن السيبراني، كشف التقرير أن المغرب تعرض سنة 2024 لما مجموعه 644 هجوماً سيبرانياً، إضافة إلى نحو 13 مليون هجوم رقمي وفق معطيات شركة “Kaspersky”، فضلاً عن تسجيل أكثر من 6.4 مليون محاولة تصيد احتيالي و1.6 مليون ملف ضار تم حظره.
كما سجل التقرير ارتفاع الجرائم السيبرانية بنسبة 40 في المائة لتصل إلى 8333 قضية، مع تسجيل 3265 محتوى مرتبطاً بالابتزاز الرقمي، في حين تراجعت قضايا الابتزاز الجنسي عبر الإنترنت بنسبة 23 في المائة، مسجلة 391 قضية.
وأشاد المجلس بالمبادرات التي أطلقتها المملكة في المجال الرقمي، من بينها الاستراتيجية الوطنية “المغرب الرقمي 2030”، التي تقوم على تعزيز حكامة الأمن السيبراني وتقوية مرونة الفضاء الرقمي الوطني وتطوير القدرات ونشر الوعي المجتمعي.
كما أبرز التقرير انخراط الجامعات المغربية في مجال الرقمنة والذكاء الاصطناعي، حيث ارتفع عدد الطلبة المسجلين في هذه المسالك من حوالي 10 آلاف طالب خلال الموسم الجامعي 2022-2023 إلى أكثر من 21 ألفاً خلال موسم 2023-2024، في أفق بلوغ 22.500 خريج سنوياً بحلول سنة 2027.
وفي ختام تقريره، شدد المجلس الوطني لحقوق الإنسان على ضرورة وضع إطار قانوني واضح ينظم استخدامات الذكاء الاصطناعي وفق مقاربة حقوقية، خاصة في القطاعات الحيوية مثل العدالة والتعليم والصحة، مع مراعاة الأبعاد الحقوقية والثقافية والبيئية في تصميم الخوارزميات وضمان حماية المعطيات الشخصية.