د. محمد بن أحمد غروي

تسبب تطبيق الذكاء الاصطناعي غروك (Grok) التابع لمنصة إكس في تجدد الجدل حول مخاطر انتهاك خصوصية المستخدمين في عصر الذكاء الاصطناعي وتقنيات التزييف العميق، وضرورة مواكبة التشريعات للتطور الحادث في هذه التقنيات، وتدخل الحكومات في آسيان لحماية مواطنيها.

اتخذت دول جنوب شرق آسيا خطوات فعالة للتعامل مع التطبيق وانتهاكه لحقوق المستخدمين، فأعلنت إندونيسيا مؤخرًا، حظرًا مؤقتًا للتطبيق، لتكون أول دولة تمنع الوصول إلى هذه الأداة، وعللت وزارة الاتصالات والشؤون الرقمية، قرارها كرد على إساءة استخدام المنصة لإنتاج محتوى غير أخلاقي مستخدمًا التزييف العميق، وذكرت الوزيرة موتيا حفيظ، الحظر المؤقت يسعى لحماية النساء والأطفال وعامة الناس من انتشار المواد المفبركة غير الأخلاقية المولدة الذكاء الاصطناعي.

ماليزيا حذت حذو جارتها في الحظر، نتيجة إساءة استخدام البرنامج بشكل متكرر لإنشاء صور بذيئة ومسيئة للغاية، ويبدو أنه كان إجراءً وقائيًا، وحثت المستخدمين على الإبلاغ الفوري عن أي محتويات ضارة، وتقديم بلاغات للشرطة عند الاقتضاء، ولن ترفع القيود المفروضة على التطبيق إلا بعد تقديم (إكس) الضمانات اللازمة لمنع إساءة الاستخدام.

الفلبين أيضا انضمت إلى ذلك الحظر بسبب عدة ثغرات في تنظيم المحتوى، ولاسيما المحتوى غير القانوني الذي ينتج دون موافقة أصحابه، والذي يُصوّر أيضا النساء والقاصرين، وتحرك وزير تكنولوجيا المعلومات والاتصالات بناءً على أوامر الرئيس ماركوس الابن، مؤكدين عدم تفعيل التطبيق، حتى يلتزم بسياسة الاستخدام العادل للإنترنت.

من الواضح أن دول آسيان زادت مخاوفها من استخدامات الذكاء الاصطناعي والتزييف العميق دون مُراعاة لخصوصية بيانات المستخدمين ومعلوماتهم والجهات التي يمكنها استخدامها لأغراضٍ تضر بالأفراد والدول، لارتباطها بقضايا تسريب البيانات دون موافقة، والأمن السيبراني وتصميم النماذج والحوكمة.

مؤخرا عانت دول جنوب شرق آسيا من حوادث الاحتيال والجرائم الإلكترونية المرتبطة باستخدام التزييف العميق مع ارتفاع ملحوظ خلال السنوات الأخيرة، وأشار تقرير حديث للأمم المتحدة، استغلال عصابات الجرائم الإلكترونية في جنوب شرق آسيا تقنية التزييف العميق في عام 2023 لتنظيم عمليات احتيال عاطفي، وتزوير العملات المشفرة، وغسيل الأموال، واستولت على نحو 37 مليار دولار.

وشهد الاحتيال باستخدام التزييف العميق في إندونيسيا نموًا ملحوظًا في عام 2024، مرتفعًا بنسبة 1550 % في حالات الاحتيال المدعومة بالذكاء الاصطناعي والمرتبطة بقطاع التكنولوجيا المالية، مما يشكل تحديات كبيرة للخدمات المالية وأنظمة التحقق من الهوية التابعة لها، وأما في سنغافورة، فتشير البيانات إلى ارتفاع حاد في المخاطر التي تواجه الشركات، إذ أبلغت 56 % من الشركات السنغافورية عن حوادث احتيال صوتي باستخدام التزييف العميق، و52 % عن حوادث احتيال فيديو باستخدام التزييف العميق.

وشهد جنوب شرق آسيا عدة حوادث برز فيها استخدام التزييف العميق في التضليل خلال العامين الماضيين، ومن بينها انتشار فيديو زائف للوزير الأول لي هسين لونغ، ينتحل صوته للترويج لمخطط استثماري احتيالي، وفي أبريل الماضي، قدمت الرئيسة السابقة حليمة يعقوب بلاغًا للشرطة بشأن فيديو مزيف يتضمن تعليقات سلبية ملفقة عن الحكومة، فيما كشفت الشرطة الإندونيسية في العام الماضي عن مقطع فيديو بالتقنية ذاتها انتشر على نطاق واسع للرئيس برابوو سوبيانتو، يطالب فيه المواطنين ممن يريدون المساعدة التواصل معه، وكان في حقيقته عملية احتيال مُدبرة.

ومع الحوادث المتكررة في المنطقة، وتزايد الخسائر الاقتصادية الناتجة عن عمليات الاحتيال باستخدام هذه التقنية، كانت دول جنوب شرق آسيا في مقدمة الدول التي تنبهت لخطورة محتوى تطبيق Grok وطالبت الشركة بضرورة اتخاذ الضمانات اللازمة لمنع إساءة الاستخدام.