د. عمر بن أحمد مسملي

عندما يسمع بعضهم اسم المركز الدولي لأبحاث وأخلاقيات الذكاء الاصطناعي، قد يتبادر إلى الذهن أنه مركز يهتم بالأبحاث والمؤتمرات والندوات المتخصصة، وأن موضوع أخلاقيات الذكاء الاصطناعي يخص الباحثين والمبرمجين أكثر مما يخص المواطن العادي. لكن الحقيقة قد تكون مختلفة تمامًا، فإذا نجح هذا المركز في أداء دوره، فمن المفترض أن يصل أثره مستقبلًا إلى المدرسة والمستشفى والجامعة والوظيفة والخدمات الحكومية والبنوك والمتاجر وحتى الهاتف الذي نحمله معنا طوال اليوم، لأن أخلاقيات الذكاء الاصطناعي ليست نقاشًا فلسفيًا عن الخير والشر، وإنما سؤال عملي جدًا: ماذا يحدث عندما نعطي الآلة قدرة أكبر على التأثير في قراراتنا وحياتنا؟

لنبدأ من التعليم فاليوم يستطيع الطالب أن يطلب من أحد تطبيقات الذكاء الاصطناعي حل واجبه بالكامل خلال ثوانٍ. ويستطيع التطبيق كتابة البحث والإجابة عن الأسئلة وبرمجة المشروع، بل وتقليد مستوى الطالب في الكتابة إذا طلب منه ذلك. فهل هذا تعلم أم غش؟ الإجابة ليست دائمًا بسيطة. إذا استخدم الطالب الذكاء الاصطناعي لكي يشرح له مسألة لم يفهمها، فهو يتعلم. وإذا طلب منه توليد خمسة تمارين إضافية للتدرب عليها، فهو يستفيد من التقنية. لكن إذا طلب منه حل الواجب كاملًا ثم سلّمه باسمه، فقد تحولت الأداة من مساعد للتعلم إلى بديل عن التعلم. وهنا نحتاج إلى قواعد أكثر ذكاءً من مجرد (مسموح) أو (ممنوع). ويمكن للمركز بالتعاون مع وزارة التعليم والجامعات أن يقود تطوير إطار سعودي واضح يحدد متى وكيف يستخدم الطلاب والمعلمون الذكاء الاصطناعي، ليس بهدف ملاحقة الطلاب، وإنما لإعادة تعريف التعليم نفسه. فإذا أصبحت الآلة قادرة على حفظ المعلومات واسترجاعها وكتابتها أسرع من الإنسان، فما جدوى أن نستمر في بناء الاختبارات والواجبات التي تقيس هذه القدرة تحديدًا؟ ربما يجب أن نركز بصورة أكبر على التفكير والتحليل والنقد والمناقشة والدفاع عن الأفكار، وربما تصبح بعض الاختبارات شفوية، وبعض المشاريع قائمة على تفسير خطوات العمل، وليس فقط تسليم النتيجة النهائية. بهذا المعنى، يمكن للمركز أن يساعد التعليم السعودي ليس على مقاومة الذكاء الاصطناعي، وإنما على التكيف الذكي معه. والأمر نفسه ينطبق على الجامعات والبحث العلمي. فالباحث اليوم يستطيع أن يستخدم الذكاء الاصطناعي لتلخيص عشرات الدراسات أو تحليل البيانات أو المساعدة في البرمجة أو تحسين اللغة. وهذه فوائد حقيقية، لكن المشكلة تبدأ عندما يولد النظام مراجع علمية غير موجودة، أو يكتب الباحث أجزاء كاملة دون أن يفصح عن ذلك، أو تُدخل بيانات بحثية حساسة إلى أنظمة خارجية، وهنا نحتاج إلى دليل وطني واضح لأخلاقيات استخدام الذكاء الاصطناعي في البحث العلمي؛ يحدد ما يجوز وما لا يجوز، ومتى يجب الإفصاح عن استخدامه، ومن يتحمل المسؤولية عن الأخطاء التي يولدها.

لكن ربما يكون القطاع الصحي هو المكان الذي تظهر فيه أهمية هذه القضية بأوضح صورها. الذكاء الاصطناعي أصبح قادرًا على تحليل الأشعة والصور الطبية والمساعدة في اكتشاف بعض الأمراض والتنبؤ بالمخاطر الصحية. ومن المتوقع أن يتوسع استخدامه بصورة كبيرة خلال السنوات القادمة. وهذا أمر رائع، لكنه يطرح سؤالًا بسيطًا وصعبًا في الوقت نفسه: ماذا لو أخطأ؟ إذا قال النظام إن الصورة سليمة بينما كان المريض مصابًا بمرض خطير، فمن يتحمل المسؤولية؟ ولذلك يمكن للمركز أن يعمل مع الجهات الصحية والتنظيمية على وضع معايير لاستخدام الذكاء الاصطناعي الطبي، من بينها تحديد القرارات التي لا يجوز تركها للآلة وحدها، وكيف يتم اختبار الأنظمة قبل استخدامها مع المرضى، وكيف يتم التأكد من أنها تعمل بالكفاءة نفسها على مختلف الفئات. فالخوارزمية قد تكون دقيقة في المتوسط، لكنها أقل دقة على مجموعة معينة لأن البيانات التي تدربت عليها لم تمثل تلك المجموعة بالشكل الكافي. وهذه ليست قضية تقنية فقط، وإنما قضية عدالة.

أما في الخدمات الحكومية، فإن المسألة ربما تكون أكثر حساسية. السعودية قطعت شوطًا كبيرًا في التحول الرقمي، وهذا يجعلها في موقع ممتاز للانتقال إلى مرحلة أكثر تقدمًا تستخدم فيها أنظمة ووكلاء الذكاء الاصطناعي لتقديم الخدمات واتخاذ بعض القرارات أو التوصيات. لكن كلما أصبح النظام أذكى، يجب أن يصبح حق المواطن في معرفة سبب القرار أكثر وضوحًا. إذا رُفض طلب ما، فلا ينبغي أن تكون الإجابة هكذا قررت الخوارزمية. وإذا أعطى النظام أولوية لشخص على آخر، فيجب أن نعرف المعايير التي استخدمها، وأن نتأكد من عدم وجود تحيز غير مقصود، ولهذا أعتقد أن أحد أهم المشاريع التي يستطيع المركز تبنيها هو التدقيق الأخلاقي للخوارزميات الحكومية، كما نفحص الأنظمة تقنيًا للتأكد من أمنها السيبراني، يمكن أن نفحصها أخلاقيًا قبل استخدامها على نطاق واسع: هل هي عادلة؟ هل يمكن تفسير قراراتها؟ هل تجمع بيانات أكثر مما تحتاج؟ هل يستطيع الإنسان الاعتراض على القرار؟ ويمكن أن يصبح هذا النوع من التدقيق جزءًا طبيعيًا من دورة تطوير الأنظمة الحكومية في المستقبل.

ثم هناك الأسرة والأطفال، وهي قضية ربما لم تحصل حتى الآن على الاهتمام الكافي. الأطفال اليوم يتعاملون مع أنظمة تستطيع التحدث معهم بصورة طبيعية جدًا، وقد تنشأ علاقة طويلة بينهم وبين مساعدين افتراضيين يفهمون اهتماماتهم ويعرفون أسئلتهم وربما مخاوفهم. ما البيانات التي يجب السماح لهذه الأنظمة بجمعها عن الطفل؟ وكيف يجب أن تتحدث معه؟ ومتى ينبغي أن تتوقف عن تقديم إجابة وتحيله إلى والديه أو إلى مختص بشري؟ هذه أسئلة جديدة لم تكن الأسرة مضطرة إلى التفكير فيها قبل سنوات قليلة. كما أن التزييف العميق يفتح بابًا آخر من التحديات. أصبح من الممكن تقليد صوت الأب أو الأم، وصناعة مقطع فيديو لشخص لم يقله ولم يفعله، وتوليد صور واقعية بصورة متزايدة. ولذلك نحتاج إلى نوع جديد من الثقافة المجتمعية. في الماضي كنا نقول لأطفالنا: لا تصدق كل ما تقرأه على الإنترنت. وربما أصبح علينا الآن أن نقول: لا تصدق كل ما تراه أو تسمعه أيضًا، وهنا يمكن للمركز أن يقود برامج للتوعية بما يمكن تسميته (محو أمية الذكاء الاصطناعي)، بحيث يتعلم الطالب والمواطن كيف يتحقق من المعلومات، وكيف يميز المحتوى الاصطناعي، وكيف يفهم أن بعض الأنظمة مصممة للتأثير في سلوكه وليس فقط لخدمته.

وللقطاع الخاص نصيب كبير أيضًا. فالشركات السعودية ستستخدم الذكاء الاصطناعي في خدمة العملاء وتحليل البيانات والتسويق وإدارة الموظفين والقرارات المالية. وكل استخدام من هذه الاستخدامات قد يحمل مخاطر مختلفة. لكن بدل أن نتعامل مع الأخلاقيات بوصفها مجموعة قيود جديدة، يمكن تحويلها إلى ميزة تنافسية. تخيل وجود شهادة وطنية تمنح للمنتجات التي تجتاز اختبارات محددة للخصوصية والعدالة والأمان والشفافية، تحمل مثلًا مفهوم (ذكاء اصطناعي أخلاقي)، قد تبدو الفكرة اختيارية في البداية، لكنها يمكن أن تتحول لاحقًا إلى معيار ثقة، بحيث يفضل المستهلك أو الجهة الحكومية التعامل مع الأنظمة التي اجتازت هذه الاختبارات. وهكذا تتحول الأخلاقيات من تكلفة إلى قيمة اقتصادية.

ولدي اقتراح آخر أراه مهمًا جدًا: إنشاء مرصد لحوادث الذكاء الاصطناعي في السعودية، فكلما ظهرت حالة تزييف عميق خطيرة، أو قرار خوارزمي متحيز، أو خطأ طبي مرتبط بنظام ذكي، أو تسرب بيانات بسبب استخدام تطبيق للذكاء الاصطناعي، يتم توثيقها ودراستها بصورة علمية. ليس بهدف البحث عن مذنب في كل مرة، وإنما بهدف التعلم. قطاع الطيران مثلاً أصبح أكثر أمانًا لأن الحوادث والأخطاء تتم دراستها بتفصيل كبير، وتتحول نتائج التحقيقات إلى تعديلات في الأنظمة والإجراءات والتدريب. لماذا لا نفعل الشيء نفسه مع الذكاء الاصطناعي؟ ومع تراكم البيانات يمكن أن نكتشف المخاطر قبل أن تتحول إلى ظواهر واسعة. لهذا فإن قيمة المركز في رأيي لن تُقاس بعدد المؤتمرات التي ينظمها، ولا بعدد التقارير التي يصدرها، رغم أهمية ذلك كله. الاختبار الحقيقي أبسط من ذلك بكثير.

هل سيعرف المعلم ماذا يسمح لطالبه أن يفعل بالذكاء الاصطناعي؟

هل سيعرف الطبيب متى يعتمد على النظام ومتى لا يعتمد عليه؟

هل يستطيع المواطن الاعتراض على قرار اتخذته خوارزمية؟

هل تعرف الأسرة كيف تحمي طفلها؟

هل تستطيع الشركة إثبات أن نظامها عادل وآمن؟

وهل يجد الباحث السعودي بيئة علمية تساعده على الإجابة عن هذه الأسئلة؟

إذا استطعنا الإجابة بـ«نعم»، فسيكون المركز قد نجح في شيء أكبر بكثير من دراسة أخلاقيات الذكاء الاصطناعي. سيكون قد ساهم في جعل الذكاء الاصطناعي جزءًا من حياتنا، لكن بشروطنا نحن، وبما يخدم الإنسان قبل التقنية. فالهدف في النهاية ليس أن نوقف الذكاء الاصطناعي، ولا أن نخاف منه، وإنما أن نصل إلى معادلة تبدو بسيطة في الكلمات وصعبة جدًا في التطبيق أن نستفيد من كل ما يستطيع الذكاء الاصطناعي أن يقدمه، دون أن نخسر في المقابل العدالة والخصوصية والثقة والمسؤولية الإنسانية. وهنا تحديدًا يمكن أن تكون القيمة الحقيقية للمركز الدولي لأبحاث وأخلاقيات الذكاء الاصطناعي في السعودية.

** **

# (أكاديمي وباحث في الذكاء الاصطناعي)