د.عبدالله الفايز

أثار بيل غيتس أخيرا جدلا واسعا عندما حذر من أن الذكاء الاصطناعي قد يكون قادرا على دفع أحداث تؤدي إلى مقتل مليار إنسان، وربط ذلك خصوصا بإمكانية إساءة استخدام الذكاء الاصطناعي الذي يعده منافسا له، في تطوير الأسلحة البيولوجية، ودعا إلى مراقبة النماذج المتقدمة ووضع ضوابط واضحة عليها. وهذه ليست المرة الأولى التي تصدر فيها تحذيرات شديدة من شخصيات تقنية بارزة، إلا أن مثل هذه التصريحات تحتاج إلى التمييز بين التحذير من خطر محتمل وبين تقديم تقدير علمي لاحتمال وقوع كارثة بهذا الحجم. وما نعرفه من التقرير المنشور أن غيتس قال إن الذكاء الاصطناعي «قوي بما يكفي» للمساهمة في أحداث قد تسبب مليار وفاة، وهو ادعاء ناقص، فالذكاء بريء من ذلك فهو ما زال في بداياته وتطور إلى الذكاء العام. وهو مساعد يحلل ويعطي الحلول فقط وما زال له هفواته. كما أن العالم مفتون بالذكاء الاصطناعي لدرجة أنهم ينسون أن الذكاء وحده لا يمثل إلا جزئية من وسائل التقنية الرقمية الذكية بل قد تكون الحوسبة الكمومية وتعليم الآلات والتوأمة والخوارزميات أكثر أهمية منه والذكاء الاصطناعي ليس وليد اليوم فهو موجود منذ 1960م. ولكنه لم يصل إلى المرحلة المتقدمة والتي طورتها في كتابي عن نظرية الذكاء التنظيمي الذي يعطيه بعض القدرات والصلاحيات لتنفيذ الأعمال والقرارات في ظل وجود تشريع وضوابط ومراقبة للنماذج المتقدمة. في سياق النقاش المتزايد حول مخاطر إساءة استخدام الذكاء الاصطناعي. وهناك تصحيح تاريخي مهم. بيل غيتس ليس رائد حواسيب آبل ولا مؤسسها. فهي تأسست عام 1976 على يد ستيف جوبز وستيف وزنياك ورونالد واين، بينما أسس غيتس وبول ألن شركة مايكروسوفت عام 1975، وبعدها أصبح من أثرياء العالم. ولكن من صنع تلك التقنيات هم علماء آخرون ومعظمهم أجانب مثل الجندي المجهول ويستحقون أن يمجدوا أكثر من بل غيتس. ولكن الثروة والمجتمع تجعله يصرح بما يريده. لكن من المهم ألا نخلط بين الريادة في تأسيس صناعة البرمجيات الشخصية وبين امتلاك سلطة علمية خاصة على كل فروع الذكاء الاصطناعي وأمنه ومستقبله. فالحقيقة الأوسع هي أن الحوسبة والذكاء الاصطناعي لم يصنعهما شخص واحد. فالتقدم الذي نراه اليوم هو نتيجة تراكم عقود من أعمال علماء الرياضيات وعلوم الحاسوب والهندسة واللغويات والأعصاب والإحصاء والفيزياء، ومن أعمال جامعات وشركات ومراكز بحثية من دول مختلفة. ولذلك فإن الشهرالتاريخية في صناعة البرمجيات لا تجعل أي شخص، مهما بلغت مكانته، قادرا وحده على إصدار حكم علمي نهائي حول مستقبل الذكاء الاصطناعي. وهنا يأتي السؤال الأهم في تصريحات غيتس: هل الذكاء الاصطناعي نفسه هو الذي سيقتل البشر، أم أن الخطر الحقيقي يكمن في الإنسان الذي يملك الذكاء الاصطناعي ويحدد له ما يستطيع أن يفعله؟ هذا التمييز أساسي. فالذكاء الاصطناعي في جوهره منظومة صنعها الإنسان. الإنسان هو الذي يحدد أهداف النموذج، ويدربه، ويضع له القيود، ويمنحه البيانات، ويربطه بالأدوات والأنظمة الخارجية، ويحدد مستوى الوصول والصلاحيات. ومن الناحية الهندسية يمكن بالفعل برمجته وبناء طبقات من الضوابط تمنع النظام من الانتقال مباشرة من التحليل إلى التنفيذ. وبرمجته ليعطي إنذارا قبل القيام بأي عمل تخريبي. ويمكن وضع صلاحيات محددة، ومراقبة مستمرة، وسجلات تدقيق، وحدود وصول، وآليات إيقاف، وموافقات بشرية، وشروط مسبقة لتنفيذ الأفعال الحساسة. وهذا يقود إلى فكرة أساسية في نظريتي عن «الذكاء المنظومي Systemic Intelligence ومابعد الذكاء العموميAGI» والتي طرحتها في كتابي. فقد يستطيع النظام أن يكتشف مشكلة، ويحدد حلا، ويحسن قرارا، وربما يستطيع تقنيا تنفيذه، ولكن ذلك لا يعني أنه مخول بتنفيذه. ولهذا فإنني أميز بين عمل الذكاء: الذكاء ثم القرار ثم إعطاء الصلاحية ثم التنفيذ. فالذكاء ليس قرارا، والقرار ليس تفويضا، والتفويض ليس تنفيذا. وقد يكون النظام شديد الذكاء، لكنه لا يستطيع تنفيذ فعل معين إلا إذا كان داخل نطاق الصلاحية المحددة له. ويبقى موضوع الأمن السيبراني وإمكانية أن يقوم مخرب ومجرم بإعادة برمجته وهذا أمر يمكن أن يقوم به المخرب لمعظم الأجهزة الحالية مثل الأسلحة التقنية وغيرها، وليس محصورا على الذكاء الاصطناعي

فإذا كان النظام مصمما لكي يكتشف احتمال حدوث فعل ضار، فمن الممكن أن تكون لديه طبقة مستقلة لتقييم المخاطر. وإذا تجاوز الفعل حدودا معينة، يمكن أن ينتقل النظام من التنفيذ إلى التنبيه والتصعيد إلى الإنسان المسؤول. ويمكن أن تكون بعض العمليات مسموحة تلقائيا لأنها منخفضة المخاطر، بينما تتطلب العمليات الأخرى موافقة صريحة. وهذا هو مفهوم «الاستقلالية المسبقة التفويض» والتي عالجتها في نظريتي: لا يعطى النظام سلطة مطلقة، وإنما يحدد له مسبقا ما يستطيع فعله، وفي أي ظروف، وما الذي يتطلب الرجوع إلى الإنسان. وبذلك يمكن تشبيه الذكاء الاصطناعي بدرجة معينة من التشابه مع وسائل وأسلحة وتقنيات أخرى: امتلاك القدرة لا يعني تلقائيا استخدامها. السلاح لا يطلق النار لمجرد أنه سلاح؛ والطائرة الآلية لا تغير مسارها في كل ظرف إلا وفق أنظمة وأوامر وصلاحيات محددة؛ والمنشأة الصناعية لا تغير عملياتها الحساسة بلا حدود؛ والأنظمة المالية لا تستطيع تحويل الأموال إلى أي مكان لمجرد أنها قادرة تقنيا على ذلك. الفكرة الأساسية هي أن القدرة التقنية يجب أن تكون محكومة بحدود تشغيلية وقانونية ومؤسسية. لكن هنا ينبغي أيضا ألا نذهب إلى الطرف المقابل ونفترض أن وجود الإنسان في الحلقة يحل المشكلة بالكامل، فهو من يقر ما يقوم به الذكاء. وليس الذكاء نفسه. الأنظمة الحديثة يمكن أن تعمل بدرجات كبيرة من الاستقلالية داخل الصلاحيات التي منحت لها، ولذلك فإن الخطر لا يتطلب بالضرورة إنسانا يضغط زرا لكل خطوة. إذا منحت منظومة برمجية صلاحيات واسعة وأدوات متعددة وقدرة على اتخاذ إجراءات متسلسلة، فإنها قد تنفذ قرارات ضمن تلك الصلاحيات بصورة آلية. ولذلك فإن المسألة ليست ببساطة «إنسان يضغط الزناد أو لا يضغطه»، وإنما من منح النظام القدرة، وما حدودها، ومن يراقبها، ومتى تتوقف، ومن يستطيع إلغاءها؟

في نظري أن المشكلة ليست أن الذكاء الاصطناعي سيستيقظ يوما ويقرر من تلقاء نفسه إمكانية قتل مليار إنسان كما في أفلام الخيال العلمي. المشكلة الأكثر واقعية هي أن البشر قد يربطون أنظمة شديدة القدرة بأنظمة حيوية ويمنحونها أهدافا أو صلاحيات أو أدوات واسعة، ثم يفشلون في توقع كل التفاعلات التي يمكن أن تنتج عنها. ولذلك فإن المخاطر الحقيقية لا تنحصر في «ذكاء الآلة»، بل في الهندسة السيئة، والصلاحيات الزائدة، وسوء الاستخدام، والأخطاء، والثغرات، وسوء الأهداف، والصراع بين البشر، وغياب الرقابة، وارتباط أنظمة متعددة بعضها ببعض. ومن هذه الزاوية فإن عبارة غيتس بأن الخطر يصبح أكبر عندما يجتمع الذكاء الاصطناعي مع أشخاص ذوي نيات سيئة لها أساس منطقي، لأن النظام يمكن أن يصبح أداة تضخم قدرة الإنسان. وقد رصدت حالات استخدام محتملة في مجال الأبحاث البيولوجية ذات الاستخدام المزدوج، مع إقرار الشركة نفسها بأنها لم تستطع دائما معرفة ما إذا كانت النية مشروعة أم ضارة. وهذه نقطة مهمة لأنها تؤكد أن المشكلة ليست فقط «ذكاء شريرا»، بل أيضا صعوبة التمييز بين الاستخدام البشري العلمي المشروع والاستخدام الضار للتقنية نفسها.

كما أن عبارة «مليار قتيل» رقم هائل يحتاج إلى نموذج واحتمالات وسلسلة سببية حتى يتحول من سيناريو تخيلي إلى تقدير علمي. القول إن نظاما ما يمكن أن يسهم في حدث يؤدي إلى مليار وفاة لا يعني أن احتمال حدوث ذلك مرتفع، ولا يعني أن ذلك سيحدث، ولا يحدد كيف سيحدث أو خلال أي فترة زمنية. ولهذا ينبغي التعامل مع الرقم باعتباره سيناريو لحجم الخطر المحتمل وليس توقعا إحصائيا موثوقا ما لم يصاحبه نموذج احتمالي وأدلة تجريبية. ومن النقاط التي تحتاج إلى مزيد من الانتباه أيضا أن الذكاء الاصطناعي ليس كيانا واحدا. فهناك نماذج لغوية، وأنظمة رؤية، ونماذج تنبؤ، ووكلاء، وروبوتات، وأنظمة تحكم، وأنظمة تحليل علمي، وكل منها يملك قدرات وحدودا مختلفة. ولذلك فإن الحديث عن «الذكاء الاصطناعي» كما لو كان عقلا واحدا عالميا قد يؤدي إلى تضخيم التصور أكثر مما يساعد على فهم المشكلة. والأهم من ذلك أن الأنظمة الآمنة لا تعتمد على خوارزمية واحدة تقول «لا تفعل الشر». الحماية الحقيقية ينبغي أن تكون متعددة الطبقات: تصميم النظام نفسه، حدود الصلاحيات، فصل التحليل عن التنفيذ، المراقبة، التحقق، التسجيل، الاختبار، إدارة الهوية والوصول، التدقيق المستمر، آليات الإيقاف، والرقابة البشرية والمؤسسية. أي أن سلامة النظام يجب أن تكون هندسة منظومة وليست مجرد خاصية داخل نموذج الذكاء الاصطناعي. وهنا تتضح أهمية نظريتي «الذكاء المنظومي» بصورة أكبر. فإذا كانت المشكلة التي يخشاها غيتس هي أن الذكاء الاصطناعي قد يصبح شديد القدرة، فإن الحل لا يكون فقط بجعل النموذج أكثر ذكاء في اكتشاف الخطأ، وإنما ببناء نظام أكثر ذكاء في إدارة الذكاء نفسه. النظام يجب أن يعرف ماذا يفعل، ولماذا يفعله، ومن يملك حق السماح به، ومتى يتوقف، وكيف يراجع النتائج، وماذا يفعل عندما تختلف النتائج عن المتوقع.

وهذا يقود إلى المبدأ الذي يمثل أحد أسس نظريتي، فقد تكون الآلة قادرة على العمل بصورة مستقلة، ولكن استقلال التشغيل لا يعني استقلال السلطة. ويمكن أن تكون هناك أنظمة ذات استقلالية عالية في الأعمال اليومية، بينما تبقى القرارات عالية الخطورة خاضعة لسلطة بشرية أو مؤسسية محددة. ومن هنا اختلف مع الصورة التي تجعل مستقبل الذكاء الاصطناعي مجرد سباق بين «آلة تصبح أذكى من الإنسان» وبين «إنسان يحاول إيقافها». المستقبل المحتمل أكثر تعقيدا. نحن نتجه إلى عالم توجد فيه نماذج ذكاء اصطناعي، ووكلاء مستقلون، وروبوتات، ومركبات ذاتية، وبنى تحتية ذكية، وشبكات كهرباء، ومؤسسات رقمية، وأنظمة حكومية، ومنصات اقتصادية تعمل معا. ولذلك فإن الخطر الأكبر قد لا يأتي من آلة واحدة خارقة، وإنما من تفاعل عدد كبير من الأنظمة الذكية داخل نظام أكبر لا يفهم أحد جميع علاقاته بصورة كاملة. وهذا تحديدا هو السؤال الذي تحاول نظريتي أن تجيب عنه. فالذكاء الاصطناعي يزيد قدرة الكيان، وAGI، قد يزيد عمومية ذكائه، والوكلاء يزيدون قدرته على الفعل، والروبوتات تمنحه وجودا ماديا، ولكن كلما زاد عدد الكيانات الذكية واتسعت صلاحياتها أصبحت الحاجة إلى التنسيق والحوكمة والربط بينها أكبر. ولذلك فإن مستقبل الذكاء ليس فقط في بناء آلة أذكى، بل في بناء نظام أكثر ذكاء في تنظيم الآلات والبشر والمؤسسات.

ومن هذا المنظور، يمكن أن يكون السؤال الصحيح بدلا من «هل يستطيع الذكاء الاصطناعي قتل مليار إنسان؟» هو: من يحدد أهدافه؟ من يمنحه الصلاحيات؟ من يراقب قراراته؟ من يستطيع إيقافه؟ ماذا يحدث عندما تتعارض أنظمة متعددة؟ ومن يتحمل المسؤولية عندما تنتقل النتيجة من قرار رقمي إلى فعل في العالم الحقيقي؟ وهذه الأسئلة، في تقديري، أكثر أهمية من الرقم المثير الذي ورد في تصريح غيتس. فالذكاء الاصطناعي لا يحتاج إلى أن يكون «شريرا» حتى يصبح خطرا؛ يكفي أن يكون قويا، متصلا، واسع الصلاحيات، سيئ الحوكمة، أو موضوعا داخل نظام لا يستطيع البشر فهمه ومراقبته بصورة كافية. وفي المقابل، لا ينبغي أن نعامل الذكاء الاصطناعي وكأنه قوة خارقة لا يمكن التحكم فيها. فهو في النهاية تكنولوجيا بشرية، ويمكن تصميم حدودها، وتحديد صلاحياتها، وفصل قدراتها عن التنفيذ، وإخضاعها للمراقبة والمساءلة. ولهذا فإنني أرى أن التحذير من مخاطر الذكاء الاصطناعي مشروع، لكن اختزال المستقبل في سيناريو «مليار قتيل» قد يبعد النقاش عن المشكلة الأكثر واقعية. التحدي الحقيقي ليس أن نمنع الآلة من أن تصبح ذكية، وإنما أن نتأكد من أن زيادة ذكائها لا تعني زيادة سلطتها بلا حدود. وهذا هو الفارق بين بناء آلة ذكية وبناء نظام ذكي: الأول يهتم بالقدرة، أما الثاني فيهتم بالقدرة والغاية والصلاحية والتنفيذ والمراقبة والتعلم والمسؤولية في آن واحد.