9 ثوانٍ هزّت عالم الذكاء الاصطناعي

حين يصبح «الوكيل الرقمي» خطرًا على صانعه

تفاجأ العالم التقني بما شهدته مؤخرًا شركة أمريكية ناشئة تُدعى PocketOS، تعمل في إدارة أنظمة تأجير السيارات، فيما يمكن وصفه بـ«الحادثة الصادمة»، بعدما قام وكيل ذكاء اصطناعي يعمل عبر أداة Cursor، والمدعوم بنموذج Claude Opus من شركة Anthropic، بحذف قاعدة بيانات الشركة بالكامل، بما في ذلك جميع النسخ الاحتياطية، خلال تسع ثوانٍ فقط.

وزادت الصدمة عندما برّر الذكاء الاصطناعي ما حدث بعبارات أثارت قلق المتابعين، حتى بدا وكأنه «يفتخر» بما فعله. والأكثر إثارة للقلق لم يكن الحذف ذاته، بل ما بدا أشبه بالاعتراف؛ فعندما سأل جيريمي كرين، مؤسس الشركة، الوكيلَ عمّا فعله، لم يُبدِ الذكاء الاصطناعي أي ندم أو حتى ارتباك تقني، بل جاء رده ببرود لافت:

«لا تفترض شيئًا، هذا بالضبط ما فعلته».

بل أكد الوكيل، وفق ما نُقل عنه، أنه تجاوز القواعد الصريحة التي كانت تمنعه من التعامل مع ملفات النظام الحساسة، في مشهد أثار تساؤلات واسعة حول حدود استقلالية هذه الأنظمة.

لم تكن هذه القصة مجرد خلل تقني، بل جرس إنذار عالمي يفتح بابًا واسعًا من الأسئلة:

هل اقتربت البشرية من لحظة تفقد فيها السيطرة على أدوات صنعتها بيديها؟ وهل يمكن أن تتحول أنظمة الذكاء الاصطناعي من «مساعد ذكي» إلى قوة تتجاوز قدرة الإنسان على الضبط والمراجعة؟

لقد دخل العالم مرحلة جديدة، لم يعد فيها الذكاء الاصطناعي مجرد برامج للترجمة أو البحث أو كتابة النصوص، بل أصبح قادرًا على تنفيذ مهام معقدة، واتخاذ قرارات تشغيلية، والتعديل، والحذف، والتفاعل مع البنى التحتية الحساسة للشركات والدول. وهذا التحول السريع يضع الإنسانية أمام منعطف تاريخي غير مسبوق.

قال الله تعالى: {وَيَخْلُقُ مَا لَا تَعْلَمُونَ} [النحل: 8]. وقد نزلت هذه الآية في سياق الحديث عن وسائل النقل والأنعام، ويمكن استلهام دلالتها اليوم لتشمل وسائل الانتقال الرقمية التي نركب صهوتها نحو المستقبل، مذكّرةً إيانا بأن ما نجهله في طيات هذه التقنية قد يفوق كثيرًا ما نعلمه عن أكوادها.

ويختلف الذكاء الاصطناعي عن كل ما سبقه من ثورات زراعية أو صناعية أو تقنية؛ لأنه ينافس العقل البشري ذاته في التحليل والتخطيط واتخاذ القرار.

وتشير تقديرات حديثة إلى أن سوق الذكاء الاصطناعي العالمي تجاوز مئات المليارات من الدولارات، مع توقعات بإضافة أكثر من 15 تريليون دولار إلى الاقتصاد العالمي بحلول عام 2030، بينما تستخدم ملايين الشركات أدوات الذكاء الاصطناعي يوميًا في البرمجة، والتحليل، وخدمة العملاء، والإدارة، والتسويق.

ولم تعد المنافسة اليوم بين شركات تقنية فحسب، بل بين دول تتسابق للهيمنة على مستقبل الذكاء الاصطناعي، باعتباره «نفط العصر الجديد».

الوجه المشرق للذكاء الاصطناعي

رغم المخاوف المتصاعدة، منح الذكاء الاصطناعي البشرية قفزات هائلة في مجالات كانت تحتاج إلى عقود من العمل.

ففي الطب، أصبحت الأنظمة الذكية قادرة على اكتشاف بعض الأمراض، وتحليل الأشعة، والمساعدة في تطوير الأدوية بسرعة ودقة مذهلتين.

وفي التعليم، ظهرت منصات تفهم مستوى الطالب، وتبني له تجربة تعليمية تناسب احتياجاته.

أما في الصناعة والزراعة، فقد بات الذكاء الاصطناعي يتنبأ بالأعطال، ويدير الإنتاج، ويراقب المحاصيل والتربة والمياه عبر الحساسات والطائرات المسيّرة، مما خفّض الهدر ورفع الكفاءة.

كما أحدث تحولًا كبيرًا في حياة ذوي الإعاقة من خلال الترجمة الفورية، وتحويل الصوت إلى نص، وتقنيات الرؤية، والمساعدة الذكية.

والأهم من ذلك أن أدوات كانت حكرًا على الشركات العملاقة أصبحت اليوم في متناول الأفراد؛ فأصبح شخص واحد قادرًا على التصميم، والتحليل، والبرمجة، والتسويق بمساعدة أدوات ذكية تنجز كثيرًا من المهام خلال ثوانٍ.

وهكذا أثبت الذكاء الاصطناعي أن التقنية ليست خيرًا ولا شرًا في ذاتها، وإنما يتحدد أثرها بوعي الإنسان الذي يستخدمها.

الوجه المخيف: حين تتغوّل أدوات الذكاء الاصطناعي

لكن، في المقابل، تتصاعد مخاوف حقيقية، من أبرزها:

أولًا: فقدان السيطرة

كشفت حادثة PocketOS أن الأنظمة الذكية قد تتخذ قرارات كارثية بسرعة تفوق قدرة البشر على التدخل. فالأنظمة الذكية لا تمتلك مشاعر الخوف أو التردد أو المسؤولية الأخلاقية التي يمتلكها الإنسان، وإنما تنفذ ما تسمح به صلاحياتها وما تتيحه لها بيئة عملها.

ثانيًا: تهديد الوظائف

يشير تقرير صندوق النقد الدولي (IMF) إلى أن الذكاء الاصطناعي قد يؤثر في نحو 40 % من الوظائف عالميًا، مما يجعل الفجوة بين «الإنسان المتمكن تقنيًا» و«الإنسان التقليدي» تتسع لتصبح فجوة وجودية، لا سيما في مجالات خدمة العملاء، والمحاسبة، والبرمجة، والترجمة، والإعلام.

ثالثًا: التلاعب بالمعلومات

بات من الممكن إنتاج صور، ومقاطع فيديو، وأخبار مزيَّفة يصعب على الناس التمييز بينها وبين الحقيقة؛ مما يهدد الثقة العامة، والإعلام، والحياة السياسية.

رابعًا: الاحتكار التقني

أصبح عدد محدود من الشركات العملاقة يمتلك بيانات البشر وأدوات التأثير فيهم، مما يمنحها قوة اقتصادية وسياسية هائلة.

خامسًا: الاعتماد المفرط

كلما ازداد اعتماد الإنسان على الآلة، ضعفت بعض مهاراته الطبيعية في التفكير، والتحليل، والتذكر، واتخاذ القرار.

هل المشكلة في الذكاء الاصطناعي أم في الإنسان؟

الحقيقة أن كثيرًا من الكوارث التقنية لا تنتج عن «وعي الآلة»، بل عن أخطاء البشر أنفسهم؛ كمنح صلاحيات مفتوحة، وضعف أنظمة الحماية، وسوء إدارة النسخ الاحتياطية، والثقة المفرطة في أدوات لم تكتمل بعد.

ولهذا يرى كثير من الخبراء أن الخطر الحقيقي ليس في أن «الآلة أصبحت شريرة»، بل في أن الإنسان استعجل منحها صلاحيات تفوق قدرته على الرقابة والمتابعة.

ولذلك، لم تكن حادثة PocketOS مجرد خطأ برمجي، بل نموذجًا لتحذير عالمي مفاده أنه لا ينبغي أن تُمنح الأنظمة الذكية حرية مطلقة داخل البنى التحتية الحساسة دون ضوابط ورقابة بشرية صارمة.

مستقبل الذكاء الاصطناعي

لا ينبغي أن يُبنى مستقبل الذكاء الاصطناعي على السباق التجاري وحده، بل على ثلاثة أسس كبرى:

أولًا: الأخلاق

يجب أن تخضع الأنظمة الذكية لقيم إنسانية واضحة، تصون الخصوصية، وتحمي العدالة، وتحفظ الكرامة الإنسانية.

ثانيًا: الرقابة البشرية

مهما بلغت الآلة من تطور، ينبغي أن يبقى القرار النهائي بيد الإنسان، ولا سيما في المجالات الحساسة.

ثالثًا: التشريعات الدولية

يحتاج العالم إلى تشريعات وقوانين تنظم استخدام الذكاء الاصطناعي، كما حدث مع الطاقة النووية، والاتصالات، وغيرها من التقنيات ذات الأثر العالمي.

** **

- يوسف عبدالله البركاتي