لم يعد الذكاء الاصطناعي مجرد برمجيات تنتظر أمراً بشرياً لتنفذه؛ فقد انتقل في سنوات قليلة من أدوات مساعدة إلى أنظمة ترتّب أولوياتها وتتخذ قرارات وتنجز مهاماً كاملة بدرجة كبيرة من الاستقلال. ومن هذا المنعطف تحديداً، يرفع مسؤولون وخبراء ومستثمرون تحذيراً واحداً: التفوق الحسابي وحده لن يحدد من يفوز بهذه الموجة، بل قدرة الحكومات والشركات على بناء منظومة ثقة تُبقي الإنسان في موقع صاحب القرار لا متفرجاً على قرار تتخذه الآلة.
أخبار ذات صلة قد تهمك
من أداة تنفذ إلى نظام يقرر: كيف وصلنا إلى لحظة اختبار الثقة؟
بدأت الرحلة من أنظمة قائمة على قواعد ثابتة يكتبها المبرمج سطراً بسطر خلال العقود الأخيرة من القرن الماضي، ثم انتقلت إلى نماذج تعلّم الآلة التي تستخرج الأنماط من البيانات بدلاً من تلقّي التعليمات المباشرة، قبل أن يفتح التعلّم العميق في العقد الثاني من هذا القرن الباب أمام أنظمة توليدية تكتب وتصمم وتحلل. والخطوة الأخيرة — وهي التي فرضت نقاش الثقة اليوم — هي ظهور ما يُعرف بالأنظمة الوكيلية، أي نماذج لا تكتفي بالإجابة عن سؤال، بل تخطط وتنفذ سلسلة خطوات متتابعة نيابة عن المستخدم، وتتصل بأدوات أخرى لتنجز المهمة من أولها إلى آخرها.
وعلى الجانب التنظيمي، لم تكن البداية متأخرة تماماً: فمنظمة التعاون الاقتصادي والتنمية أقرّت مبادئ إرشادية للذكاء الاصطناعي عام 2019، وتبعتها منظمة اليونسكو بتوصية دولية حول أخلاقيات الذكاء الاصطناعي عام 2021، وأصدر المعهد الوطني الأميركي للمعايير والتقنية إطاراً لإدارة مخاطر هذه الأنظمة مطلع 2023. وفي نوفمبر من العام نفسه وقّعت دول عدة ما عُرف بإعلان بليتشلي، ثم جاء قانون الذكاء الاصطناعي الأوروبي الذي دخل حيز النفاذ في أغسطس 2024 ليُطبَّق تدريجياً على مراحل تمتد إلى السنوات التالية. غير أن الفارق الجوهري بين هذه المبادرات وما تفرضه الأنظمة الوكيلية هو أن الأخيرة توزّع الفعل على سلسلة طويلة من الوكلاء والأدوات، فيصبح سؤال «من ارتكب الخطأ؟» أعقد بكثير من سؤال «من كتب الكود؟».
ما الذي يقوله المحذّرون فعلاً؟ محاور ترسم ملامح الأزمة
لا تشير التحذيرات المتصاعدة إلى نقص في القدرات التقنية، بل إلى خلل في البنية المؤسسية التي يفترض أن تحكم استخدامها. فالمسؤولون يخشون أن تتقدم الخدمات على القواعد، والخبراء يحذرون من ثغرات في المساءلة، والمستثمرون يريدون إطاراً واضحاً يستطيعون تسعير المخاطر فيه. وتتلخص أبرز نقاط القلق المشتركة في الآتي:
- الثقة شرط للتبني في القطاعات الحساسة: في التمويل والصحة والقضاء والبنية التحتية، لا يكفي أن يعمل النظام بذكاء، بل يجب أن يكون قابلاً للمراجعة، لأن خطأ واحداً واسع الأثر كفيل بإبطاء اعتماد واسع النطاق.
- الإنسان في الحلقة: المطالبة ليست بإيقاف الآلة، بل بإبقاء نقطة مراجعة بشرية قبل القرارات التي تمسّ الحقوق أو الأموال أو حياة الناس، بحيث يكون التدخل ممكناً قبل التنفيذ لا بعده.
- سلسلة المسؤولية: تحديد الطرف الذي يجيب عن الخطأ — مطوّر النموذج، أم مشغّل النظام، أم الجهة التي استخدمته — ما زال محل خلاف تشريعي في معظم الدول.
- القابلية للتفسير والتدقيق: قدرة الجهة الرقابية على تتبّع سبب القرار لا الاكتفاء بنتيجته، وهو ما يظل محدوداً في النماذج الأكبر حجماً.
- الفجوة بين المعلن والمطبَّق: كثير من الشركات تعلن التزاماً طوعياً بالمبادئ، لكن أدوات القياس والتحقق المستقلة ما زالت في طور التبلور.
والملاحظ أن التحذير جاء من ثلاث فئات في وقت واحد: مسؤولون يملكون سلطة التنظيم، وخبراء يفهمون حدود التقنية، ومستثمرون يضعون المال حيث يجدون يقيناً تنظيمياً. واجتماع هذه الفئات على الرسالة نفسها يمنحها ثقلاً أكبر من أي بيان منفرد، لأنه يعني أن الضغط آتٍ من جهتي العرض والطلب في وقت معاً.
خريطة الأطراف: من يملك القرار ومن يتحمل التبعات؟
الحكومات تعيش ازدواجية صريحة: من جهة تريد جذب الاستثمارات في البنية الحاسوبية والبيانات والمهارات، ومن جهة أخرى تتحمل مسؤولية حماية مواطنيها من قرارات آلية قد تكون تمييزية أو خاطئة. هذا التوتر يفسّر تفاوت النُّهج: دول تتقدم بتشريعات ملزمة، ودول تفضّل مبادئ إرشادية، وأخرى تكتفي بمراقبة التجربة قبل التقييد. وفي كل الحالات، فإن الجهة التي تضع التعريف الدقيق لـ«النظام عالي المخاطر» هي من يملك فعلياً مفتاح الاقتصاد الرقمي في بلدها.
أما الشركات الكبرى فمصلحتها تبدو متناقضة للوهلة الأولى: تطلب تنظيمياً واضحاً، وفي الوقت نفسه تتحفظ على القيود الثقيلة. والسبب عملي؛ فاليقين القانوني — ولو كان صارماً — أفضل من الغموض الذي يفتح الباب لدعاوى قضائية غير متوقعة. كما أن كلفة الالتزام بالتدقيق والتوثيق والرقابة تميل إلى إضعاف اللاعبين الصغار وترسيخ وضع الشركات القادرة على تحمّلها، وهو أثر جانبي يستحق الانتباه في أي نقاش حول المنافسة. وفي المقابل، يقف المستخدم النهائي — الموظف أو المتعامل مع البنك أو المريض — في نهاية السلسلة، وهو الأقل قدرة على التفاوض والأكثر تأثراً بتبعات القرار الآلي.
لماذا تتقدم الآلة على القانون؟ قراءة في فجوة السرعة والتنظيم
السبب الأول بنيوي: النموذج التشريعي يحتاج سنوات من الصياغة والمناقشة والتعديل، بينما تتغير نسخ النماذج خلال أشهر. وحين يصل القانون إلى حيّز النفاذ، يكون قد استُهدف واقعاً تقنياً لم يعد قائماً. والسبب الثاني لغوي: يصعب الاتفاق على تعريفات قابلة للتطبيق — ما هو النظام عالي المخاطر؟ ما حدود الإشراف البشري الكافي؟ — لأن كل تعريف فضفاض يفتح ثغرة، وكل تعريف ضيق يتجاهل حالات مؤثرة.
والسبب الثالث أن التنظيم ما زال وطنياً في جوهره، بينما التقنية عابرة للحدود بطبعهما، فتظهر فجوات بين jurisdictions مختلفة تُغري بنقل التطويرات إلى بيئات أقل صرامة. ولهذا تتجه بعض الجهات إلى أدوات بديلة: بيئات اختبار تنظيمية تسمح بالتجربة تحت إشراف، ومعايير تقنية تُصاغ في هيئات مهنية، وشركات تدقيق مستقلة تمنح شهادات امتثال، ومنتجات تأمين تغطي مخاطر الأخطاء الخوارزمية. هذه الأدوات لا تُغني عن القانون، لكنها تسدّ جزءاً من الفجوة الزمنية التي لا يستطيع المشرّع تجاوزها بسرعة الآلة.
ماذا يعني ذلك على أرض الواقع؟
على المستوى العملي، سيتحوّل الإشراف البشري من شعار إلى وظيفة لها تكلفة: موظف يراجع قرارات نظام منح الائتمان، وآخر يعتمد أو يرفض توصيات النظام في الفرز الطبي، وفريق يوثّق مسار كل قرار قابل للطعن. وفي المقابل، ستصبح الوثائق والمسارات التدقيقية وسجلات القرار عناصر ثابتة في تعاقدات الشركات مع مورّدي الذكاء الاصطناعي، تماماً كما جرى مع معايير حماية البيانات في السنوات الماضية. من يفشل في هذا التحول لا يخسر نزاعاً قانونياً فحسب، بل يخسر ثقة العملاء التي تُعد أصلاً اقتصادياً قائماً بذاته.
وعلى مستوى الاقتصاد الأوسع، تصبح الثقة عاملاً يحدد سرعة التبني، ومن ثمَّ سرعة العائد على الاستثمارات الضخمة في الحوسبة والبيانات. فحين يتأخر التبني في قطاعات كبيرة كالتمويل والصحة والتعليم، يتأخر معه العائد، وقد يُقرأ ذلك لاحقاً كفقاعة لا كمشروع نهضة. وهذا يفسّر لماذا يصرّ المستثمرون على أن ترافق الطفرة التقنية طفرة تنظيمية موازية: لا لأنهم يخشون القوانين، بل لأنهم يخشون غيابها أكثر.
أسئلة شائعة
- لماذا يُقال إن الذكاء الاصطناعي يسبق القوانين؟ لأن دورة تحديث النماذج تُقاس بالأشهر بينما دورة التشريع تُقاس بالسنوات، إضافة إلى صعوبة الاتفاق على تعريفات دقيقة للأنظمة عالية المخاطر.
- من يُسأل قانونياً إذا أخطأ نظام ذكاء اصطناعي؟ لا توجد إجابة موحّدة عالمياً؛ فالمسؤولية تُوزَّع في تشريعات مختلفة بين مطوّر النموذج ومشغّل النظام والجهة المستخدمة، وهو أحد أكبر مصادر الغموض الحالي.
- ما معنى إبقاء الإنسان في مركز القرار؟ يعني وجود مراجعة بشرية فعلية قبل تنفيذ القرارات ذات الأثر على الحقوق أو الأموال أو السلامة، مع توثيق مسار القرار ليصبح قابلاً للطعن والتصحيح.
- هل توجد قوانين ملزمة للذكاء الاصطناعي؟ نعم، أبرزها قانون الذكاء الاصطناعي الأوروبي الذي دخل حيز النفاذ في أغسطس 2024 ويُطبَّق تدريجياً على مراحل، إلى جانب مبادرات ومبادئ إرشادية في دول ومنظمات أخرى.
