خبراء يطلقون تحذيرات قاتمة: الذكاء الاصطناعي قد يقود إلى كارثة وجودية للبشر

أطلق موظفون حاليون وسابقون في مختبرات الذكاء الاصطناعي الأميركية، بالإضافة إلى قادة هذه المختبرات، تحذيرات قاتمة بشأن كارثة وشيكة قد تسببها هذه التقنية المتطورة. وأكد أليكس كراسودومسكي، الباحث البريطاني البارز والخبير في الإعلام الرقمي والذكاء الاصطناعي وتقنيات الاتصال، أن تحذيرات شركات مثل "أنثروبيك" من خطورة الذكاء الاصطناعي يجب أن تؤخذ بجدية بالغة. ومع ذلك، شدد كراسودومسكي، مدير برنامج المجتمع الرقمي في معهد "تشاتام هاوس" (المعهد الملكي للشؤون الدولية البريطاني)، على عدم استغلال هذه المخاوف كذريعة لتعزيز هيمنة المختبرات الأميركية أو لتصعيد التنافس مع بكين، وذلك في تقرير صدر عن المعهد. وحذر موظف سابق بأحد المختبرات من أن التطور غير المتحكم فيه للذكاء الاصطناعي قد يؤدي إلى "موت الجميع في المستقبل القريب". عقب ذلك، اقترح داريو أمودي، الرئيس التنفيذي لشركة "أنثروبيك" للذكاء الاصطناعي، إبطاء وتيرة التطوير لضمان سلامة هذه التقنية. وقد لاقى هذا المقترح دعم قادة مختبرات أخرى بارزين، منهم سام ألتمان وإيلون ماسك. وأشار كراسودومسكي إلى أن أي مراقب لقطاع الذكاء الاصطناعي لا يمكنه الاعتراض على ضرورة التركيز بشكل أكبر على السلامة خلال مراحل تطوير ونشر هذه التقنية. لكنه حذر من أن الاهتمام المتجدد بالمخاطر بعيدة الأمد للذكاء الاصطناعي يجب ألا يصرف الانتباه عن الآثار الحالية للتقنية. كما يجب عدم استخدام هذه القضية كأداة للقضاء على المنافسين للشركات الأميركية الرائدة حالياً في هذا المجال. وأكد أنه لا يمكن معالجة هذه المسألة بفعالية دون التوصل إلى اتفاق نوعي بين الولايات المتحدة والصين. تتركز هذه التحذيرات الجديدة حول مفهوم "التحسين الذاتي المتكرر"، وهو نهج لتدريب نماذج الذكاء الاصطناعي بدأ يدخل حيز التنفيذ الفعلي، وإن كان لا يزال في مراحله الأولية. وأوضح كراسودومسكي أن المخاطرة تكمن في أن هذه التقنية، التي تعتمد على قيام الذكاء الاصطناعي بتدريب أنظمة ذكاء اصطناعي أخرى، قد تؤدي إلى تسارع هائل في وتيرة التطوير. هذا التسارع قد يقود في مرحلة ما إلى "نقطة تحول" تصبح عندها أنظمة الذكاء الاصطناعي قادرة على تطوير نفسها بمعزل عن الرقابة البشرية. ويرى كراسودومسكي أنه ليس واضحاً ما إذا كان هذا وحده كافياً لإنتاج نماذج ذكاء اصطناعي تهدد السيطرة البشرية. ومع ذلك، فإن التطور السريع لقدرات هذه التكنولوجيا خلال السنوات القليلة الماضية يجعل استبعاد هذا الاحتمال تماماً نوعاً من التهور. وقد سارع خبراء إلى الإشارة إلى أن بعض المزاعم التي طرحت مؤخراً تفتقر إلى أسس متينة بالكامل. في مجال الأمن السيبراني تحديداً، استبعد مؤسس المركز الوطني للأمن السيبراني في المملكة المتحدة أن يقوم نموذج ذكاء اصطناعي بتعطيل شبكة الإنترنت بأكملها في غضون عام، واصفاً ذلك بـ"تجربة فكرية تم طرحها وكأنها تحذير مبني على أدلة". بالرغم من ذلك، حظيت الرسالة التي مفادها أن الذكاء الاصطناعي يشكل خطراً وجودياً على البشرية في المدى القريب بتغطية إعلامية واسعة دون معارضة تذكر. وأفاد كراسودومسكي أن بعض المخاطر الناجمة عن الذكاء الاصطناعي فورية ومؤكدة. فخلال العامين المقبلين، ستشهد التقنيات القائمة على التعلم الآلي قدرات متنامية وسيتم نشرها بطرق ستعيد تشكيل الاقتصادات، المجتمعات، الحكومات، ساحات المعارك، والفصول الدراسية بشكل جذري. وقد شهد علماء الرياضيات مؤخراً "لحظة لي سيدول" الخاصة بهم، والتي تعبر عن القلق الذي ينتاب الإنسان عندما تتفوق الآلات عليه في مهام كانت مقتصرة سابقاً على براعة البشر. ويتوقع أن يمر معظم الناس بتجربة مماثلة قريباً. وأشار إلى أن القليل فقط من يفهم الآثار الفورية أفضل من شركات الذكاء الاصطناعي نفسها. فقد أوضح تقرير بارز صادر عن شركة "أنثروبيك" مؤخراً إساءة استخدام منتجاتها في التجسس، الهجمات السيبرانية، عمليات التلاعب بالمعلومات، وتطوير الأسلحة. وتحتفظ معظم المختبرات الكبرى بقدرات بحثية واسعة لدراسة التأثير المحتمل للذكاء الاصطناعي على الاقتصاد العالمي. تعتبر هذه ثورة تكنولوجية تعيد تشكيل وجه المجتمع العالمي، ولا يمكن ترك آثارها الراهنة دون ضوابط أو تنظيم. إن الآثار الراهنة حقيقية، والمخاطر قصيرة الأجل كبيرة. كما أن المخاطر الممتدة على المدى البعيد، سواء تمثلت في تراجع تدريجي لدور البشر مع تولي الآلات مسؤوليات أكبر، أو في حدوث تطور مفاجئ، هي مخاطر محتملة وتنطوي على قدر كافٍ من التهديد بما يستدعي الاهتمام بها. وتتسارع الجهود التي يقودها خبراء مثل ستيوارت راسل للتوصل إلى اتفاق دولي يضع "خطوطاً حمراء" واضحة وقابلة للتحقق لمنع العواقب الكارثية. وبدون هذه الجهود، قد تضيع الفرصة الأولى لوضع نظام حوكمة عالمي ملزم وقابل للتطبيق على هذه التكنولوجيا. وأكد كراسودومسكي على الأهمية البالغة للشفافية من جانب مختبرات الذكاء الاصطناعي. وأشار إلى أن النموذج الذي حدده أمودي في مقترحه – والمتمثل في وجود طرف ثالث أو جهة مستقلة مدمجة داخل المختبرات، تتمتع بصلاحيات مشابهة لصلاحيات الموظفين، ومهمتها تقييم تدابير الحماية المتخذة من قبل الشركات – كان مطلباً يطرحه المدافعون عن حوكمة الذكاء الاصطناعي منذ سنوات. ويُعد عرض شركة "أنثروبيك" تطبيق هذا الأمر من جانب واحد، واستعداد بعض المختبرات الأخرى للحذو حذوها، خطوة إيجابية بلا شك. وإذا تم إنشاء مثل هذا الطرف الثالث، فمن الضروري للغاية أن يتم اختياره من خارج "فقاعة وادي السيليكون". ويبدو "معهد سلامة الذكاء الاصطناعي" في المملكة المتحدة أحد أكثر المؤسسات المرشحة ملاءمة لهذا الدور على مستوى العالم. كما أن هناك نماذج وطنية للرقابة على الذكاء الاصطناعي تشبه "إدارة الغذاء والدواء" الأمريكية أو نماذج دولية مثل "الوكالة الدولية للطاقة الذرية"، وتعد خيارات موثوقة. وقد قوبل اقتراح أمودي بأن تتعاون مختبرات الذكاء الاصطناعي الأمريكية لوضع معايير موحدة وتنسيق إبطاء وتيرة العمل بانتقاد لاذع من ديفيد ساكس، المسؤول السابق عن ملف الذكاء الاصطناعي في البيت الأبيض. كتب ساكس على منصة "إكس" (تويتر سابقاً): "توقفوا عن التظاهر بأن قوانين مكافحة الاحتكار يجب أن يتم تعطيلها لتتمكنوا من تشكيل تكتل احتكاري (كارتل)، وتوقفوا عن الادعاء بأنكم بحاجة إلى عملية للحصول على موافقات تنظيمية تتجاوز قواعد مسؤولية المنتج". وأضاف: "إن المطالبة بإطار تنظيمي تفضلونه باعتباره الثمن... ستبدو وكأنها ابتزاز للجمهور وللنظام السياسي". يعكس هذا الموقف مخاوف من أن الضغوط الهائلة التي تواجهها هذه الشركات لتلبية توقعات الإيرادات قد تدفعها لمحاولة توسيع ميزتها التنافسية، أي ترسيخ تفوقها على حساب الآخرين. وينبغي رفض أي جهد من هذا النوع، فالمنافسة لتحقيق أداء أفضل وموثوقية ستكون ضرورية لتعزيز سلامة الذكاء الاصطناعي على المدى القريب. كما أنها قد تؤدي إلى إبطاء وتيرة التطوير، لأنها تضعف الحافز التجاري لضخ رؤوس أموال ضخمة في تدريب نماذج ذكاء اصطناعي متطورة ورائدة، والتي تزداد تكلفتها باستمرار. إن أي سياسة مقترحة تعرقل المنافسة – مثل حظر نماذج الذكاء الاصطناعي مفتوحة المصدر، أو تخفيف قوانين المسؤولية عن المنتج، أو حظر استخدام النماذج الحالية التي ثبتت سلامتها – يجب أن تدق ناقوس الخطر. وبالتأكيد، لا ينبغي على المملكة المتحدة حظر نماذج الذكاء الاصطناعي مفتوحة المصدر أو مفتوحة الأوزان. وأخيراً، لن تكتمل أي جهود للحفاظ على السيطرة البشرية على تطوير الذكاء الاصطناعي دون نوع من التفاهم بين القوى العظمى في هذا المجال، وهما الولايات المتحدة والصين. يمكن أن يتم ذلك ربما من خلال تحديد "خطوط حمراء" كتلك التي اقترحها البروفيسور راسل. وأشار كراسودومسكي إلى أن الطرح الحالي، الذي يركز بشكل كبير على الحفاظ على تفوق الولايات المتحدة على الصين، يجعل هذا الأمر أكثر صعوبة. ويقول أمودي إن على الديمقراطيات الحفاظ على تقدمها على الصين، ويتهم بكين بتبني نهج أقل صرامة فيما يتعلق بسلامة الذكاء الاصطناعي. ومن جانبه، يصور الرئيس الأمريكي دونالد ترامب الذكاء الاصطناعي باعتباره "لعبة صفرية" (يكون مكسب طرف هو خسارة للآخر)، مفضلاً التركيز على الفوز بسباق الذكاء الاصطناعي، حيث يقول "من يفوز في مجال الذكاء الاصطناعي، يحقق الفوز". وفي المقابل، تحدث الرئيس الصيني شي جين بينج علناً عن ضرورة وجود سيطرة بشرية على الذكاء الاصطناعي. كما أصدرت وكالة الاستخبارات الصينية هذا الأسبوع أول تحذير لها بشأن المخاطر التي يشكلها الذكاء الاصطناعي على الأمن القومي. ومع ذلك، فإن ضغط شي لتعزيز رؤية الصين لحوكمة الذكاء الاصطناعي، والذي يأتي في إطار التنافس مع واشنطن، سيؤدي بلا شك إلى تأجيج الشعور بتسارع وتيرة سباق التسلح في مجال الذكاء الاصطناعي، وهذا لن يسهم بأي حال في كبح سرعة التطور. واختتم كراسودومسكي تحليله بالقول إن ملف الذكاء الاصطناعي سيكون مطروحاً للنقاش عندما يلتقي ترامب وشي في واشنطن في وقت لاحق من الشهر الجاري. وبينما تحقيق بعض التقدم ليس أمراً مستحيلاً، إلا أنه في ظل إصرار الأصوات البارزة في البلدين على ضرورة التفوق على الطرف الآخر، سيتطلب التوصل إلى اتفاق جهوداً هائلة.