أبحاث ودراساتالأمن السيبراني وتكنولوجيا المعلومات

استخدامات الذكاء الاصطناعي العسكري

سباق الجيل السادس بين الولايات المتحدة والصين



شارك الموضوع

مقدمة

دخلت الولايات المتحدة فترة جديدة من المنافسة مع الصين على التطورات التكنولوجية الحديثة في الذكاء الاصطناعي، تزيد من تعقيد المشهد الدولي، وأدرك العلماء، والسياسيون، وكبار الضباط العسكريين أن دمج الذكاء الاصطناعي هو نشأة ثورة جديدة في الشؤون العسكرية، مع القدرة على تغيير ميزان القوى الإستراتيجي، لكن الولايات المتحدة، المثقلة بسنوات الفشل في الشرق الأوسط، والنزاع الروسي- الأوكراني يعرقلان إستراتيجية ذكاء اصطناعي طويلة المدى تمتد حتى عام 2025، وهي ليست مستعدة لدخول هذا “الجيل السادس” من القدرات العسكرية من أجل تأمين المصالح الإستراتيجية. وستُحدَّد هذه القوة الممكّنة للذكاء الاصطناعي من خلال أنظمة شبه مستقلة ومستقلة، بما في ذلك أنظمة الأسلحة الفتاكة المستقلة، وسيحصل من يطورها ويستخدمها على ميزة إستراتيجية على منافسيه في هذا العصر الجديد. ومع أن الولايات المتحدة تمتلك حاليًا ميزة في الذكاء الاصطناعي، فإنها تنكمش بسرعة بسبب الافتقار إلى التفكير المستقبلي، وسياسة الاستثمار.

لذا قيمت هذه الدراسة موقف الولايات المتحدة والصين من أنظمة الأسلحة الفتاكة الذاتية التشغيل في ضوء استغلال الذكاء الاصطناعي. كما أنها وضعت التصريحات الأيديولوجية والدبلوماسية والمشروعات العسكرية للبلدين في سياق إعادة سرد مشهد القوة الصلبة الذي تشكل عبر المحيطين الهندي والهادئ.

تعريف الذكاء الاصطناعي وأنظمة الأسلحة الفتاكة الذاتية التشغيل

الذكاء الاصطناعي  (AI)هو مجال سريع التطور، وله تأثيرات مستقبلية كبيرة في الأمن العالمي بسبب كثير من المزايا المحتملة. وتبحث الدول الرائدة، مثل الولايات المتحدة، والمملكة المتحدة، وفرنسا، وألمانيا، والصين، وروسيا، حاليًا عن تطبيقات جديدة للذكاء الاصطناعي بغرض الحفاظ على ميزة غير متكافئة على الخصوم. على سبيل المثال، دمج الجيش الأمريكي بالفعل الذكاء الاصطناعي في العمليات العسكرية في الشرق الأوسط من خلال إستراتيجية تسمى (Project Maven)، تستخدم خوارزميات كمبيوتر متقدمة لتحديد الأهداف عبر كميات كبيرة من الصور المتحركة أو الثابتة.[1]

يمثل الذكاء الاصطناعي ثورة قادمة في الشؤون العسكرية (RMA)، مع تداعيات تمتد إلى ما هو أبعد من المنفعة العسكرية البسيطة. سيتأثر العالم المدني أيضًا كثيرًا بتطورات الذكاء الاصطناعي؛ لذلك من المهم فهم عدد من المفاهيم المرتبطة بهذه التكنولوجيا الجديدة. نشأ مصطلح “الذكاء الاصطناعي” من مؤتمر دارتموث عام 1956، عندما طُرِحَت الفكرة لأول مرة، وعُرِّفَت بأنها “نظام اصطناعي طُوِّر في برامج الكمبيوتر أو الأجهزة المادية، أو أي سياق آخر، يحل المهام التي تتطلب إدراكًا وتخطيطًا، أو تعلمًا، أو تواصلًا، أو عملًا بدنيًّا يشبه الإنسان”[2]. ومنذ ذلك الحين، قاد الخيال العلمي في هوليوود كثيرًا من الجدل بشأن الذكاء الاصطناعي، وأنظمة الأسلحة الفتاكة المستقلة؛ حيث قدمت أفلام، مثل Terminator (1984) و IRobot (2004) و War Games (1986)، الصور العامة للروبوتات القاتلة، وأنظمة الكمبيوتر، حيث يهدد الذكاء الاصطناعي الوجود البشري[3].

وتظهر الموجة الأولى من الذكاء الاصطناعي بسهولة في حياتنا العادية، مثل البرامج التي تستخدم التعرف على البيانات الأساسية، والأنماط والتحليلات التنبؤية. أما الموجة الثانية فهي المستوى الحالي لتطوير الذكاء الاصطناعي، وفي هذه المرحلة، يكون التعلم الآلي (ML) ممكنًا، وتصبح عملية استخدام الأكواد والخوارزميات “لتعليم” الآلات المهام الأساسية والمتقدمة للإنسان علامة فارقة في مجال الذكاء الاصطناعي. من هنا، أصبحت الإمكانات الأكثر تقدمًا، مثل التعرف على الصوت، والوجه، والذكاء المعزز، والوظائف شبه المستقلة. وهذه الأخيرة هي لبنة البناء للقدرة المستقلة للآلات، التي لا تتطلب التكنولوجيا فيها أي مدخلات بشرية، ويمكن أن تأتي في عدة أنواع تعتمد على البرامج فقط. وتشمل هذه الأصناف أنظمة (man-in-the-loop (MITL) – man-on-the-loop (MOTL))[4].

يتدخل العنصر البشري في أنظمة (MITL)؛ لهذا تُوصف بأنها أنظمة شبه مستقلة؛ لأنها تتطلب مشغلًا بشريًّا لزيادة فعاليتها إلى أقصى حد، لكن أنظمة (MOTL) هي الجيل الثاني من هذه التقنية، ولا تطلب أي تدخل بشري، وتعمل بشكل مستقل تمامًا. ومع ذلك، يمكن للمشغل البشري مقاطعة النظام في أي وقت لتغيير مسار العمل المبرمج مسبقًا.

من الناحية النظرية، يتمتع الذكاء الاصطناعي العام (AGI) بالقدرة على مراقبة التوجيه، والتصرف (OODA) مع مستويات الإدراك والوعي البشري. وشكل آخر من أشكال هذه التقنية هو نوع مختلف من الذكاء الاصطناعي العام يشار إليه باسم الذكاء الاصطناعي الفائق (ASI)، الذي يعد مثالًا لقدرة البرمجيات، ويتفوق على البشر بكل مقياس موضوعي تقريبًا، ويمثل (ASI) نظامًا لكمبيوتر يمكن وصفه بأنه واع[5]. وأسهمت إمكانات الذكاء الاصطناعي هذه في إحداث ثورة جديدة في الشؤون العسكرية.

وبسبب التوترات الحالية بين القوى الكُبرى الولايات المتحدة وحلفائها وروسيا والصين، مِن المحتمل أن يكون هناك مزيد من الاستثمارات في أبحاث الذكاء الاصطناعي؛ وسيتبع ذلك تقدم تكنولوجي في المجالين العام والعسكري. وقد أدى دمج برامج الذكاء الاصطناعي وخوارزميات التعلم في الأجهزة التجارية إلى فتح قنوات جديدة لتطبيق الذكاء الاصطناعي في جميع قطاعات المجتمع. وبالنظر إلى سرعة الابتكار، من الأهمية بمكان دراسة بعض الآثار المتعلقة بتقارب التكنولوجيا والسياسة الأمنية، فضلًا عن تطوير أسلحة حديثة، مع إمكانية تغيير طرق إدارة الحرب.

غالبًا ما يُقاس التقدم في التكنولوجيا العسكرية اليوم بعدة عوامل، هي:

  1. مدى إبعاد أفراد الخدمة عن منطقة الصراع.
  2. القدرة على مضاعفة القوة.
  3. إمكانية تقليل التكاليف خلال شن الحرب[6].

وتعد أنظمة الأسلحة الفتاكة الذاتية التشغيل (LAWS)- المعروفة عمومًا باسم “الروبوتات القاتلة”- ذات أهمية خاصة. وهي “فئة من أنظمة الأسلحة التي تستخدم مجموعات من أجهزة الاستشعار وخوارزميات الكمبيوتر لتحديد الهدف، والاشتباك معه دون تدخل العنصر البشري في النظام”. بعبارة أخرى، صُممت منظومات الأسلحة الفتاكة الذاتية التشغيل لاتخاذ قرارات مستقلة فيما يتعلق باستخدام القوة المميتة.

وعلى عكس التطور الطبيعي في التكنولوجيا العسكرية، فإن الأسلحة الفتاكة الذاتية التشغيل تغير حقًا كل ما سيأتي بعدها. فبعدما كانت الصناعات العسكرية في التاريخ قائمة على مسارين للتطور هما:

  • تطوير البرود
  • تطور أسلحة الدمار الشامل

أصبح لدينا مسار تطوير جديد هو “الأسلحة الفتاكة الذاتية التشغيل”، سيفرض تغييرات في المفاهيم العسكرية للعمليات (CONOPS) على المستويات الإستراتيجية والتشغيلية والتكتيكية، مع تغييرات مقابلة في المشهد السياسي.

في البداية، استغرق البارود (300) عام منذ القرن التاسع للتطور في شكل مدفعية، ولكي يأخذ موقعه في ساحة المعركة، لكن هذا البطء الزمني كان بسبب القدرات التكنولوجية في ذلك الوقت، لكن أسلحة الدمار الشامل تطورت في أقل من عقد زمني بسبب التطورات التكنولوجية المدنية والعسكرية خلال الحرب العالمية الثانية، وما تلاها من أجواء الحرب الباردة. الآن لم يعد هناك فارق زمني تقريبًا بين مرحلة التطوير التكنولوجي للأسلحة الفتاكة الذاتية التشغيل ومرحلة التشغيل الميداني لها.

على الصعيد الدولي، لا يوجد تعريف مقبول لأنظمة الأسلحة الفتاكة الذاتية التشغيل، أمريكيًّا، تُعرَّف أنظمة الأسلحة الفتاكة الذاتية التشغيل كالتالي: “نظام (أنظمة) الأسلحة التي فور تفعيلها يمكنها تحديد الأهداف والاشتباك معها دون تدخل إضافي من عامل بشري”[7]، لكن الصينيين قدموا تعريفًا أوسع لهذه الأسلحة، كالتالي: “في رأينا، يجب أن تتضمن أنظمة الأسلحة الفتاكة الذاتية التشغيل الخصائص الأساسية الخمس التالية على سبيل المثال لا الحصر: الأولى هي الفتك، وهو ما يعني ذخيرة كافية لكي تكون الوسائل قاتلة. والثانية هي الاستقلالية، مما يعني غياب التدخل البشري، والسيطرة خلال عملية تنفيذ المهمة بكاملها. والثالثة: استحالة الإنهاء، مما يعني أنه فور البدء لا توجد طريقة لتعطيل السلاح. والرابعة: التأثير العشوائي، أي إن السلاح سينفذ مهمة القتل والتدمير بغض النظر عن الظروف والسيناريوهات والأهداف. والخامسة: التطور، بمعنى أنه من خلال التفاعل مع البيئة، يمكن للسلاح التعلم بشكل مستقل، وتوسيع وظائفه وقدراته بطريقة تتجاوز التوقعات البشرية”[8].

المسار الأمريكي في تطوير أنظمة الأسلحة الفتاكة الذاتية التشغيل

عام 2018، أسست سلسلة من إجراءات الكونجرس إطار  عمل إستراتيجية الذكاء الاصطناعي الأمريكية. وقد سمح قانون جون س. ماكين، عام 2019، بإنشاء لجنة الأمن القومي للذكاء الاصطناعي (NSCAI)، وكانت المهمة المعلنة لهذه اللجنة هي “تعزيز تطوير الذكاء الاصطناعي، والتعلم الآلي، والتقنيات المرتبطة به؛ لمعالجة مصالح الأمن القومي والدفاع للولايات المتحدة بشكل شامل”[9]. بالإضافة إلى ذلك، أُلزِمَت اللجنة بمراجعة سياسات الذكاء الاصطناعي لتشمل التنافسية الوطنية، والبحث والتطوير، والتدريب، والمخاطر، والأخلاقيات.

قدمت لجنة الأمن القومي للذكاء الاصطناعي تقريرًا حمل عدة توصيات لسياسة الذكاء الاصطناعي الأمريكية، وتشمل هذه التوصيات مجموعة كاملة من القدرات والمجالات المدنية والعسكرية في وثيقة من جزأين. يوضح الجزء الأول: تفاصيل الدفاع ضد تهديدات الذكاء الاصطناعي من الجهات الحكومية وغير الحكومية، والاستخدامات الأخلاقية للذكاء الاصطناعي. ويناقش الجزء الثاني: التحديات الدولية الأكبر التي يطرحها الذكاء الاصطناعي، وكيف يمكن للولايات المتحدة الحفاظ على المزايا التنافسية ضد خصومها، خصوصًا الصين وروسيا.

هناك كثير من النقاط الرئيسة اللافتة في وثيقة لجنة الأمن القومي للذكاء الاصطناعي الأمريكية، وهي:

  1. الولايات المتحدة ليست مستعدة للدفاع عن الولايات المتحدة في عصر الذكاء الاصطناعي القادم.
  2. طبيعة الحرب تتغير، ووزارة الدفاع “محبوسة في عقلية العصر الصناعي”، حيث تستمر في استخدام مفاهيم المنظر العسكري كارل فون كلاوزفيتز (1780 – 1831) للحرب.
  3. الولايات المتحدة لا ينبغي أن تكون متفرجًا على “ثورة الذكاء الاصطناعي في الشؤون العسكرية”.
  4. الذكاء الاصطناعي لديه القدرة على إنتاج “قدرات مستقلة هجومية ودفاعية جديدة ومتطورة، أبرزها: أنظمة الأسلحة الفتاكة المستقلة (LAWS).
  5. يمكن استخدام أنظمة الأسلحة الفتاكة المستقلة (LAWS) بشروط معينة تتفق مع القانون الإنساني الدولي، وتحديدًا في مجالات “التمييز والتناسب والمساءلة”.
  6. رفض أي حظر عالمي لأنظمة الأسلحة الفتاكة الذاتية التشغيل[10].

كما تطرقت اللجنة إلى الانعكاسات الأخرى المرتبطة بالذكاء الاصطناعي، مثل أن الاستثمار والابتكار في الذكاء الاصطناعي سيقودان “البنية التحتية الحيوية، والتجارة، والنقل، والصحة، والتعليم، والأسواق المالية، وإنتاج الغذاء، والاستقرار البيئي”. وقررت أيضًا أنه يمكن تقييم هذه المقاييس من خلال وسائل موضوعية، مثل الناتج المحلي الإجمالي، ونمو واستثمار مواهب الذكاء الاصطناعي، والتعليم، وإعادة تنظيم وهيكلة الميزانيات واللوائح.

لذا طالبت لجنة الأمن القومي للذكاء الاصطناعي الأمريكية بمضاعفة ميزانية البحث والتطوير للذكاء الاصطناعي كل عام، بداية من عام 2022 حتى عام 2026، بدءًا من ملياري دولار، وتنتهي باستثمار سنوي قدره (32) مليار دولار بحلول عام 2025. هذا بالإضافة إلى إنشاء مؤسسات تكنولوجية جديدة، وبرامج أخرى يبلغ مجموعها (53.5) مليار في الفترة الزمنية نفسها[11].

تطوير الذكاء الاصطناعي في وزارة الدفاع الأمريكية

عام 2018، أنشأت وزارة الدفاع المركز المشترك للذكاء الاصطناعي (JAIC)، الذي تتمثل مهمته في تنسيق تطوير ونشر الذكاء الاصطناعي المتعلق بوزارة الدفاع. وفُوِّضَ (JAIC) من جانب وزارة الدفاع لتطوير إستراتيجية “تسريع تبني الذكاء الاصطناعي، وإنشاء قوة مناسبة لعصرنا”، وأدى ذلك إلى اتباع نهج ثلاثي الأبعاد لتطوير الذكاء الاصطناعي قائم على:

  1. المؤسسات التكنولوجية.
  2. دعم المهام.
  3. الذكاء الاصطناعي التشغيلي.

يشمل الذكاء الاصطناعي المؤسسي جميع أشكال حفظ وتنظيم السجلات المؤتمتة رقميًّا. وتنتشر أنظمة الذكاء الاصطناعي هذه في الصناعات المدنية والعسكرية. ودعم المهام للذكاء الاصطناعي مُتعلق بأي نظام تم تطويره للعمليات القتالية. وتعتمد هذه الأنظمة على تحليل كميات ضخمة من البيانات في ثوانٍ أو دقائق، وهو ما قد يتطلب فريقًا كبيرًا من البشر، ويستغرق أيامًا أو شهورًا. وبعد تحليل هذه البيانات، بناءً على معايير معينة أُدخِلت، يمكن للذكاء الاصطناعي تقديم سلسلة من التوصيات للقادة أو المشغلين من البشر. ويشار إلى هذا المفهوم باسم “الذكاء المعزز”. وتمثل عملية صنع القرار بمساعدة الذكاء الاصطناعي خطوة مهمة في التفاعل بين الذكاء الاصطناعي والبشر، وهي قفزة إلى الأمام في التكنولوجيا المطلوبة لتطوير الذكاء الاصطناعي العام.

عام 2019، طُوِّرَت كثير من التقنيات المُعتمدة على الذكاء الاصطناعي، مثل (G5)، وطائرات بدون طيار لتوصيل البضائع الخفيفة، وأنظمة أقمار صناعية منخفضة المدار الأرضي. بالتقدم حتى عام 2020، نجد أن التقنيات الجديدة المهمة التي تظهر بمساعدة الذكاء الاصطناعي، مثل آلة دماغ ثنائية الاتجاه، وتوءم رقمي للشخص، تمثل خطوات مهمة في تطوير الذكاء الاصطناعي، ويشكل كثير من هذه القدرات الأجزاء الأساسية لتعلم الآلة التكيفي، وهو مطلب للذكاء الاصطناعي العام. وكما هو موضح، في غضون عام، حقق البحث والتطوير والإنتاج لمفاهيم الذكاء الاصطناعي المتقدمة قفزات ضخمة إلى الأمام.

مع وصول التقنيات الكمية الملموسة إلى الأسواق العسكرية، تزداد قدرة الذكاء الاصطناعي العسكري زيادة كبيرة، حيث شهد عام 2021 إضافة البشر الرقميين، مع تطورات الأجهزة مثل روبوت تسلا البشري[12]، في حين أن هذا التقدم في ذاته، أي الروبوت المستقل، مع القدرة على أداء المهام الأساسية، ليس بالضرورة ثوريًّا، فإن التقنيات المطلوبة لتحقيق هذا التقدم في التعلم التكيفي ممكنة عند إقرانه بأنظمة ذكاء اصطناعي أكثر قدرة، وهذا من المحتمل أن يؤدي إلى عصر يكون فيه نظام الأسلحة الفتاكة الذاتية التشغيل ممكنًا في إطار زمني أقرب من عام 2025، وهو التاريخ الذي تتوقعه قيادة الجيش الأمريكي[13].

التطبيق الأمريكي للذكاء الاصطناعي العسكري

تملك الولايات المتحدة تاريخًا طويلًا من تطوير التطبيقات العسكرية الهجومية للذكاء الاصطناعي، وقدمت عددًا من أنظمة الأسلحة المستقلة أو شبه المستقلة. ومن أكثر أنظمة الأسلحة التي تعتمد على الذكاء الاصطناعي نظام (Aegis) للدفاع ضد الصواريخ الباليستية، الذي قُدِّم عام 1983. ويمكن لهذا النظام الرد على كثير من التهديدات المختلفة عن طريق الاختيار من، أو الجمع بين الذكاء الاصطناعي أو التدخل البشري، وهذا النمط مخصص للحالات التي تتجاوز فيها التهديدات قدرة المشغل على تنسيق الدفاعات وإدارتها. ويمكن التبديل بين التشغيل الآلي أو اليدوي بسهولة؛ ما يجعل هذا النمط من الذكاء الاصطناعي خاضعًا تمامًا للإنسان.

طورت الولايات المتحدة أسلحة أكثر استقلالية، خصوصًا في حالة الهجوم، ويُعد صاروخ (Tomahawk) المضاد للسفن (TASM) مثالًا مبكرًا على الذكاء الاصطناعي العسكري، وصُمم للبحث عن السفن، ثم الاشتباك مع تلك الأهداف فور اكتشافها. استخدم الصاروخ بهذه الكيفية المُستقلة والمعتمدة على الذكاء الاصطناعي مدة قصيرة في أوائل التسعينيات، ولم يُستخدم النظام بهذه الطريقة قط ثانية، وأُخرِج من الخدمة بسبب القلق من أنه قد يؤدي إلى وقوع حوادث من خلال استهداف أهداف غير مقصودة، لكن تم استئناف تطوير الصواريخ المضادة للسفن المعتمدة على الذكاء الاصطناعي، وتم تصنيع نسخ أكثر حداثة، وطويلة المدى، مثل صواريخ (LRASM) (يبلغ سعر الصاروخ الواحد 120 مليون دولار).

في الفترة الزمنية نفسها تقريبًا في التسعينيات، ظهر سلاح آخر شبه مستقل، وهو الصاروخ المضاد للإشعاع العالي السرعة (HARM)، وهو يهاجم إشارات الإشعاع، مثل تلك المنبعثة من أنظمة الدفاع الجوي. وهذه الصواريخ شبه مستقلة لأنها، مع أنها تسعى إلى أهدافها الخاصة بواسطة الذكاء الاصطناعي، فإنه يجب تحديد هذه الأهداف بشكل عام من جانب العنصر البشري.

تشمل الأمثلة الأكثر حداثة للتطورات في الذكاء الاصطناعي العسكري منتجات برنامج (DARPA) المشترك للأنظمة الجوية القتالية غير المأهولة. ولقد تضاءلت أنظمة الطيران المستقلة هذه، وتضاءلت شعبيتها ودعمها، لكن (DARPA) تمكنت عام 2013، مِن تحقيق هبوط ذاتي لأحد مركباتها (X47-B) بنجاح على حاملة طائرات. بعد هذا العرض التوضيحي، عام 2015، أجرت مركبة (X47-B) بنجاح إعادة التزود بالوقود الجوي المستقل. وعلى الرغم من نجاح هذه التجارب، أُلغيَ برنامج (X47-B) بسبب مخاوف البحرية بشأن التكلفة ونقص التخفي ، ولكن من المرجح أن تستمر التقنيات التي عرضتها في إعادة التزود بالوقود في الطائرات بدون طيار في تطوير طائرات بدون طيار، مثل (MQ-25)، والأنظمة المستقبلية.

لا يتوقف استخدام الذكاء الاصطناعي على الصناعات العسكرية فقط، ولكن هناك مجموعة متنوعة من المهام، مثل إدارة شؤون الموظفين، والاستخبارات، واللوجستيات، والاتصالات، والتخطيط. على سبيل المثال، ساعدت أداة التحليل الديناميكي وإعادة التخطيط (DART) على وضع خطط لنقل القوات والمعدات من أوروبا إلى المملكة العربية السعودية في أثناء عملية درع الصحراء، وعملية عاصفة الصحراء من (1990– 1991). وخلص فيكتور ريس، مدير (DARPA) آنذاك، إلى أن (DART) دفعت بمفردها 30 عامًا من استثمار (DARPA) في الذكاء الاصطناعي في ذلك الوقت[14].

بعد نحو عقد من الزمان، طُوِّرَت أداة أكثر تعقيدًا لتخطيط نشر القوات، وحل المشكلات اللوجستية. وصُمِّمَ المساعد المشترك للنشر والتنفيذ (JADE)، وهو مشروع مدعوم من مختبر أبحاث القوات الجوية (AFRL) و (DARPA)؛ لبناء خطة نشر أولية للقوة بواسطة بيانات انتشار القوة على مراحل. وعُرِضَ أول مرة عام 1999، في القيادة الجنوبية للولايات المتحدة ، التي كانت مسؤولة عن الاستجابة لإعصار ميتش[15].

استكشفت (DARPA) أيضًا إمكانية استخدام الذكاء الاصطناعي للمساعدة على التخطيط الأكثر أهمية مع تجربة التخطيط التكيفي القابل للبقاء (SAPE) التي تم اختُبرت جزئيًا عام 1991. في حين صُمِّم (JADE) لتخطيط تدفقات القوة للنزاعات التقليدية، كان الهدف من (SAPE) هو إنشاء خطط لحرب نووية. وكان من المفترض أن يكون قادرًا على إعادة وضع خطة تشغيلية متكاملة في ثلاثة أيام، وهي مهمة تستغرق- عادة- 18 شهرًا، وكان يهدف كذلك إلى تقليل الوقت اللازم لإعادة توجيه الأسلحة الإستراتيجية من ثماني ساعات إلى ثلاث دقائق، مما يجعل من الممكن إعادة الاستهداف في أثناء الهجوم. انتهى مشروع (SAPE) مع انهيار الاتحاد السوفيتي. وعلى الرغم من إلغاء هذا البرنامج، فإن هناك كثيرًا من الأجزاء الأخرى في المشروع النووي تُطوَّر عبر دمجها في الذكاء الاصطناعي[16].

على سبيل المثال، استخدم مجال الإنذار الصاروخي الإستراتيجي وتقييم الهجوم مفاهيم الذكاء الاصطناعي في الماضي، وسيفعل ذلك- بشكل متزايد- في المستقبل. ويعد الكشف عن إطلاق الصواريخ وتقييم طبيعة التهديدات التي تشكلها على الوطن وحجمها أمرًا أساسيًّا لمهمة الإنذار الإستراتيجي الوطني. وحدثت إنذارات كاذبة في هذه الوظيفة الحاسمة وبعض الكوارث خلال الحرب الباردة. وقد يكون التقييم الخاطئ للهجوم النووي هو المثال الأكثر دراماتيكية للفشل غير المتوقع للأنظمة التي يدعمها الذكاء الاصطناعي.

القدرات الحالية والتوقعات المستقبلية للذكاء الاصطناعي العسكري

بينما كان القادة العسكريون مترددين في نشر أنظمة أسلحة تعتمد على الذكاء الاصطناعي، لم تكن هذه التحفظات قوية بين الأفراد الذين يطورون هذه التقنيات. ونتيجة لذلك، تعمل المنظمات البحثية على تطوير مجموعة كبيرة من تطبيقات الذكاء الاصطناعي والاستقلالية، حيث أُنشئت وحدة ابتكار الدفاع مؤخرًا في قلب وادي السيليكون، وهي منظمة مهمتها “التعاقد مع الشركات التي تقدم حلولًا في مجموعة متنوعة من المجالات، مثل الاستقلالية، والذكاء الاصطناعي، وتكنولوجيا المعلومات، والفضاء، إلى الإنسان”. وتدافع هذه المنظمات بقوة عن تطوير الذكاء الاصطناعي والاستقلالية داخل وزارة الدفاع الأمريكية؛ ومن ثم، قد يتوافر عدد من القدرات الجديدة في المستقبل القريب.

صواريخ طويلة المدى مضادة للسفن

تُطوَّر صواريخ (LRASM) لتكون قادرة على تحديد الأهداف والاشتباك معها بشكل مستقل، حتى في البيئات الخالية من نظام تحديد المواقع العالمي (GPS) والاتصالات. وستحتاج صواريخ (LRASM) إلى قدرات ذكاء اصطناعي لتحديد الأهداف وتقييمها، وتحديد مدى عدائيتها في المواقف التي لا يكون فيها المشغلون البشريون قادرين على تقديم التوجيه، أو التدخل.

الطائرات بدون طيار

تعمل (AFRL) على تطوير مركبات طيران مستقلة تحت رعاية برنامج (Loyal Wingman). وتضمنت المبادرات في هذا الجهد تجهيز الطائرة (F-16)، التي عادة ما تُشغَّل بشريًّا، بقدرة مستقلة. وتم عرض الطائرة (F-16) المستقلة عام 2017 عندما كانت قادرة على الاستجابة بشكل ديناميكي لبيئة التهديد المتغيرة، وإجراء ضربة جو- أرض معتمدة على الذكاء الاصطناعي. ومن المفترض أن تعمل هذه الأنظمة المستقلة كامتداد لطيار بشري في طائرة أخرى يمكنه أن يعطيها أمرًا بأداء مهام خطيرة. ويُنظر إلى هذا على أنه نقطة انطلاق نحو تطوير أسراب من الأنظمة المستقلة التي لا تتطلب طيارين. وهذا المفهوم لديه بعض الدعم العالي المستوى. على سبيل المثال، عام 2015، قال وزير البحرية راي مابوس: “يجب أن تكون طائرة (F-35) آخر طائرة مقاتلة هجومية مأهولة ستشتريها وزارة البحرية، أو تطير بها على الإطلاق”[17].

كما يشير تعليق مابوس، فإن القوة الجوية ليست الخدمة الوحيدة المهتمة بجعل أنظمتها أكثر استقلالية، حيث أطلق الجيش طائرات هليكوبتر مستقلة، يطورها بشكل أساسي لمهام إعادة الإمداد. ومع أن البحرية ألغت في نهاية المطاف برنامج (X47-B UCAS)، فقد واصلت السعي وراء قدرات مستقلة في تطوير مجموعة متنوعة من السفن السطحية، والغواصات المستقلة.

إن مفاهيم العمليات الخاصة بقدرات الطيران المستقل بعيدة- كل البعد- عن التطور الكامل، وهذا هو السبب أيضًا في وجود دعم مختلط فقط لشراء هذه الأنظمة وإدخالها في ميدان القتال، لكن (DARPA) تمضي قدمًا في كثير من البرامج الأخرى التي إذا نجحت ستوفر بعض القدرات اللازمة لجعل الطائرات المقاتلة المستقلة جاهزة للحرب. وتتضمن هذه البرامج معرفة الهدف، والتكيف في البيئات المتنازع عليها، وعمليات الدعم، وتهدف إلى إثبات أن المركبات الجوية المستقلة يمكنها العمل كفريق، وتحديد الأهداف في بيئات غير متوقعة، دون القدرة على التواصل مع المشغلين البشريين. وهذه الأهداف طموحة وقابلة للتحقيق بشكل متزايد.

الذكاء الاصطناعي للوجستيات والتخطيط

فيما يتعلق بإدخال أنظمة التشغيل في الميدان على المدى القريب، كان هناك اهتمام باستخدام الذكاء الاصطناعي لتعزيز التطبيقات القائمة على البرامج أكثر من الاهتمام بتطوير أنظمة الأسلحة المستقلة. تلقى (Project Maven)، وهو تطبيق تقنية معرفة الصور، واكتشاف الأهداف، أكبر قدر من الاهتمام في الآونة الأخيرة. والدافع الرئيس لهذا البرنامج هو أن الحجم الكبير لبيانات الصور والفيديو التي يتم جمعها قد تجاوز قدرة العنصر البشري لعرضها وتحليلها، وأصبحت هناك حاجة إلى الذكاء الاصطناعي لتحديد أولويات النتائج وتصفيتها عند ورود البيانات. حتى الآن، كانت النتائج مبهرة. وفي غضون ستة أشهر فقط من بداية المشروع، تمكن من المساعدة على معالجة المعلومات الاستخبارية في الاستخدام العملي الفعلي في القتال ضد الدولة الإسلامية في العراق والشام (داعش). ومن المرجح أن يستمر تطوير (Project Maven) والتطبيقات المماثلة، على الرغم من الضغوط التي يمارسها الموظفون في (Google) والشركات الأخرى المشاركة في المشروعات المتعلقة بالذكاء الاصطناعي على الإدارة الأمريكية لوقف العمل في هذه المشروعات بسبب مخاوفهم من عسكرة الذكاء الاصطناعي[18].

ومع ذلك، من المرجح أن يستمر البنتاغون  في سعيه وراء تقنيات الذكاء الاصطناعي لإدراكه أن مستقبل الحرب يتضمن تحليلات بيانات واسعة النطاق، وهو حاليًا يختار بين المنافسين الذين يقدمون عطاءات للحصول على عقد لتزويد بنية تحتية واسعة النطاق للحوسبة السحابية. ويُطلق على العقد اسم البنية التحتية المشتركة للدفاع، وتقدر قيمته بـ (5) مليارات دولار سنويًّا على مدار عامين. وبالمقارنة، تبلغ إيرادات الحوسبة السحابية لشركة أمازون نحو (20) مليار دولار سنويًا، فيما تبلغ إيرادات جوجل نحو (4) مليارات دولار، في حين أن هذا العقد هو أكثر بكثير من الذكاء الاصطناعي، فمن المحتمل أن تؤدي الحاجة المتوقعة إلى الذكاء الاصطناعي إلى زيادة الطلب على هذه البنية التحتية للحوسبة الموسعة، التي بدورها ستتطلب مزيدًا من تقنيات الذكاء الاصطناعي، مثل معالجة الصور، ومعالجة اللغة الطبيعية؛ للتعامل مع حجم البيانات التي يمكن الوصول إليها.[19]

الحرب السيبرانية

الحرب السيبرانية تشير إلى تسخير الأنظمة الخوارزمية التي تدعم الذكاء الاصطناعي، وتعلم الآلة من أجل التوظيف في النزاعات المستقبلية. ويتماشى هذا النهج الذي يركز على البيانات مع الإستراتيجية الطويلة المدى لبعض كبار مسؤولي وزارة الدفاع. ما يسمى بإستراتيجية الأوفست الثالثة، التي قدمها وزير الدفاع تشاك هاجل، بدعم من خليفته، أشتون كارتر، روجت للذكاء الاصطناعي، والجمع بين الإنسان والآلة كوسيلة للحفاظ على (أو ربما استعادة) الريادة ضد خصوم الولايات المتحدة. مع أن عبارة “إستراتيجية الأوفست الثالثة” قد تم تجاهلها منذ ذلك الحين، فإن المفهوم الكامن وراءها واضح في تشكيل فريق البنتاغون الخوارزمي للحرب المتعددة الوظائف، وهي المنظمة المسؤولة عن مشروع مافن. ويظهر التزام وزارة الدفاع بالذكاء الاصطناعي والحرب السيبرانية أيضًا في موقف مركز الذكاء الاصطناعي المشترك بهدف تسريع تقديم القدرات الممكّنة للذكاء الاصطناعي، وتوسيع نطاق التأثير في مستوى الإدارة للذكاء الاصطناعي، ومزامنة أنشطة (DoD AI) لتوسيع مزايا القوة المشتركة[20].

يمتد مفهوم الحرب السيبرانية إلى ما وراء تطبيقات الذكاء وتحليل البيانات. ويمكن رؤيته في عدد من العروض الأولية التي أجراها (AFRL)، بما في ذلك أحد أنظمة الذكاء الاصطناعي التي كانت قادرة على هزيمة الطيارين البشريين الخبراء في محاكاة قتال، فالتطبيقات الناشئة الأخرى غير حركية بطبيعتها. وأحد الأمثلة لا يزال في مراحل البحث الأولى، ولكن من المتوقع أن يتحسن في السنوات المقبلة.

في سياق آخر، قليل من الخبراء يتوقعون أن الخوارزميات ستكون قادرة على اكتشاف الثغرات الأمنية في شبكات العدو السيبرانية واستغلالها، لكن مع اكتشاف المتسللين وطردهم من الشبكات الصديقة، دُمِجَ بالفعل الذكاء الاصطناعي في أنظمة مكافحة الفيروسات التجارية؛ على أمل تطوير هذه القدرات بشكل أكبر.

المسار الصيني في تطوير أنظمة الأسلحة الفتاكة الذاتية التشغيل

تغيرت السياسة الخارجية الصينية في عهد “شي جين بينغ”، وانتقلت من النهوض السلمي الاقتصادي للصين إلى ضرورة التحديث العسكري. على الرغم أن شي وكوادره أبدوا طموحهم لتنمية العلاقات الثنائية مع الولايات المتحدة، الذي تجسد عندما حضر شي قمة كاليفورنيا، يونيو 2013، مع الرئيس الأمريكي باراك أوباما. واعترف قادة الصين الجدد بقضايا تتعلق بالطموحات النووية لكوريا الشمالية، وبدا شي أكثر انفتاحًا على شروط واشنطن الخاصة بمعاهدة استثمار ثنائية. في الواقع، مع ادعاء البيت الأبيض أن الانتهاكات السيبرانية لشبكات الحكومة والخاصة الأمريكية تُعزى إلى جهات فاعلة صينية، أُنشئت مجموعة عمل رفيعة المستوى بشأن الأمن السيبراني. ولكن من الناحية العملية، لم تُمنح أي تنازلات جوهرية من شأنها أن تزيد الثقة كثيرًا بين الطرفين[21].

في سبتمبر 2013، كشف شي عن مبادرة الحزام والطريق. وتحركت بكين للاستثمار في البنية التحتية وتطويرها، وتوسيع استخدام عملتها، وعملت الشركات الصينية لربط الطرق البرية والبحرية عبر أوراسيا والمحيط الهندي، ثم المحيط الهادئ لاحقًا. كما حدثت تطورات أخرى بوتيرة سريعة، بما في ذلك إنشاء البنك الآسيوي للاستثمار في البنية التحتية. ووصف شي تايوان بأنها “قضية سياسية لا يمكن تناقلها إلى أجيال”، ونفذت إستراتيجية للبناء الوجود العسكري لبكين في بحر الصين الجنوبي.

بحلول عام 2015، أطلق شي عملية إعادة هيكلة لجيش التحرير الشعبي، وحولته من جيش “مترهل وفاسد وغير مختبَر” إلى جيش أكثر كفاءة في قيادة قوة الصين الخارجية. بالإضافة إلى ذلك، نجح شي في إدخال تعديلات على دستور الحزب لتوجيه الدولة إلى “حقبة جديدة” من التنشيط الوطني، بما في ذلك إزالة قيود الفترة على قيادته. وفي هذا الصدد، ولا سيما خلال فترة ولاية أوباما الثانية، أصبحت قوة إصرار شي أكثر جرأة في محيطها الآسيوي، الذي كانت الولايات المتحدة لا تزال تراه “محورها” الإستراتيجي الخاص بها. وستثبت هذه الإجراءات علامات مقلقة لأوباما، وإدارات دونالد ترمب وجو بايدن لاحقًا، مما ينذر بعهد جديد من ضوابط الدولة الأكثر صرامة داخل الصين، وعسكرة السياسة الخارجية بشكل متزايد[22].

سعى جيش التحرير الشعبي إلى تطوير قدرات عسكرية لإضافة مزايا تشغيلية وتكنولوجية أساسية لحماية فضائه الإستراتيجي المتنازع عليه مع جيرانه في شرق بحر الصين وجنوبه، وركزت القيادة العسكرية الصينية على القدرات الجوية والفضائية والبحرية والإلكترونية، ووجه موارد سياسية وتنظيمية ومالية كبيرة لهذا[23]. بالإضافة إلى ذلك، ركزت الاستثمارات الصينية على التقنيات العسكرية المبتكرة، مثل الأنظمة المستقلة وغير المأهولة، ومركبات إعادة الدخول القابلة للمناورة (بما في ذلك الصواريخ التي تفوق سرعة الصوت)، والذكاء الاصطناع،ي وغيرها من التقنيات التمكينية؛ من أجل القفز إلى الجيل السادس الأحدث في القدرات القتالية.

كان من الواضح أن بكين تعمل على تحديث وتجديد جيش التحرير الشعبي، كجزء من إستراتيجية صينية أوسع، حيث اعتبر شي القدرات القتالية للجيش الهدف الرئيس لجهود التحديث. وعندما وصل إلى السلطة، لم يكن شي الأمين العام للحزب الشيوعي الصيني ورئيس الدولة فقط؛ ولكنه أصبح رئيسًا للجنة العسكرية المركزية (CMC)، وفي هذا المنصب، أصلح شي مؤسسات الجيش “في إطار هيكل جديد، مع ممارسة اللجنة العسكرية المركزية القيادة الشاملة” على حوكمة الجيش. من خلال هذا التغيير، كُلِّفَ ضباط جيش التحرير الشعبي وجنوده بإعادة الاصطفاف الأيديولوجي كأساس للحفاظ على ولاء الجيش المطلق للحزب، ومن خلال المنظمات الحزبية العسكرية، تم محاربة الفساد والتكيف مع مطالب الجيش المستقبلية، بما في ذلك إنشاء نظام قيادة مشتركة أكثر كفاءة، وتدريب أكثر واقعية لتحضير سيناريوهات الحرب، وزيادة عدد المقاتلين المهرة والمؤهلين.

التطبيق الصيني للذكاء الاصطناعي العسكري

بدأت الصين عملية بحث وتطوير تركز على قيادة العالم في مجال الذكاء الاصطناعي بحلول عام 2030، في حين أبدت بكين ترددًا تجاه أنظمة الأسلحة الفتاكة الذاتية التشغيل خلال المؤتمرات الأخيرة لاتفاقية الأسلحة التقليدية، إلا إن الحكومة الصينية قررت دعم صناعة الذكاء الاصطناعي لديها بـ(152) مليار دولار أمريكي، بالإضافة إلى نمو المجالات المتعلقة بالذكاء الاصطناعي إلى (1.86) تريليون دولار أمريكي على مدى السنوات العشر المقبلة، مما يعزز فكرة أن الصينيين جادون بشأن الأهمية الإستراتيجية للذكاء الاصطناعي، ودوره في المنافسة المدنية والعسكرية الحديثة.

وركز التحديث العسكري الصيني أيضًا على تطوير مجموعة أوسع من المجالات المتطورة، مثل الحرب الإلكترونية والفضائية، والصواريخ الباليستية المضادة للسفن، والطائرات الشبحية. من الواضح أن تصور القيادة الصينية لأمنها القومي كان متمحورًا حول تفسيرها للحركات العالمية المهيمنة الممزوجة بوضعها الداخلي. وحسب تقييم بكين في الكتاب الأبيض للدفاع لعام 2015، فإن البيئة الخارجية المواتية بشكل عام ستبقى مستقرة سنوات أخرى على الأقل. في هذا الصدد، كان المقصود بعبارة “مواتية بشكل عام” هو ما أدركه قادة بكين أن الحقبة الزمنية الحالية تمثل “فرصة إستراتيجية”، حيث يمكن للصين أن تواصل تحديثها دون مواجهة تحديات خارجية كبيرة[24].

 مع أنه بدءًا من عام 2019 وما بعده، تواجه بكين تحديات أكبر، بما في ذلك التنافس العدائي مع الولايات المتحدة واليابان والهند، واقتصاد أقل استقرارًا على مستوى العالم، وضرورة الحفاظ على اقتصادها محليًا، ظهر اتجاه آخر لصالح الصين، وهو التحرك نحو عالم متعدد الأقطاب، حيث قيمت بكين أنها في وضع يمكنها من توسيع “مكانتها وتأثيرها الدوليين”. وعند النظر في ظهور حدود تكنولوجية جديدة للحرب، أكد المحللون الصينيون التحديات التي تواجهها بكين، ومتطلبات بناء جيش أكثر قوة[25].

طائرات بدون طيار

استثمرت الصين بكثافة في تطوير أسراب من الطائرات بدون طيار، والمركبات السطحية غير المأهولة، وركزت على تطوير أنظمة روبوتية محمولة جوًّا، أكثر من تركيزها على الأنظمة الأرضية أو البحرية. بالإضافة إلى استخدام الذكاء الاصطناعي لتحسين فعالية المنصات والتكتيكات الحالية. ومع ذلك، فهي تعمل أيضًا على تطوير أنظمة أكثر ابتكارًا في إطار الجهود المبذولة لإنشاء قدرات جديدة، وخاصة القدرة على تنفيذ ضربات اختراق.

وعملت الصين على تمكين طائراتها بدون طيار من العمل باستقلالية أكبر مع إمكانات الإقلاع والهبوط، وتخطيط مسارات الطيران على أساس التضاريس، وتحديد الأهداف، مع أنه يبدو أن الطائرات بدون طيار لا تزال بحاجة إلى إذن بشري لإطلاقها، لكن كثيرًا من المشروعات لتحسين أجهزة الطائرات بدون طيار، بما في ذلك البطاريات، والمولدات، وروابط البيانات، تعتمد على استقلالية الذكاء الاصطناعي.

في الوقت الحاضر، يجري العمل على بناء روابط بيانات بين منصات الطائرات بدون طيار الموجودة وتحسين التنسيق بينها. وفي المستقبل، من الواضح أن جيش التحرير الشعبي الصيني يخطط لتطوير أسراب تعاونية تطلق من الجو، ويمكن استرجاعها جوًّا لمشاهدة أهداف عالية القيمة، مثل حاملات الطائرات، والتشويش عليها، وضربها في وقت واحد. وتعمل الصين أيضًا على تطوير صواريخ كروز ذكية تعمل بالذكاء الاصطناعي، ربما باستخدام قدرات تحديد المسارات، وتحديد الأهداف، على غرار نظام (LRASM) الأمريكي. واقترح وانغ تشانغ تشينغ، نائب مدير المختبر الرئيس لشركة الصين لعلوم الفضاء والصناعة التقنيات: “أنه يمكن ترقية الصواريخ بقدرات أكبر، بما في ذلك مستوى معين من الإدراك والاستشعار، وصنع القرار، والتعلم”[26].

مثل كثير من المؤسسات العسكرية المتقدمة الأخرى، استثمر جيش التحرير الشعبي في الذخائر المحمولة. والمثال الأبرز هو (CH-901)، وهي طائرة بدون طيار محمولة، ويتم التحكم فيها عن بعد، وقادرة على حمل رأس حربي. وأنتجت شركة صناعة الطيران الصينية أيضًا طائرة هليكوبتر بدون طيار، يمكن إطلاقها بالصواريخ، تسمى (Sky Eye)، وهذه الطائرة بدون طيار قادرة على تحديد الأهداف، وإلقاء الضوء عليها باستخدام محدد ليزر، وتحديد ما إذا كان الهدف قد دُمِّرَ أم لا بشكل مستقل، والانتقال إلى الهدف التالي[27].

مركبات أرضية غير مأهولة

مع أن جيش التحرير الشعبي يبدو أنه استثمر في المركبات الأرضية غير المأهولة (UGVs) أقل مما استثمر في الطائرات بدون طيار، فإن القدرات التي يطورها للحرب البرية تُظهر أيضًا درجة عالية من تكنولوجيا الذكاء الاصطناعي. وتشير المصادر الصينية إلى أن هذه الأنظمة، مثل نظيراتها المحمولة جوًّا، تتطلب إذنًا بشريًّا قبل اتخاذ إجراءات مميتة. وتشمل المنصات المبتكرة أنظمة مثل (Sharp Claw I)، وهي مركبة استطلاع عن بعد بست عجلات، وزنها طن واحد، و (Sharp Claw II)، وهي مركبة (UGV) صغيرة ومسلحة، وتتعقب هدفها بشكل مستقل، دون تدخل بشري.

تعمل الصين أيضًا على تثبيت أجهزة الاستشعار وأجهزة الكمبيوتر في المنصات العسكرية لجعلها قابلة للتشغيل عن بعد ومستقلة، وتشمل هذه المنصات ناقلات جند مدرعة، ومركبات استطلاع أرضية مدرعة، ودبابات قتال رئيسة أقدم من طراز (Type-59). وعلى عكس الولايات المتحدة، أمدّ جيش التحرير الشعبي الصيني بالفعل دباباته بأنظمة حماية نشطة مماثلة لنظام (Raytheon Quick Kill). ويطور جيش التحرير الشعبي الصيني نظام دفاع جوي بالليزر منخفض الارتفاع (Low Altitude Guardian)، ويستطيع تحديد الأهداف وتتبعها بشكل مستقل، ولكنه يحتاج إلى إذن من مشغل بشري لإطلاق النار.

روبوتات بحرية عسكرية

أبدت القوات البحرية لجيش التحرير الشعبي اهتمامًا أيضًا بالروبوتات البحرية، وذلك لتعزيز فعالية أسطولها الحالي. في فبراير 2018، أكملت الصين بناء أكبر موقع اختبار للطائرات البحرية بدون طيار في العالم، وقد كلّفَت قيادة جيش التحرير الشعبي الصيني، القوات البحرية بكثير من الدراسات للملاحة (USV) في ظروف بحرية معاكسة، خصوصًا للدفاع عن المواني في بحر الصين الجنوبي.

 تمتلك السفن الحربية التابعة لجيش التحرير الشعبي أيضًا أنظمة دفاعية تعتمد على الذكاء الاصطناعي، على غرار الأنظمة الأمريكية، التي تعمل بشكل مستقل تمامًا، ويعمل جيش التحرير الشعبي على تطوير نظام قائم على تحديد الأهداف بين عدة وحدات وأنظمة مضادة تعتمد على الطائرات بدون طيار التي تطلق من السفن لتعزيز فعالية السفن السطحية المأهولة.

وتطور القوات البحرية في جيش التحرير الشعبي الصيني مجموعة متنوعة من الطائرات الصغيرة بدون طيار تحت الماء، بما في ذلك الطائرات الشراعية تحت الماء، والطائرات بدون طيار في أعماق البحار، ومعظمها من أجل مهام المسح، على الرغم من توافر معلومات أقل عن هذه الطائرات، لكن شركة (Yunzhou Systems)، وهي شركة ذات علاقات وثيقة مع بحرية جيش التحرير الشعبي الصيني، أجرت عمليات مسح في بحر الصين الجنوبي باستخدام طائرات صغيرة بدون طيار[28].

تخطط الشركة الصينية لعلوم والتكنولوجيا (CASTC) للمضي قدمًا في تطوير قدرات جديدة، وتخطط لتطوير قطع بحرية غير مأهولة، أبرزها مشروع (D3000)، وهي بطول 30 مترًا، وتأمل (CASTC) أن تكون قادرة على التشغيل المستقل مدة تصل إلى 90 يومًا، ولها مدى يصل إلى 540 ميلًا، وتشارك في عمليات مضادة للسطوح أو الغواصات. وعلى عكس (Sea Hunter) الأمريكية ستكون هذه المركبة مسلحة- بشكل كبير- بطوربيدات وصواريخ مضادة للسفن، وأنظمة دفاع قريبة، وأسلحة أخرى[29].

تأمل الصين أن يساعد الذكاء الاصطناعي منصاتها على العثور بسرعة على الأهداف المخفية، ويعمل على الدمج الذاتي لمصادر استخبارات متعددة، بما في ذلك المعلومات الاستخباراتية المفتوحة المصدر، وربما الذكاء البشري، في صورة تشغيلية واحدة مشتركة. وقام جيش التحرير الشعبي الصيني بكثير من المشروعات باستخدام التعلم لتحسين التعرف على الصور، والتمايز بين الصور الفوتوغرافية، والأشعة تحت الحمراء، والرادار، وصور المستشعرات الأخرى. وستمكّن هذه المشروعات أجهزة الكمبيوتر من التعرف- بشكل مستقل- والتمييز بين السفن المدنية والسفن الحربية والأهداف الأخرى.

الذكاء الاصطناعي في التخطيط

يهتم جيش التحرير الشعبي باستخدام الذكاء الاصطناعي لمساعدة القادة على اتخاذ قرارات أفضل بشكل أسرع، في حين أن هناك بعض الجدل بشأن المدى الذي يجب أن يتم فيه تفويض قرارات القيادة الفعلية للذكاء الاصطناعي، لكن كثيرًا من علماء جيش التحرير الشعبي يرون ضرورة في مزيد من أتمتة أنظمة القيادة الخاصة بهم لتسريع عملية اتخاذ القرار. ويُنظر إلى الذكاء الاصطناعي أيضًا على أنه قادر على مساعدة القادة على اتخاذ قرارات علمية موضوعية أكثر من خلال فرز كميات كبيرة من البيانات. وعملت جامعة الدفاع الوطني التابعة لجيش التحرير الشعبي على استخدام الذكاء الاصطناعي لتطوير إستراتيجيات “الفريق الأحمر”  في مناورات الحرب، وهو مشروع يمكن أن يجعل التدريب أكثر صعوبة وواقعية، مع توفير اختبار لتطبيق الذكاء الاصطناعي على وظائف القيادة.

على الرغم من اهتمام جيش التحرير الشعبي بالتحول إلى جيش حديث، واستخدام قدرات الذكاء الاصطناعي، فقد أعرب الكثيرون عن حذرهم بشأن الدور المستقبلي للبشر في هذا النظام الجديد. ووفقًا للخبير العسكري الصيني إلسا كانيا، فإن “مسائل الثقة ستكون لها الأولوية. هل يميل جيش التحرير الشعبي- إلى حد ما- إلى الثقة بالذكاء الاصطناعي، مقارنة بالذكاء البشري؟ هل ستكون المنظمة العسكرية، التي غالبًا ما تبدو غير راغبة في منح الحكم الذاتي لضباطها وأفرادها المجندين، على استعداد لتبني استقلالية أنظمة الذكاء الاصطناعي؟”. من الصعب تصور كيف يمكن للحزب الشيوعي الصيني أن يسلم صنع القرار لأجهزة الكمبيوتر التي قد تولد إجابات تتعارض مع مصالح الحزب. ومع ذلك، فقد حدث مثل هذا الحدث بالفعل على نطاق صغير. في عام 2017، انخرط اثنان من “روبوتات الدردشة” الصينية في مناقشة مستقلة، وقررا أنهما لا يحبان الحزب، وأغلقتهما السلطات[30]. مثل هذه الحوادث لها صدى خاص في جيش التحرير الشعبي. بعد كل شيء، هو “جيش الحزب”، والتلقين الأيديولوجي، والمراقبة، والانضباط أمور مستمرة، وأصبحت هذه هي الحال بشكل خاص في عهد شي جين بينغ، الذي لجأ إلى التكتيكات الماوية لتطهير المعارضين السياسيين في الجيش من خلال حملته لمكافحة الفساد، بالإضافة إلى دوره المتزايد في العملية التأديبية للجنة العسكرية المركزية.

نظرًا إلى أن الأنظمة المستقلة أصبحت أكثر قوة وموثوقية، فمن المحتمل نفور جيش التحرير الشعبي الصيني من تفويض السلطة لها، وقد يجعله أكثر ميلًا إلى نشر أنظمة مستقلة يمكن التحكم فيها بشكل مباشر من جانب القادة المركزيين أكثر من الجنود الأدنى في سلسلة القيادة. ومع ذلك، فحتى أكثر المنصات استقلالية من المحتمل أن يكون لها حكم ذاتي مقيد فقط، وتبقى تحت الإشراف الوثيق للقادة العسكريين ومسؤولي الحزب. ومن المرجح أن يكون السؤال الرئيس لجنرالات جيش التحرير الشعبي هو: هل سينفذ النظام المستقل أو الجندي المُلقن، الأوامر من أعلى بشكل موثوق به؟

أشار كثير من المعلقين الصينيين إلى مزايا صنع القرار البشري مقارنةً بالذكاء الاصطناعي. على سبيل المثال، أشارت إحدى المقالات، التي نشرتها وزارة الدفاع الوطني، إلى أنه بينما يوضح نظام الكمبيوتر (Alpha Go) كيف يمكن محاكاة الخيال البشري، فإن الحرب الفعلية أكثر تعقيدًا، وقد يراوغ فن القيادة المبتكر الآلات بعض الوقت[31]. حتى المؤلفون الذين يعتقدون أن الذكاء الاصطناعي يمكنه تولي بعض وظائف صنع القرار التكتيكية أو التشغيلية، يقرون- في كثير من الأحيان- أنه من المحتمل ألا يحل محل القادة البشريين بالكامل.

من ناحية أخرى، أشاد جيش التحرير الشعبي- في بعض الأحيان- بمزايا الذكاء الاصطناعي في إجراء العمليات المشتركة. وتشبه وزارة الدفاع الوطني الصينية- على سبيل المثال- الذكاء الاصطناعي بـ”ضابط أركان رقمي لا غنى عنه”، يساعد على تحديد توقيت العمليات، ويحدد الاتجاه الرئيس للعدو، بل يحدد الاتجاه الرئيس لقوات جيش التحرير الشعبي. “إن الذكاء الاصطناعي يمكنه تحديد القوات المطلوبة ومتى، وكذلك تحديد مدة الحملات. وبشكل منفصل، تسلط وزارة الدفاع الوطني الضوء على حاجة المؤسسات إلى تذكر الأحداث الماضية وتحليلها لتحسين عملية صنع القرار في المستقبل، وهو تطبيق واضح آخر للذكاء الاصطناعي. ويمكن أيضًا إعطاء الأنظمة المستقلة سلطة قيادة أكبر في المناطق التي تكون فيها السرعة أمرًا بالغ الأهمية، خاصة في العمليات السيبرانية، حيث يمكن أن تتجاوز سرعة العمليات قدرة البشر على التدخل بشكل هادف. ويمكن للذكاء الاصطناعي أيضًا أتمتة اختيار الهدف، ويكون أكثر كفاءة من البشر في ضرب أهداف متعددة في وقت واحد.

الحرب السيبرانية

أعرب جيش التحرير الشعبي عن اهتمامه باستخدام الذكاء الاصطناعي في الحرب الإلكترونية. وعلى الجانب الدفاعي، تبحث قوة الدعم الإستراتيجي في جيش التحرير الشعبي في استخدام التعرف على الأنماط لتحديد هجمات رفض الخدمة الموزعة والدفاع عنها، وتحديد التهديدات المستمرة المتقدمة. كما طورت مجموعة الصين للتكنولوجيا الإلكترونية طريقة تستخدم شبكة عصبية عميقة لاكتشاف اختراق الشبكة. ويركز جيش التحرير الشعبي على استخدام الهجوم السيبراني لتعطيل أنظمة العدو.  ويضاف هذا إلى تركيز الحكومة الصينية الأوسع نطاقًا على إيجاد تطبيقات للذكاء الاصطناعي، مما يجعل من المرجح أن تكون قوة الدعم الإستراتيجي ومنظمات جيش التحرير الشعبي الأخرى تبحث في القدرات السيبرانية الهجومية القائمة على الذكاء الاصطناعي.

من الواضح أن جيش التحرير الشعبي الصيني مهتم باستخدام الذكاء الاصطناعي لتحسين عمليات الاستحواذ، والصيانة، والعمليات التجارية. وكُلفت القوات الجوية في جيش التحرير الشعبي الصيني بدراسة لاستخدام التعرف على الصور لتحديد الشقوق في شفرات المروحيات، بالإضافة إلى نظام قادر على تحليل ما يصل إلى 300 من المعدات، ومن سجلات الصيانة لتمكين الصيانة التنبؤية، وتوفير تحذيرات مبكرة من الفشل الوشيك في الأنظمة الكهروميكانيكية. وعلى الجانب التجاري، أطلق جيش التحرير الشعبي الصيني مشروعات لاستخدام البيانات الضخمة وتحليلات البيانات لتحسين محاكاة سلسلة التوريد وإدارتها، ودعم أقسام الأعمال في جيش التحرير الشعبي الصيني بمعلومات عن صناعاتهم. وقامت القوات البحرية في جيش التحرير الشعبي بمشروع لإنشاء “نظام تصنيع ذكي للبيانات الضخمة” للسفن الحربية، قد يستخدم التعرف على الصور لتحديد أعطال الهيكل، والنمذجة الثلاثية الأبعاد لتصميم السفن[32].

السباق الأمريكي – الصيني في مجال الذكاء الاصطناعي

ابتداءً من التسعينيات، نفذت الحكومة الصينية برنامج تحديث اجتماعي وعسكري ضخمًا مصممًا لرفع الصين إلى مكانة قوة دولية كبرى. وفقًا لبيانات مجلس العلاقات الخارجية، بلغت ميزانية الدفاع للحكومة الصينية عام 1990، (21) مليار دولار أمريكي. بين عامي 1990 و2018، زادت ميزانية الدفاع الصينية إلى (239) مليار دولار أمريكي، بزيادة قدرها (11) ضعفًا[33]. في الوقت نفسه، ارتفعت ميزانية الدفاع الأمريكية من (574) مليار دولار أمريكي إلى (634) مليار دولار أمريكي، مع زيادة كبيرة بعد عام 2001 للعمليات القتالية المستمرة في أفغانستان والعراق[34].

بين عامي 2004 و2014، تضاعف عدد مهن العلوم والتكنولوجيا والهندسة والرياضيات تقريبًا من أقل من (400000) إلى (723000)، مع ما يقرب من (75000) براءة اختراع معتمدة في بكين وحدها، ونتيجة لهذا الاستثمار في التعليم ارتفعت تطورات الذكاء الاصطناعي في الصين. عام 1997، نشر العلماء (1086) ورقة بحثية متعلقة بالذكاء الاصطناعي، أو (4.26) في المئة من الإسهامات البحثية العالمية للذكاء الاصطناعي. ارتفع هذا العدد إلى (37347) ورقة بحثية متعلقة بالذكاء الاصطناعي نشرها علماء صينيون عام 2017، ليشكلوا (27.68) في المئة من الإسهامات البحثية العالمية للذكاء الاصطناعي. ويتجاوز هذا الرقم الإسهامات البحثية الأمريكية المتعلقة بالذكاء الاصطناعي بأكثر من (10000) دراسة[35].

عام 2018، نشرت (DIU)، وهي منظمة وزارة الدفاع المسؤولة عن “نشر التكنولوجيا التجارية وتوسيع نطاقها” لأغراض الأمن القومي والأغراض العسكرية، دراسة عن إستراتيجية نقل الصين للتكنولوجيا. ليشير التقرير أن بحلول عام 2050 قد ينمو الاقتصاد الصيني إلى (150٪) من الاقتصاد الأمريكي في الإطار الزمني نفسه. بالإضافة إلى أنه ستبلغ سرقة الملكية الفكرية المقدرة من الولايات المتحدة من جانب الصين بـ (300) مليار دولار أمريكي سنويًّا. وعلى المنوال نفسه، ما يقرب من (25٪) من خريجي العلوم والتكنولوجيا والهندسة والرياضيات من الجامعات الأمريكية هم من الصينيين. كما أن الصين مندمجة- اندماجًا كبيرًا- في الابتكار التكنولوجي للولايات المتحدة، وتقدر استثماراتهم بين عامي 2006 و2016 في شركات التكنولوجيا الأمريكية بـ (35) مليار دولار أمريكي[36].

بين عامي 2010 و2017، بلغ إجمالي استثمارات الذكاء الاصطناعي في الصين )1.3( مليار دولار أمريكي فقط، مع )2.1( بالمئة فقط من الناتج المحلي الإجمالي الصيني المخصص للبحث والتطوير. وتجدر الإشارة إلى مدى سرعة ارتفاع هذا الاستثمار بين عامي 2015 و2017، لتبلغ (11.52) مليار دولار، جنبًا إلى جنب مع عدد صفقات المشروعات الصينية في تكنولوجيا الذكاء الاصطناعي[37].

تضمنت الخطط الخمسية للصين زيادة إلى (2.5) في المئة من الناتج المحلي الإجمالي بحلول عام 2020، أي ما يقرب من 350 مليار دولار أمريكي، في مجال البحث والتطوير. وبالمقارنة، يبلغ إجمالي الإنفاق في الولايات المتحدة نحو (3-4) في المئة من إجمالي الناتج المحلي على البحث والتطوير مجتمعة بين القطاعين العام والخاص، مع توصيات (NSCAI) لاستثمار أقل بقليل من 100 مليار دولار أمريكي على مدى السنوات الخمس المقبلة في الذكاء الاصطناعي. إلى جانب خطوط الابتكار الأخرى، في عام 2015، ارتفعت طلبات براءات الاختراع الصينية بنسبة (19) في المئة، مقارنة بعام 2014، في حين نمت طلبات براءات الاختراع الأمريكية بنسبة (2) في المئة فقط، وأنتجت الصين أيضًا ما يقرب من ضعف عدد الخريجين في مجالات العلوم، والتكنولوجيا، والهندسة، والرياضيات، مقارنة بنظرائهم الأمريكيين.

عام 2016، قدم الصينيون أسرع كمبيوتر عملاق في العالم، وعرضوا كثيرًا من تقنيات الجيل السادس، بما في ذلك قمر صناعي للاتصالات الكمومية. ويختتم (DIU) تقريره ببعض النتائج المهمة:

  1. ليس لدى حكومة الولايات المتحدة نظرة شاملة عن مدى سرعة حدوث نقل التكنولوجيا، أو مستوى الاستثمار الصيني في التكنولوجيا الأمريكية، أو التقنيات التي يجب حمايتها.
  2. ليس لدى الولايات المتحدة سياسة شاملة، أو أدوات لمعالجة هذا النقل الضخم للتكنولوجيا إلى الصين.
  3. تستثمر الصين في تقنيات المستقبل الحاسمة التي ستكون أساسًا للابتكارات المستقبلية لكل من التطبيقات التجارية والعسكرية، بما في ذلك الذكاء الاصطناعي[38].

وفيما يتعلق بأنظمة الأسلحة الفتاكة الذاتية التشغيل، طورت الصين بالفعل صاروخ كروز شبه مستقل قادرًا على اتخاذ القرار بمساعدة الذكاء الاصطناعي خلال الطيران. بالإضافة إلى ذلك، عام 2017، عرضت جامعة صينية تابعة للجيش سربًا جويًّا بدون طيار مكونًا من أكثر من (1000) طائرة. ويمكن أن تعزى هذه التطورات إلى زيادة بنسبة (620) في المئة في الإنفاق الدفاعي الصيني في الفترة بين عامي 1996 و2005، ثم مضاعفة ميزانية الدفاع ثلاث مرات بين عامي 2007 و2017.

 على النقيض من ذلك، ظل الإنفاق الدفاعي للولايات المتحدة ثابتًا نسبيًّا. لكن وزارة الدفاع الأمريكية طلبت عام 2020 أربعة مليارات دولار أمريكي لبحث الأنظمة الذاتية، بعد إنفاق ما مجموعه (9.7) مليار دولار أمريكي على الأنظمة غير المأهولة والمستقلة عام 2019. تمثل هذه الأرقام زيادة كبيرة في ميزانية الذكاء الاصطناعي العسكري الأمريكي، لكنها لا تقترب من التوصيات التي قدمتها (NSCAI) بشأن الاستثمار في الذكاء الاصطناعي بحلول عام 2026، وأقل كثيرًا من الاستثمارات الصينية المخطط لها خلال الفترة الزمنية نفسها.

لكن الاستثمارات الأمريكية أدت أيضًا إلى زيادات كبيرة في القدرات. وقامت كثير من الفروع العسكرية الأمريكية، بالاشتراك مع الجامعات المدنية، و (DARPA)، وغيرها من مراكز البحوث المدنية والعسكرية، بتطوير تكنولوجيا الأسراب والطائرات بدون طيار ، مثل (Gremlin) التابعة لـ (DARPA)، التي يمكن إطلاقها من طائرات أكبر، والتنسيق مع الأصول المقاتلة المحمولة جوًّا. وتتمتع هذه الطائرات بدون طيار بالقدرة على الانخراط في تكتيكات الأسراب الهجومية المصممة لإرباك الدفاعات، مع توفير أخطار منخفضة للمشغلين من البشر. ولن تمر هذه التطورات الأمريكية بدون منافسة؛ حيث يعمل “مجمع تطوير الذكاء الاصطناعي الصيني” الذي يقدر رأس ماله بنحو (2.12) مليار دولار أمريكي، على خطط مماثلة، ومن المتوقع أن يرتفع رأس مال المجمع إلى  (15) مليار دولار[39].

تتطلب هذه الزيادات في القدرة بسبب التكنولوجيا المدعومة بالذكاء الاصطناعي، أو التي يحركها الذكاء الاصطناعي، جيلًا جديدًا من القادة العسكريين من أجل الاستفادة- بشكل مناسب- من القوة المتطورة. وطوّر مركز التقييمات الإستراتيجية (CSBA)، بالاشتراك مع (DARPA)، في الآونة الأخيرة، مفهومًا جديدًا لـ”حرب الفسيفساء”[40]. وكانت العمليات العسكرية السابقة “تتمحور حول الشبكة”، وتتطلب كميات ضخمة من البيانات ليجمعها ويحللها قائد يمكنه بعد ذلك توصيل الإستراتيجية التشغيلية إلى المرؤوسين. يتطلب هذا الشكل من صنع القرار مستويات وعي ظرفي عالية لفهم الطبيعة الكاملة للبيئة الإستراتيجية والتشغيلية، وربما حتى التكتيكية. وصُممت التطورات الحديثة في الحرب الإلكترونية خصيصًا لتقويض القيادة، والسيطرة، والاتصالات، وأجهزة الكمبيوتر، والاستخبارات.

وتدرك (CSBA) الحاجة إلى التحول إلى أسلوب الحرب المعزز بالذكاء الاصطناعي “المتمحور حول القرار”؛ لذا فإن نموذج حرب الفسيفساء، حيث يتم تحديد هدف من جانب قائد، ثم تطلق أنظمة الذكاء الاصطناعي مجموعة من “سلاسل القتل” المستقلة على المستوى التشغيلي والتكتيكي، هو مفهوم ثوري في الحرب، ويتعارض مع عقيدة الحرب الأمريكية، ويتركز على المناورة والاستنزاف.

إن سباق التسلح بين واشنطن وبكين في مجال الذكاء الاصطناعي العسكري يعطي لكل منهما المزايا الجيوستراتيجية في مناطقهما الخاصة، ما يجعل تطويق الحدود الصينية من جانب القطع العسكرية الأمريكية التقليدية “مسارًا غير مستدام”، ويوفر تطوير الأسلحة غير المأهولة، والفتاكة القائمة على الذكاء الاصطناعي القدرة المستدامة على العمل في ظل تغيرات البيئة الدولية، وسيكون له تأثير عميق في  توازن القوى الجيوستراتيجي.

خاتمة

قيمت هذه الدراسة موقف الولايات المتحدة والصين من أنظمة الأسلحة الفتاكة الذاتية التشغيل في ضوء استغلال الذكاء الاصطناعي. كما أنها وضعت التصريحات الأيديولوجية والدبلوماسية والمشروعات العسكرية للبلدين في سياق إعادة سرد مشهد القوة الصلبة الذي تشكل عبر المحيطين الهندي والهادئ.

دخلت الولايات المتحدة فترة جديدة من المنافسة مع الصين على التطورات التكنولوجية الحديثة في الذكاء الاصطناعي، تزيد من تعقيد المشهد الدولي، وأدرك العلماء والسياسيون وكبار الضباط العسكريين أن دمج الذكاء الاصطناعي هو نشأة ثورة جديدة في الشؤون العسكرية، مع القدرة على تغيير ميزان القوى الإستراتيجي، لكن الولايات المتحدة، المثقلة بسنوات الفشل في الشرق الأوسط، والنزاع الروسي- الأوكراني يعرقلان إستراتيجية ذكاء اصطناعي طويلة المدى تمتد حتى عام 2025، وهي ليست مستعدة لدخول هذا “الجيل السادس” من القدرات العسكرية من أجل تأمين المصالح الإستراتيجية. وستُحدَّد هذه القوة الممكّنة للذكاء الاصطناعي من خلال أنظمة شبه مستقلة ومستقلة، بما في ذلك أنظمة الأسلحة الفتاكة المستقلة. وسيحصل من يطورها ويستخدمها على ميزة إستراتيجية على منافسيه في هذا العصر الجديد. ومع أن الولايات المتحدة تمتلك حاليًا ميزة في الذكاء الاصطناعي، فإنها تنكمش بسرعة بسبب الافتقار إلى التفكير المستقبلي، وسياسة الاستثمار، في حين يعمل جيش التحرير الشعبي الصيني- بقوة- على تطوير تطبيقات الذكاء الاصطناعي الروبوتية والبرمجية، لكن لا توجد أنظمة أسلحة صينية معروفة حاليًا تعمل في الميدان، أو قيد التطوير، وتتمتع بالاستقلالية الكاملة، ولكن بعضها يتمتع بالفعل بدرجة عالية من الاستقلالية، ويمكن أن يعمل- على الأرجح- بدون وجود إنسان. وإذا سلك جيش التحرير الشعبي هذا الطريق، فسيواجه التحديات نفسها التي تواجهها الولايات المتحدة في تحديد المسؤولية والمساءلة عن سلوك أنظمة الأسلحة الفتاكة الذاتية التشغيل.

ويجري جيش التحرير الشعبي حاليًا أبحاثًا في تقنيات تحديد الهدف بواسطة الذكاء الاصطناعي، يمكن أن تجعل أسلحتها أكثر استقلالية عن المشغلين. وتعمل بكين أيضًا على مجموعة متنوعة من الأنظمة القائمة على الذكاء الاصطناعي، والتعلم الآلي؛ لدمج البيانات بشكل مستقل من مجموعة واسعة من أجهزة الاستشعار لتحديد الأهداف المخفية، وتوفير صورة شاملة للقادة لتمكين اتخاذ القرارات بسرعة. ويأمل جيش التحرير الشعبي في المستقبل أن يعمل هذا النظام كـ “ضابط أركان رقمي”؛ لتوفير المعلومات، والتوصيات، واقتراحات التخطيط للقادة.

مع أن بكين دعت رسميًّا إلى فرض حظر على أنظمة الأسلحة الفتاكة الذاتية التشغيل، فإن الطريقة التي تقترحها لتعريف تلك الفئة من الأسلحة ضيقة جدًّا، إلى درجة أنه حتى لو تمت الموافقة على هذا الحظر، فمن المحتمل ألا يؤثر كثيرًا في أي نظام قيد التطوير حاليًا في أي من الولايات المتحدة أو الصين. ومع ذلك، ليس لدى الولايات المتحدة الكثير لتخسره في إشراك الصين في مفاوضات بشأن اتفاقية دولية لتقييد تطوير أو استخدام أنظمة الأسلحة الفتاكة الذاتية التشغيل. ولا يبدو أن الحظر الذي اقترحته بكين محاولة مقنعة لتقييد تطوير الذكاء الاصطناعي في الولايات المتحدة؛ ومن ثم فقد تستفيد واشنطن من الدخول في مفاوضات، ومحاولة ضمان أن يكون تعريف منظومات الأسلحة الفتاكة الذاتية التشغيل، الذي اعتمدته الأمم المتحدة، أقرب إلى وقف سباق تسلح مع بكين.

ما ورد في الدراسة يعبر عن رأي الكاتب ولا يعبر بالضرورة عن رأي هيئة التحرير


شارك الموضوع