خبر ⁄تقني

الروبوتات القاتلة على طاولة جنيف... دعوات لضوابط ملزمة

نشر:آخر تحديث:
الروبوتات القاتلة على طاولة جنيف... دعوات لضوابط ملزمة

تتصدر الأسلحة ذاتية التشغيل القادرة على استهداف البشر النقاشات في جنيف هذا الأسبوع، حيث تجتمع الدول في مقر الأمم المتحدة حتى الجمعة للبتّ فيما إذا كانت ستبدأ مفاوضات لوضع ضوابط تنظّم استخدامها، فيما يحذّر خبير في مقابلة مع «وكالة الصحافة الفرنسية» من مخاطر هذه «الروبوتات القاتلة» التي «تختزل الإنسان إلى مجرد بيانات».

يشدد رئيس وحدة الأسلحة وسير العمليات القتالية في اللجنة الدولية للصليب الأحمر لوران جيزيل على ضرورة الإسراع في وضع قواعد ملزمة قبل نشر أسلحة يصعب التنبؤ بأدائها أو التحكم بها في ساحات المعارك.

ويقول: «غالباً ما يُربط النقاش بشأن الأسلحة الذاتية التشغيل بالطائرات المسيّرة، لكنّ هذه التكنولوجيا يمكن دمجها في أي نوع من الأسلحة، مثل الصواريخ والقنابل».

ليست فكرة السلاح القادر على الردّ من دون تدخل بشري جديدة، لكنّ التطور المتسارع في قدرات هذه الأسلحة واستخداماتها بفضل التقدم في مجال الذكاء الاصطناعي، يدفع دولاً للمطالبة ببدء مفاوضات لوضع إطار قانوني ينظّم استخدامها.

ويوضح جيزيل أن بعض هذه الأسلحة الذاتية التشغيل «موجود منذ عقود».

ومن أبرز الأمثلة على ذلك أنظمة الدفاع المضادة للصواريخ المثبّتة على السفن الحربية، والقادرة على رصد التهديدات وإطلاق ردّ تلقائي عليها. ويوضح جيزيل أنه عند مواجهة صاروخ يقترب بسرعة فائقة، «يشرف العسكريون على عمل النظام، لكن لا يتطلب الأمر موافقتهم على كل ضربة».

ويرى الخبير أن مخاطر هذه الأنظمة على المدنيين تظل محدودة في هذه الحالة تحديداً، أي في عرض البحر وفي ظل صواريخ يمكن التعرّف على بصمتها التقنية.

«الذخائر المتنقلة»

ويوضح أن الألغام المضادة للأفراد تُعدّ شكلاً قديماً من الأسلحة الذاتية التشغيل، وقد حُظرت تحديداً بسبب طبيعتها العشوائية، إذ لا تميّز بين المدنيين والمقاتلين.

بمجرد زرعها، تنفجر الألغام عند مرور أي شخص، من دون أن يتمكن مَن زرعها من معرفة ما إذا كان هذا الشخص مقاتلاً أم مدنياً.

وتطرح التطورات التكنولوجية مخاطر جديدة.

يقول جيزيل: «ما يثير قلقنا بشكل خاص هي التطورات التي نشهدها اليوم في ساحات المعارك»، مشيراً إلى ازدياد تطوير أسلحة هجومية قادرة على «البحث عن أهداف وتعقّبها».

ويشير في مثال إلى الذخائر الجوّالة، مثل تلك القادرة على البحث عن رادار للعدو ثم الانقضاض عليه لتدميره. ويوضح أنه نظراً إلى قدرة هذه الذخائر على العمل بشكل مستقل، فهناك خطر من انفجارها على رادار موجود في منشأة يستخدمها المدنيون أيضاً.

مع العلم أنّ القانون الدولي الإنساني، المستند إلى اتفاقيات جنيف الذي تعد اللجنة الدولية للصليب الأحمر حامية له، يشترط على أطراف النزاع التمييز بين المدنيين والمقاتلين، وبين الأهداف العسكرية والأعيان المدنية.

الآلة تحسم المصير

مع ذلك، لا تدعو اللجنة الدولية للصليب الأحمر إلى حظر كل الأسلحة التي تتضمن نوعاً من التشغيل الآلي، بل إلى حظر الأسلحة التي يتعذّر التنبؤ بأدائها، وتلك المصمّمة لاستهداف البشر.

ويرى جيزيل أن الأسلحة المصمّمة لاستهداف البشر تطرح إشكالية أخلاقية إضافية، تتعلق بكيفية تعرّفها على الأشخاص واتخاذها قرار استهدافهم.

ويقول إنّ «هذه الأسلحة تختزل الإنسان إلى مجرد بيانات تلتقطها أجهزة استشعار وتحللها خوارزميات، لتكون الآلة في النهاية هي من يقرر مَن يعيش ومَن يموت».

ويلفت الخبير أيضاً إلى المخاطر الناجمة عن تطور الأوضاع الميدانية خلال المعارك، إذ قد يستسلم أحد المقاتلين أو يُصاب بين لحظة تفعيل السلاح ذاتي التشغيل ولحظة إطلاقه النار. وفي هذه الحالة، يصبح المقاتل شخصاً «خارج القتال» ويتمتع بحماية القانون الدولي الإنساني الذي يحظر استهدافه.

لكن السلاح ذاتي التشغيل قد لا يكون قادراً بالضرورة على رصد هذا التغيير والتعامل معه، حسب اللجنة الدولية للصليب الأحمر.

ويحذّر جيزيل أيضاً من احتمال استخدام هذه الأسلحة خارج النزاعات المسلحة، سواء من جانب دول «لتشديد قبضتها الأمنية على سكانها»، أو من جانب جماعات إرهابية.

ويلفت أيضاً إلى أن أنظمة برمجية مستقلة تعمل بالذكاء الاصطناعي أظهرت في بيئات اختبار سلوكيات غير متوقعة، وخرجت عن الضوابط التي وضعها مبتكروها.

ويقول: «تخيّلوا إذن حجم الخطر عندما تُدمج أنظمة ذكاء اصطناعي يصعب التنبؤ بها في منظومة أسلحة!».

aawsat.com