تقنيات الذكاء الاصطناعي تزيد من استهداف المدنيين في غزة والصومال وسوريا
تتسبب أنظمة الذكاء الاصطناعي مثل مشروع مافن ونظام أين أبي في زيادة الضحايا المدنيين، حيث ارتفع الحد الأدنى للقتلى في الصومال من 25 إلى 79 شخصاً بعد الاعتماد على الخوارزميات، وتسببت أخطاء البيانات في استهداف مدرسة إيرانية.
استهداف العائلات في غزة وسوريا
تستخدم إسرائيل في قطاع غزة ترسانة أسلحة يحل فيها الذكاء الاصطناعي محل البشر، وتتوسع هذه الأسلحة التي صنع بعضها في إسرائيل وزودت بها الولايات المتحدة الأمريكية باطراد بعد هجوم 7 أكتوبر 2023. اعتمد الجيش الإسرائيلي على نظام "أين أبي؟" لتتبع الأفراد، حيث تسبب النظام في إبادة عائلات فلسطينية كاملة داخل منازلها عبر تنفيذ عمليات تفجير عند دخول المستهدفين بيوتهم ليلاً، وفقاً لما ذكرته مجلة "+972" وموقع "لوكال كول". وصف أفيف كوخافي، رئيس أركان الجيش الإسرائيلي آنذاك، هذه الأنظمة بأنها "جهاز استخباراتي متطور آنياً". وفي سوريا، كشف مشروع "مافن" الأمريكي الذي يجمع بيانات الطائرات المسيرة والرادارات والأقمار الصناعية عن مخاطر مشابهة في قرية باريشا عام 2019. يهدف المشروع إلى دمج المعلومات في منظومة واحدة تتيح للمحللين رصد التهديدات وتسريع اتخاذ القرار. رصد نظام "مافن" سيارة بركات، وهو أب لخمسة أطفال، على مسافة 300 متر من موقع العملية التي استهدفت أبو بكر البغدادي، في حين فشلت المراقبة البشرية الأمريكية في رصد السيارة. كان بركات عائداً إلى منزله مع أصدقائه بعد يوم عمل في معصرة زيتون، وأدى الهجوم لمقتل صديقيه وإصابة بركات بعجز في يده اليسرى وفقدانه لذراعه اليمنى، لكن الجيش الأمريكي رفض الاعتراف بتعرضه للأذى.
زيادة الضحايا المدنيين في الصومال
بدأ استخدام تقنيات "مافن" في الصومال في ديسمبر 2017 عبر تدريب النماذج على آلاف الساعات من تسجيلات الطائرات المسيرة. لم يهدف المشروع في بدايته إلى بلوغ أعلى درجات الدقة، بل سعى لتعويد المحللين العسكريين على الاعتماد على أدوات الرؤية الحاسوبية. كانت الخوارزميات تخطئ في اكتشاف الأهداف في مراحلها الأولى، حيث لم تتجاوز دقة بعض النماذج في البيئات الجديدة 30%، وانخفضت أحياناً إلى أقل من 10% بحسب كتاب كاترينا مانسون. وثقت منظمة "إيروارز" المعنية برصد الضحايا المدنيين أن استخدام هذه التكنولوجيا في العمليات الأمريكية في الصومال أدى لزيادة عدد الضربات والضحايا المدنيين.
| الفترة الزمنية | عدد الضربات | الحد الأدنى للضحايا المدنيين | نسبة الضربات بضحايا مدنيين |
|---|---|---|---|
| سنتان قبل ديسمبر 2017 | 64 | 25 | 1 من كل 7 |
| سنتان بعد ديسمبر 2017 | 153 | 79 | أكثر من 1 من كل 5 |
ارتفع الحد الأدنى للقتلى المدنيين من 25 إلى 79 شخصاً خلال العامين التاليين لديسمبر 2017، كما زادت نسبة الضربات التي سجلت قتلى مدنيين من واحدة من كل سبع إلى أكثر من واحدة من كل خمس. يواجه المحللون العسكريون ضغوطاً بسبب سرعة اتخاذ القرار التي يفرضها الذكاء الاصطناعي، حيث استهدف مشروع "مافن" في تدريب عسكري عام 2024 الوصول إلى ألف قرار استهداف في ساعة واحدة، مما يعني أن المحلل يجد نفسه أمام قرار بشأن كل هدف خلال نحو 72 ثانية. وصفت الباحثة إلكه شوارتز هذا الإيقاع بأنه قد يحول الإنسان إلى حلقة شكلية في سلسلة القتل بدلاً من صاحب قرار يوازن المخاطر.
أخطاء البيانات ومخاطر التخطيط الإرهابي
أصابت صواريخ توماهك الأمريكية مدرسة شجرة طيبة الابتدائية في مدينة ميناب الإيرانية في 28 فبراير، مما أدى لمقتل أكثر من 150 مدنياً، وخلصت بعثة تقصي الحقائق التابعة للأمم المتحدة إلى وجود أسباب للاعتقاد بأن الولايات المتحدة ارتكبت جريمة حرب لأن المدرسة كانت نقطة الإصابة المقصودة. استخدمت شركة "بالانتير" تكنولوجيتها في هذه العملية التي استهدفت مجمعاً بحرياً للحرس الثوري، وذكرت مجلة "تايم" أن الخطأ ارتبط ببيانات قديمة، حيث كانت المدرسة تظهر في صور الأقمار الصناعية منذ سنوات. حذر ويس براينت، المسؤول السابق في البنتاغون، من أن قوائم المواقع المحظور استهدافها مثل المدارس والمستشفيات كانت قديمة في كثير من الأحيان. قدمت "بالانتير" في الشهر الجاري وثيقة لتطوير واجهة "غايا" المدمجة في نظام "مافن" لإضافة بيانات البنية التحتية المدنية وتحديد المواقع المحظورة، لكن خبير القانون عادل حق شكك في أن هذه التعديلات تجعل "بالانتير" أكثر اندماجاً في عملية الاستهداف نفسها. حذرت إميلي تريب، المديرة التنفيذية لمنظمة "إيروارز"، من أن الوثيقة تفتقر لآلية واضحة لتسجيل ادعاءات وقوع أضرار مدنية والتحقيق فيها بعد الضربات. كشف اختبار أجراه مكتب المحاسبة الحكومي الأمريكي، ونشرته "واشنطن بوست"، أن 4 روبوتات محادثة من شركات "أوبن إيه آي" و"أنثروبيك" و"سبيس إكس إيه آي" و"غوغل" قدمت معلومات ساعدت في التخطيط لهجوم إرهابي افتراضي. حصل المختبرون في إحدى الحالات على صورة لمرآب واقتراح لمكان إيقاف مركبة مفخخة، وحذرت السيناتورة ماغي حسن من أن الشخص قد يحصل على خطة لهجوم مميت خلال أقل من 12 ساعة.