ماذا قالت «هيومن رايتس ووتش» عن استخدام جيش الاحتلال للذكاء الاصطناعي في حرب غزة؟

نددت منظمة «هيومن رايتس ووتش» باستخدام جيش الاحتلال الإسرائيلي لتقنيات المراقبة والذكاء الاصطناعي وأدوات رقمية أخرى للمساعدة في تحديد أهداف هجماته في قطاع غزة.
وقالت «هيومن رايتس ووتش» في وثيقة أسئلة وأجوبة أصدرتها، اليوم الثلاثاء، إن استخدام جيش الاحتلال الإسرائيلي لتقنيات المراقبة والذكاء الاصطناعي وأدوات رقمية أخرى للمساعدة في تحديد أهداف هجماته في غزة يزيد من خطر إلحاق ضرر محتمل بالمدنيين، وتثير هذه الأدوات الرقمية مخاوف أخلاقية وقانونية وإنسانية خطيرة.
وقال بيان المنظمة الحقوقية الذي نشر على موقعها، إن جيش الاحتلال الإسرائيلي يستخدم في أعماله العدائية في غزة 4 أدوات رقمية بهدف تقدير عدد المدنيين في منطقة ما قبل الهجوم، وإخطار الجنود بموعد الهجوم، وتحديد ما إذا كان شخص ما مدنيا أم مقاتلا، وما إذا كان مبنى ما مدنيا أم عسكريا.
وجدت هيومن رايتس ووتش أن الأدوات الرقمية هذه يفترض أنها تعتمد على بيانات خاطئة وتقديرات تقريبية غير دقيقة لتزويد الأعمال العسكرية بالمعلومات بطرق قد تتعارض مع التزامات إسرائيل بموجب القانون الدولي الإنساني، وخاصة قواعد التمييز والحيطة.
وفي هذا السياق، قال زاك كامبل، باحث أول في مجال المراقبة في هيومن رايتس ووتش: «يستخدم الجيش الإسرائيلي بيانات غير كاملة وحسابات معيبة وأدوات غير مناسبة للمساعدة في اتخاذ قرارات مصيرية تنطوي على حياة أو موت في غزة، مما قد يزيد من الضرر اللاحق بالمدنيين، والمشاكل الكامنة في تصميم واستخدام هذه الأدوات تعني أنه، وبدلا من تقليل الضرر اللاحق بالمدنيين، قد يؤدي استخدام هذه الأدوات إلى مقتل وإصابة المدنيين بشكل غير قانوني».
وأشارت المنظمة إلى أن هذه الأدوات تتضمن مراقبة مستمرة ومنهجية للسكان الفلسطينيين في غزة، بما في ذلك بيانات جمعت قبل الأعمال العدائية الحالية بطريقة تتعارض مع القانون الدولي لحقوق الإنسان، وتستخدم هذه الأدوات البيانات الشخصية للمدنيين لتقديم معلومات تستند إليها توقعات التهديدات وتحديد الأهداف والتعلم الآلي.
وفي هذا السياق، ولتقييم الأدوات الأربع التي استخدمها جيش الاحتلال الإسرائيلي في الأعمال العدائية في غزة منذ 7 أكتوبر الماضي، اعتمدت هيومن رايتس ووتش على تصريحات عامة من مسؤولين إسرائيليين، ومواد لم تتناولها التقارير سابقا نشرها جيش الاحتلال، وتقارير إعلامية، ومقابلات مع خبراء وصحفيين، ورغم عدم اكتمالها توفر هذه المعلومات، تفاصيل مهمة حول كيفية عمل هذه الأدوات، وكيفية تصميمها، والبيانات التي تستخدمها، وكيف يمكنها أن تدعم صنع القرارات العسكرية.
ووفقا لبيان المنظمة، من ضمن هذه الأدوات، هناك أداة تعتمد على تتبع الهواتف المحمولة لمراقبة إجلاء الفلسطينيين من أجزاء من شمال غزة كان جيش الاحتلال أمر سكانها بالكامل بالمغادرة في 13 أكتوبر، وأداة تعرف بـ «جوسبل» (The Gospel) تعد قوائم بالمباني أو الأهداف الهيكلية الأخرى التي سيتم مهاجمتها، وأداة تعرف بـ «لافندر» (Lavender) تمنح تصنيفات للأشخاص في غزة فيما يتعلق بانتمائهم المشتبه به إلى الجماعات المسلحة الفلسطينية من أجل تصنيفهم كأهداف عسكرية، وأداة تعرف بـ «أين أبي؟» (?Where’s Daddy)، تزعم تحديد متى يكون الهدف في مكان معين- غالبا مكان إقامة عائلته المفترض، وفقا لتقارير إعلامية- لمهاجمته هناك.
وهذه الأدوات محدودة بسبب مشاكل شائعة مشتركة مع أنواع أخرى من التكنولوجيا، لكن قد يكون لها عواقب قاتلة على المدنيين في السياقات العسكرية، ويفترض أن أداتين منها، وهما أداة مراقبة الإجلاء و«أين أبي؟»، تستخدمان لتوفير معلومات تستخدم في تحديد الأهداف وحركة القوات وغيرها من الأعمال العسكرية باستخدام بيانات موقع الهواتف الخلوية.
ورغم أن هذه الأدوات لها استخدامات عملية عديدة في الحياة اليومية، لكنها ليست دقيقة بما يكفي لتوفير معلومات من أجل القرارات العسكرية، وبخاصة بالنظر إلى الأضرار الهائلة التي لحقت بالبنية التحتية للاتصالات في غزة.
وقالت المنظمة «يبدو أن الأداتين الرقميتين «جوسبل» و«لافندر» تعتمدان على عمليات التعلم الآلي لمد قرارات الاستهداف بمعلومات وذلك باستخدام معايير أعدتها خوارزمية يرجح أن تكون متحيزة وغير مكتملة، ووفق عملية يستحيل تقنيا التدقيق فيها»، وغالبا ما تعكس مخرجات الخوارزمية تحيزات مبرمجيها ومجتمعهم.
وأضافت «رغم أن الأدوات الرقمية يفترض أنها محايدة، فإنها تحظى بثقة مفرطة من جانب مشغليها البشر، رغم عدم تجاوز دقتها دقة البيانات المنشأة بها، وهي غالبا ما تكون غير كاملة في السياقات العسكرية ولا تمثل السياق الذي تعمل فيه الأداة بشكل كامل، ويهدد الاعتماد على هذه الخوارزميات بانتهاك التزامات القانون الدولي الإنساني فيما يتصل بحماية المدنيين».
ووفقا لـ «هيومن رايتس ووتش»، تعتمد «لافندر» و«جوسبل» على التعلم الآلي للتمييز بين الأهداف العسكرية والمدنيين والأعيان المدنية، والتعلم الآلي هو نوع من الذكاء الاصطناعي يستخدم أنظمة محوسبة يمكنها استخلاص استنتاجات من البيانات والتعرف على الأنماط دون تعليمات صريحة، واستخدام التعلم الآلي لتحديد الاشتباه أو تزويد قرارات الاستهداف بمعلومات قد يزيد من احتمال إلحاق الضرر بالمدنيين.
لكن المنظمة أشارت إلى انه لم يكن ممكنا توثيق متى وأين يستخدم جيش الاحتلال هذه الأدوات الرقمية أو المدى الذي استخدمها فيه بالتزامن مع أساليب أخرى لجمع المعلومات والاستخبارات.
رغم ذلك، قالت المنظمة إنه ينبغي لجيش الاحتلال التأكد من توافق أي استخدام للتكنولوجيا في عملياته مع القانون الدولي الإنساني، وقرارات الاستهداف ينبغي ألا تُتخذ حصرا بناء على توصيات أداة التعلم الآلي.
وأضافت، «إذا كانت القوات الإسرائيلية تتصرف بناء على أي من توصيات أو تقييمات هذه الأدوات دون تدقيق كاف أو معلومات إضافية، كما ورد، مما أدى إلى هجمات تتسبب في إلحاق الضرر بالمدنيين، فإن القوات الإسرائيلية تنتهك قوانين الحرب، وارتكاب انتهاكات خطيرة لقوانين الحرب، مثل الهجمات العشوائية على المدنيين، بقصد إجرامي، يشكل جرائم حرب».
وشددت على أنه ينبغي لإسرائيل أيضا، باعتبارها قوة احتلال في قطاع غزة، التأكد من أن استخدامها للأدوات الرقمية لا ينتهك حقوق الخصوصية للفلسطينيين.
وفي مايو الماضي، اكتشفت هيومن رايتس ووتش بيانات نشرها جيش الاحتلال علنا على الإنترنت، يفترض أن ذلك بالخطأ، تضمنت ما يُفترض أنه بيانات تشغيلية تتعلق بالأنظمة المستخدمة لمراقبة إجلاء الأشخاص وتنقلهم عبر غزة، وكذلك لتوقع الضرر المدني المحتمل الذي قد تسببه الهجمات في مناطق معينة.
وأُدرجت البيانات في كود (شفرة) المصدر لموقع معلومات الإجلاء التابع لجيش الاحتلال، وتضمنت معلومات شخصية وأسماء العائلات الأكبر عددا في كل منطقة.
وفي هذا الصدد، قالت هيومن رايتس ووتش إن نشر جيش الاحتلال لهذه البيانات عبر الإنترنت ينتهك حق الفلسطينيين في الخصوصية ويظهر عدم اتخاذه للاحتياطات الأمنية الكافية بشأن ما يجمعه من بيانات.