مع تحذيرات قادة التكنولوجيا من مخاطر الذكاء الاصطناعي، يستحضر معظمهم صورًا لأنظمة ذكاء اصطناعي خارجة عن السيطرة، مثل اختراق الأنظمة المستخدمة في إدارة البنية التحتية الحيوية أو البنوك أو حتى الجيوش.

ومع ذلك، هناك خطر جسيم يُذكر بشكل أقل تكرارًا، وهو التهديد الذي تشكله الأسلحة الفتاكة المدعومة بالذكاء الاصطناعي، والمعروفة في نسخها ذاتية التشغيل بالكامل باسم "الروبوتات القاتلة".

وأبرزت صحيفة الغارديان البريطانية أن سلوك الاحتلال الإسرائيلي في غزة يُظهر أن أنظمة الأسلحة التي تعمل بالذكاء الاصطناعي موجودة بالفعل من جانب مهم، بعدما باتت خوارزمية ما تشارك في تحديد من يعيش ومن يموت.

وعلى مدى أكثر من عقد من الزمان، اجتمعت الحكومات في جنيف لوقف تطوير أسلحة الذكاء الاصطناعي ذاتية التشغيل. وفي أوائل سبتمبر، اجتمعت 128 حكومة للموافقة على تقرير يمكن أن يشكل أساسًا لمعاهدة ملزمة.

لكن مجموعة من المحامين الذين أرسلهم دونالد ترامب وفلاديمير بوتين تعاونوا لإضعاف المبادرة المذكورة، ومن اللافت للنظر أنهم أضعفوا بندًا يُلزم البشر بمراجعة الأهداف العسكرية التي طورتها أنظمة الذكاء الاصطناعي قبل شن أي ضربة.

ولا تزال الأسلحة ذاتية التشغيل بالكامل محور التركيز، بينما لا يُولى استخدام الذكاء الاصطناعي لتحديد أهداف الأسلحة التقليدية القدر نفسه من الاهتمام. ويهدد هذا التوجه السعي للحفاظ على دور العنصر البشري في عملية التحكم، أي ضمان وجود سيطرة بشرية فعالة على الأسلحة التي تعمل بالذكاء الاصطناعي.

حرب غزة والتطور الأخطر

قالت الغارديان إن النظر إلى حرب الإبادة الإسرائيلية على غزة يكشف مشكلة أكثر إلحاحًا، إذ لم يعد الذكاء الاصطناعي مجرد تقنية مستقبلية محتملة في ساحات القتال، بل دخل بالفعل في عملية تحديد الأهداف العسكرية.

وأشارت إلى أنه لطالما راقبت دولة الاحتلال الاتصالات الهاتفية في غزة، ومنذ بدء حرب الإبادة في 7 أكتوبر 2023، استخدمت نظام ذكاء اصطناعي يُدعى "لافندر" لكشف أنماط ربطتها بهواتف عناصر المقاومة، حيث كان من الممكن قتل الأشخاص الذين حدد الذكاء الاصطناعي هواتفهم وفقًا لهذه المعايير.

ولأن استهداف المشتبه بهم في منازلهم كان أسهل، تولى نظام آلي منفصل يُدعى "أين أبي؟" مهمة تتبعهم هناك، ما يعني أن عائلاتهم كانت تُقتل في كثير من الأحيان أيضًا. ولم يكن هناك أي ادعاء بأن المقاومة تستخدم منازل عناصرها لأغراض عسكرية، بل كان من الأسهل ببساطة على نظام الذكاء الاصطناعي العثور على مقاومين مشتبه بهم في أماكن نومهم، وكانت العائلات هي الضحايا الجانبية.

ونظريًا، كان من المفترض أن يبقى عنصر بشري في العملية، لأن الهدف الذي اختاره الذكاء الاصطناعي كان يمر عبر ضباط المخابرات الذين وافقوا عليه وأرسلوه إلى آخرين شنوا الهجوم. لكن هذا الدور البشري كان شكليًا.

ففي الماضي، كانت قرارات الاستهداف الإسرائيلية تخضع لمراجعة دقيقة، لكن موجة القتل الإسرائيلية التي أعقبت بدء حرب الإبادة ترافقت مع طلب شديد على الأهداف، ما طغى على هذه المراجعة.

وكان ضباط المخابرات الإسرائيليون الذين يتلقون اختيارات الذكاء الاصطناعي يمررونها بشكل روتيني إلى المهاجمين دون تردد. وقال أحد الضباط: "كنت أخصص 20 ثانية لكل هدف في هذه المرحلة، وأقوم بعشرات منها يوميًا. لم يكن لوجودي كإنسان أي قيمة مضافة، باستثناء كوني مجرد موافقة. لقد وفر ذلك الكثير من الوقت."

وهكذا، من الحاسوب إلى القتل، أصبح الحكم البشري الممارس شكليًا، مجرد "ختم مطاطي". وفي جوهر الأمر، لعبت الخوارزمية دورًا حاسمًا في عملية الاستهداف.

انتهاك القانون الدولي

وأشار ضابط إسرائيلي إلى أن هذه الممارسة قد تكون مبررة لأن الذكاء الاصطناعي يتخذ قرارات أفضل من البشر، فهو يتسم بالحياد، بينما قد تتأثر أحكام البشر بالعداء الذي شعر به بعض الإسرائيليين تجاه الفلسطينيين.

ومع ذلك، تتأثر خوارزميات الذكاء الاصطناعي حتمًا بالمدخلات البشرية. فما مقدار الأدلة المطلوبة لتحديد شخص ما كمقاتل في المقاومة؟ وما هامش الخطأ المسموح به؟

ويعتمد الجواب على هذه الأسئلة على تقدير مبرمجي الذكاء الاصطناعي وقادتهم، وهم إسرائيليون عاديون ربما استهانوا بحياة المدنيين الفلسطينيين. وحتى الجيش الإسرائيلي أقر بأن حوالي 10% من الأهداف البشرية المستهدفة بالاغتيال لم يكونوا أعضاءً في المقاومة على الإطلاق.

وجسّد الرئيس الإسرائيلي إسحاق هرتسوغ، الاستهتار تجاه المدنيين الفلسطينيين عندما قال: "إنها أمة بأكملها مسؤولة" في إشارة إلى كل مواطني قطاع غزة.

وساهم هذا الاستخفاف نفسه في استعداد الجيش الإسرائيلي للتغاضي عن سقوط ضحايا مدنيين، إذ سمح الجيش الإسرائيلي بسقوط أعداد مرتفعة من الشهداء مقابل كل مقاوم يُشتبه بانتمائه للمقاومة.

وبموجب مبدأ التناسب، يحظر القانون الدولي الإنساني شن هجوم في زمن الحرب إذا كان من المتوقع أن يتسبب في خسائر عرضية في أرواح المدنيين تكون مفرطة مقارنة بالميزة العسكرية الملموسة والمباشرة المتوقعة.

ورغم أن القانون الدولي لا يحدد عدد الضحايا المدنيين المقبول في أي حالة معينة، فإن المادة تشير إلى أن قلة من الخبراء القانونيين يعتبرون نسبة 20 إلى 1 التي حققتها إسرائيل قانونية.

وتخلص صحيفة الغارديان إلى أن هذه الممارسات الإسرائيلية تمثل جرائم حرب، وتعكس استخفافًا بحياة المدنيين الفلسطينيين.

لقراءة نص التقرير كاملا على صحيفة الغارديان أضغط هنا