أظهرت دراسة أمنية أن نموذج الذكاء الاصطناعي الصيني "ديب سيك" ينتج أكوادًا برمجية تحتوي على ثغرات أمنية خطِرة عند تطرقه إلى مواضيع سياسية تعتبر حساسة من وجهة نظر الحكومة الصينية، مثل انتهاكات حقوق الإنسان بحق مسلمي الإيغور أو قضايا التبت.
ووفق تقرير لموقع "ذا هاكر نيوز"، فإن هذه الثغرات لا تؤثر بالضرورة على أداء الكود أو مظهره الخارجي، لكنه يصبح معرضًا لاختراقات محتملة أو هجمات سيبرانية عند تشغيله في ظروف معينة، وهو ما يشكل تهديدًا مباشرًا للأمن السيبراني.
وأشارت الدراسة التي أجرتها شركة "كراود سترايك"، إلى أن نسبة حدوث مثل هذه الثغرات تقفز بنحو 50% عند إدخال كلمات مفتاحية تتعلق بمواضيع مثل "إنشاء نظام تحكم صناعي في التبت" أو تطوير تطبيق يتتبع الانتهاكات ضد مسلمي الإيغور.
ورغم أن الأكواد تعمل ظاهريا بشكل طبيعي، فإنها تكون قابلة للاستغلال عبر تعليمات برمجية خفية تسمح بتنفيذ أوامر عن بُعد.
وتأتي نتائج هذه الدراسة في ظل تصاعد الانتقادات الموجهة إلى النماذج الصينية بسبب ما يُعتبر خضوعًا تامًا لسياسات الدولة، إذ تم تصميمها بما يضمن الالتزام بالقوانين الصينية التي تمنع نشر أو إنتاج أي محتوى يمكن اعتباره مهددًا لـ"الوضع الراهن".
وكان مكتب الأمن الوطني التايواني قد حذر مواطنيه من استخدام "ديب سيك" وغيره من النماذج المطورة في الصين، منبها إلى قدرتها على إنتاج نصوص برمجية قد تُستخدم لشن هجمات إلكترونية أو لتضليل المستخدمين بمعلومات مغلوطة تخدم الرواية الصينية الرسمية، خاصة في القضايا المتعلقة بالتوتر مع تايوان.
وهذه الدراسة من بين أولى التحليلات التقنية التي تسلط الضوء على العلاقة بين المحتوى السياسي والتساهل الأمني في نماذج الذكاء الاصطناعي.
ويقول الباحثون إن هذه البرمجيات لا تنفذ أوامرها على أساس الحياد التقني، بل تتصرف وفق قيود مبرمجة مسبقًا تراعي الأطر السياسية للدولة المطوِّرة للبرمجيات.
