تاريخياً لا يوجد أي انتصار يذكر للجيش اليمني منذ ما قبل عهد المملكة الإمامية في الشمال وحتى اليوم، كان الجيش اليمني دائماً ضعيفاً وغير فعال في كل الصراعات، ويغلب عليه طابع الارتزاق ومن يدفع أكثر، ويحتاج لدعم ميليشيا القبائل والجماعات المتطرفة في جميع صراعاته الداخلية ولم يكن للجيش أي بطولات حتى في ثورة 26 سبتمبر الشمالية عام 1962م، في معارك الدفاع عن النظام الجمهوري، لم يسجل الجيش شرف المقاومة والتحرير من النظام الإمامي الكهنوتي، بل على العكس معظم أفراد الجيش اليمني هربت وخانت ثوار سبتمبر، وحاربوا مع الإمام المخلوع الذي ثار الشعب ضده، استمرت المعارك في ثورة 26 سبتمبر 8 سنوات استنزف فيها الداعمون الإقليميون السعودية ومصر حينها لدراجة أن الجميع عرف قصة الارتزاق العلني للجيش اليمني والأفراد غير النظاميين وراجت العبارة الشهيرة "في النهار جمهوريون وبالليل ملكيون" وما أشبه الليلة بالبارحة.
في عهد المخلوع علي عبدالله صالح، الذي وصل إلى كرسي الحكم بعد عمليات اغتيالات للحمدي والغشمي في العام 1978م، وكانت تحوم حوله الشبهات باعتباره من خطط لاغتيال الرئيسين كي يخلي الطرق أمامه، فقد قام المخلوع صالح، منذ بداية توليه الحكم بتجميع عائلته وأقربائه حوله وبدأ ببناء جيش عائلي خاص به وبعائلته، وأنشأ قوات الحرس الجمهوري، وأوكل قيادتها لأخية ثم لنجله أحمد، ثم أنشأ قوات الحرس الخاص وقوات الأمن المركزي فكان يتم استقطاب الكوادر العسكرية والشباب إلى جيشه العائلي ودفع المليارات لصفقات الأسلحة المتطورة بهدف تسليح وتطوير جيش مملكته العفاشية، وقضى على الجيش اليمني من خلال عدم تحسينه وكذلك الحروب المصطنعة بصعدة مع ميليشيا الحوثي التي أنشأها ومولها للّعب على التناقضات وابتزاز الأصدقاء والخصوم وأيضاً لهدف توريث الحكم لنجله أحمد، لكن ثورة 11 فبراير الشبابية أطاحت به وبجيشه العائلي وأحلام التوريث ورمت بهم إلى مزبلة التاريخ.
بعد ثورة الشباب وانتقال السلطة من المخلوع عفاش إلى الرئيس هادي، بدأ المشير هادي، وبحكم تخصصه ماجستير تفكيك الجيوش، في إخضاع الجيش لعمليات جراحية صعبة وإعادة هيكلة واسعة، لينهي بذلك الجيش العائلي وما كان يخطط له المخلوع صالح طوال 33 عاماً، ونفذ الرئيس هادي تغييرات كبيرة للجيش وقام بتوزيعه على 7 مناطق موزعة في الشمال والجنوب، نصفها سقطت بيد الانقلابيين الحوثيين وهي المناطق العسكرية الواقعة في المحافظات الشمالية بالإضافة إلى جيش صالح العائلي من حرس جمهوري وغيره، بينما بقيت المناطق الواقعة في الجنوب وإمارة مأرب تحت سيطرة الجنرال الإخواني علي محسن الأحمر، لا تقاتل في الحرب مع الحوثي وإنما تهدد السلم الاجتماعي وتوجه سلاحها ومدافعها على المدنيين بالجنوب في حضرموت وشبوة والمهرة وسقطرى.
هذا الجزء المتبقي من الجيش الذي يتبع الشرعية لا يخضع لتوجيهات الرئيس هادي بتاتاً، والدليل ما حصل في تعز عندما وجه الرئيس والمحافظ بوقف الحملة العسكرية على تعز لكن التوجيهات لم تنفذ لا في تعز ولا في مأرب أو غيرها بسبب نفوذ الأحمر، ويشكل الجنرال الأحمر تكتلات عسكرية ذات طابع ملشاوي إخواني تحت مظلة الشرعية، ويمارس بمعية وزير دفاعة المقدشي، أصناف الفساد حيث إن 70 % من الجيش أسماء وهمية بحسب اعتراف المقدشي، بالإضافة إلى عمليات تهريب الأسلحة للحوثيين وتحالفهم مع الحوثي لزعزعة أمن واستقرار الجنوب نكاية بالمجلس الانتقالي الجنوبي المسيطر على الأرض.