湘淮军之所以能够兴起，最终打败太平军，其关键因素在于它们的制度优势。事实上，若以数量计，太平天国的军队，在数量上比湘淮军要多得多。1864年在天京（南京）城下太平军和湘军的一场决战，太平军多至百万，而湘军不过20多万，然而结果却是太平军大败。湘淮军的编制，人称勇营制度，这是一种借鉴明代戚继光的戚家军模式组建起来的新军。这种军队虽然在形式上并不新，但由于引入了洋枪洋炮，淮军还引进了洋操，也有很大的改变。而中国的现代海军，是洋务运动的产物，是从武器装备到训练到编制规程都模仿西方的现代化军队，至少在制度上，已经看不出中国特色。
不过，需要特别指出的是，虽然旧的国家军队八旗和绿营已经不中用了，晚清大多数时间基本上是湘淮军在维持，但旧制军队却依然保留。所以，晚清的国家军队制度，实际上是一个杂乱的混合体。
1．勇营制度
勇营成军的基本原则是“将必亲选，兵必自募”。曾国藩在组织湘军的时候，利用自己的门生网络，在最偏僻的乡村招募士兵。招兵原则跟戚继光一样，城市的市井之徒不要，兵痞不要，只招那些老实巴交的农民，而且这些农民往往跟招募他们的人有乡谊和亲缘关系。他的门生招到多少人，则组成多少人的单位，够一营则一营，够一哨则一哨，谁招的兵则谁当长官。在当时，形成了一支人称“书生带乡农”的军队。李鸿章的淮军书生味要淡一些，但基本原则跟湘军大体一致。这样的军队每个单位的士兵只认得长官一人，唯自己长官马首是瞻，一旦长官战死，则整个单位的编制取消。而每个单位的长官又只服从他的直接长官，最后大家服从部队首长一人。整个湘军每个单位以亲缘和地缘为纽带，以长官为中心，荣辱与共，生死相关，因此凝聚力很强。这种军队，跟兵为国有、兵将不相知的八旗绿营有本质区别，实际上就是中国历史上出现过多次的私兵体制。好一点的像宋朝的岳家军、韩家军，明朝的戚家军，不好的像唐朝的藩镇。虽然有弊有利，但有一点是可以肯定的，就是在非常时期，这种私兵比较能打仗，在白刃相交的冷兵器时代尤其如此（与太平天国的战争，应该是冷热兵器的交替时期）。
湘军的编制，以营为基本单位。每营500余人，营有营官1人，每营由前后左右4哨组成，每哨100余人，哨有哨官1人，哨长1人。每哨由八队组成，每队12人左右，队有什长、伙勇各一。每营有亲兵六队，由营官直接管带。另外每营还配备夫役180余人。湘军的现代化程度不高，部队的装备刀矛和旧式抬枪、新式洋枪混合使用。营有劈山炮，但由亲兵队掌握。湘军骑兵的编制与步兵稍有不同，每营有前后左右中5哨，每哨有5棚，棚相当于步兵的队。这样的军队编制，一个最大好处就是，一旦采用西式武器，比较匹配。因为它跟西方军队的班、排、连、营的建制大体相当。淮军编制与湘军基本相同，但由于淮军地处江浙一带，得风气之先，又接收了华尔洋枪队，所以很快就用洋枪洋炮装备起来，而且请洋人教练，实行洋操，因而现代化程度大大超过湘军，战斗力也大大提高。左宗棠领导的左系湘军，也因为接管了常捷军的洋枪队而迅速现代化。
湘淮军一度在后来的战争历史上发挥了很大作用，至少晚清的内乱，基本上都是他们平定的。左系湘军甚至还远征新疆，讨平阿古柏叛乱，帮助清政府通过外交手段收回伊犁。但应该指出的是，湘淮军从本质上讲，还不是西式军队。正如罗尔纲所总结的，湘淮军以营为基础，营以下的建制跟西方军队还有几分相似，但营到军队的统领（司令）没有任何中间层次。这样的状况，很不利于大的战役的展开，当营的长官被提升为统领时，由于没有中间环节的锻炼，一般都不适应。况且，湘军大部分将领，对于新式武器往往不甚热心，更谈不上制度变革。淮军虽然很早就采用了西式操练，但一直练兵不练官。（参见罗尔纲：《晚清兵志》，第一卷，北京，中华书局，1997。）同时，朝廷为了鼓励湘淮军作战，在镇压太平天国以及后来的捻军等国内叛乱过程中，滥加官衔以资奖励，所以军中军官士兵，因功而升官者甚众，官衔为提督和总兵者比比皆是。由于国家武职官职有限，所以大多数人都不能得到实缺，所以有提督衔的往往只是一个千总或者把总，这样的军队，指挥起来显然有麻烦。关键是在湘淮军的层次，中国依然没有形成西式军事分类式编制，更没有形成军官团及其精神，湘淮军在起初的那点来自于乡土的锐气，加上士大夫智慧一度虽然可以压倒太平天国农民，但成军一久，过去军队的陋习就又感染了这支“新军”。到了甲午战前，虽然武器装备更新了多次，但湘淮军差不多都丧失了锐气，变得暮气沉沉。
2．海军制度
晚清海军是中国现代化过程的明珠，是中国最先进的兵种。原本晚清拟建的海军有三支舰队。福建海军成军最早，但早在1884年即毁于中法战争。南洋海军一直就没有成气候，所以，真正意义上的现代海军，只有北洋一支。北洋海军到甲午战争前，共有军舰28艘。其中定远和镇远两艘装甲巨舰，排水量7 000多吨，装备有305毫米口径的巨炮，装甲之厚足以抵挡那个时代任何大炮的轰击，总排水量4万吨（参见姜鸣：《龙旗飘扬的舰队——中国近代海军兴衰史》，128～129、278页，北京，三联书店，2002。），在亚洲居第一位。北洋海军的组成人员，也集中了当年留学英国的大多数人才，加上中国自己海军学校的毕业生，是当时中国西化程度最高的一支军队。
展现中国海军制度面貌的《北洋海军章程》，基本上是参照英国海军拟订的，在当时，是中国最西方化的军队制度模本。学习的眼光和目标，都相当远大，甚至比当时的日本还要走得远一点，北洋海军大体上就是按照这个章程组建的。
海军制度分为军官和士兵两个系列。军官分为战官和艺官，战官指指挥战斗的军事指挥员，分为管带（舰长）、大副、二副、三副；艺官是指军舰上的技术军官，即各舰的管轮官。原来绿营的军官职衔，如提督、总兵、副将、参将直至外委的头衔还保留，但其意义更类似于西方的军衔，只有提督和左右两翼总兵才有具体的职务上的意义，相当于舰队司令和副司令。值得一提的是，海军章程还规定，海军军官一律由海军学校毕业生担任，是近代中国第一个有学历要求的军队制度。
士兵分为水手、炮目和当差兵匠三种，还有预备兵练勇。练勇、水手和炮目各分三等，依次递升。三等水手由一等练勇升任，三等炮目由一等水手升任。兵匠是技术兵种，非经过专门学习不能充任。在士兵和军官之间，还设置了弁目，即西方的军士，凡水手长和炮弁都是这个级别。
新建的海军装备不可谓不先进，制度不可谓不完备，但这支中国最先进、最豪华的军队，还是不可避免地走向衰败。更可悲的是，从国外留学归来的海军将领，也逐渐沾染上了旧军队的陋习，有章不遵，有令不行。军队的训练，在跟原来的英国总教习琅威理闹翻之后，日益流于形式，变成了好看、不中用的“花架子”。在甲午战争前，日本间谍发现中国舰艇上的水兵，居然在大炮上晾衣服。所以他们在报告中，认为中日如果开战，中国必败。
