武卫军已名不存，实已亡，袁世凯的野心因而可以借机扩展。当时的北洋大臣又兼练兵大臣，袁自朝鲜回国后，就是因练兵而赢得各方称许，如今他已掌大权，更可发挥了。于是他奏陈改革军制，拟定“新军募集操练规则十九条”，获得清廷认可。派王英楷、王士珍分赴各地，精选简募壮丁6000人，又选派武卫右军卒业50名到日本陆军士官学校深造，并在保定设立督练公所，把军权集中于参谋、教练、兵备三处。每处设一位总办，派段祺瑞为参谋处总办，冯国璋为教练处总办，刘永庆为兵备处总办，王士珍为步兵第一协统兼直隶全省操防营务处督理，王英楷为总参议。袁世凯则自任全军总统，正式改名为“常备军”。
　　常备军可以算做中国正式陆军的开始，袁世凯计划先编成常备新军左镇和常备新军右镇两个军制。每镇辖步队二协，马队一标，炮队一标，工程队一营，辎重队一营。全镇官兵共12512名。当时的军制，所谓镇、协、标、营、队等于现在的师、旅、团、营、连。两镇为一军，是一种战时组织，统率这一军的名叫总统或军统。统制或翼长就是后来的师长，协统就是后来的旅长，标统就是后来的团长，管带就是后来的营长，队官或哨官就是后来的连长，帮带或督队官就是后来的副营长。还有一种混成协，是不同兵种混合组成的一个旅，其规模比普通旅大。
　　常备军建立后，王士珍任第一协协统。其后又成立了第二协。当时袁世凯有个新规定，是“用人唯才”，因此新军所有高级将领必须经过考试，成绩最佳的出任高职。第二协成立后，举行了一次考试，考得最高的是冯国璋，因此便由冯出任第二协协统。
　　袁世凯小站练兵时，他的三个重要干部是：王士珍、段祺瑞、冯国璋，号称北洋三杰，王是龙、段是虎，冯是狗。袁对这三杰一视同仁，不分轩轾，这是袁的统御术，要他的三个重要干部平衡发展，以便互相牵制，便于控制。常备军的协统由考试选拔时，王士珍和冯国璋都当了协统。因此袁对段祺瑞感到非常遗憾。在第三个协成立时，袁怕这位成绩不佳的段祺瑞，仍考不上，乃在考试前把试题偷偷告诉了段，这才使段考上了协统。由于这件事使段毕生为之感动，常常对知交说他受袁宫保的私恩太重。
　　常备军的成立，是袁以方面大任组织中国正式陆军，这就是后来北洋军的源始。
　　光绪卅年（1904年）以前，北洋军已经成立了一二三镇，由王英楷、吴长纯、段祺瑞分任统制。光绪卅一年（1905年）又成立了四五六镇。第六镇是由“巡警营北段”扩充编制组成的。段祺瑞由第三镇统制调为第四镇统制，张怀芝、冯国璋分任第五、第六两镇统制。不久袁又将第三镇和第六镇两镇的番号互相调换，段祺瑞又被调为变更了番号的第三镇统制。这个新的第三镇本是第六镇，它的前身就是“巡警营北段”，所以其中将领都是北洋各镇的骨干，可以算做北洋各军中的核心部队。这第三镇驻防娘子关时，有一个士兵曾打了洋教官一个耳光，惹出了外交麻烦，袁乃派段芝贵接任该镇统制，直到几个月后事态平息，才叫段祺瑞复职。
　　在北洋军不断扩充过程中，各镇统制经常调来调去，如段祺瑞就先后担任过第三、第四、第六镇的统制，这显示袁对干部的使用，决不让他们自己形成一个力量，只把他们当作一张牌在打。
　　袁世凯虽然使用一切手段来敷衍、拢络皇室亲贵，可是随着他的权位和势力膨胀，皇室贵族对袁的疑忌也是日益增大。早在小站练兵时，就有满族大臣说过袁的坏话，并且指使御史参劾袁。到了光绪卅二年（1906年）清廷中满族排挤汉族的风潮发展到顶点，袁的处境也遭遇到空前的艰难。
　　这一年秋天，清廷举行了一次著名的彰德大操，指定大操地点在安阳、汤阴、淇县之间一个地方举行南北新军大演习。参加会操的，北军是第三镇统制段祺瑞部，南军为第八镇统制张彪部。这所谓的南军和北军，是以驻防地点来区分的。第三镇驻防石家庄和娘子关一带，所以称为北军；第八镇驻防湖北，所以称为南军。这次会操时间定为一个星期。清政府派兵部大臣铁良、直隶总督袁世凯为阅兵大臣，王士珍为总参议兼中央审判长，冯国璋为南军审判长，良弼为北军审判长，各省派来的观操大员，一律被派为审判员。这种安排显示出清廷是有深意的，阅兵大臣满汉各一员，南军审判长是汉人，北军审判长是满人。这时满人中排汉最激烈的是铁良。铁良爬得很快，由道员不几年就做了兵部大臣，其特点就是排汉，受到满族大臣的拥戴。铁良的重要干部之一是良弼。良弼在满族中也是很优秀的一个后进，他从日本士官学校毕业，回国不久就表现得不同寻常。袁惯于用私恩收买别人作他的工具，见到良弼是满族中的人才，遂邀请他担任第六镇的标统。一个刚毕业的学生，一下子就做到标统，在当时是很稀有的事情，可是良弼竟薄标统而不为。
　　袁世凯最特出的长处就是机警，他看出满族贵胄少壮派对他极不满意，而他这时也没有力量可以抗衡清政府，因此，他在彰德会操后就向清政府奏请调整军事指挥权，建议把第一镇、第三镇、第五镇、第六镇四镇的兵权改归兵部大臣直接统辖，只留下驻扎直隶省境以内的第二镇和第四镇以尚须训练为理由，请仍由直隶总督统辖。
　　袁这个建议或许是恰合时机，因为建议立刻被接纳，并且立刻派满族将军凤山接替袁的京畿督练新军处会办，同时接替袁所交出的北洋四镇指挥权。有一个传说是：袁这时如果不交出兵权，他很可能要遭遇到严重打击。可是就在紧要关头，他自动交出了大半数以上的兵力，使得一般反袁的人无话可说，同时慈禧仍很信任他，奕劻也全力支持他。而且他手中还握了两镇兵权。为了安慰袁，清廷补授袁长子克定为农工部参议。
　　在中国近代军事史上，日本士官系占了极重要的地位，日本士官系并不属于北洋派，但日本士官系的学生在北洋时代亦曾扮演了重要脚色，因此必须在此作一个交代。
　　原来清朝政府的建军工作，是以甲午战败为其开始。日本政府为了迎接中国的建军潮流，特在“成武学校”以外，加设“振武学校”，这两个学校都是初级军事学校。振武学校的主要学生，都是由中国前往日本投考军事学校的青年。日本的军事教育规则，初级军事学校毕业生，必须先送入联队（相当于现代军队的团），进行下等兵至下士的实习，入伍期由半年至一年不等。这种实习在日本人称呼为“士官候补生”。实习期满，便以下士资格派入士官学校肄业，肄业期一年到一年半。士官学校是日本的中级军事学校。士官毕业后仍须派回联队为士以上的实习，实习期由四个月到六个月，期满后以少尉资格录用。
　　光绪卅年（1904年）日俄战争爆发，日籍学生全体提前入伍，故士官班停办一年。这时中国学生曾推汤尔和、钮永建为代表，由日返国，向北洋大臣袁世凯请愿，要求清朝政府不得允许外国军队在中国领土上作战。光绪卅一年（1905年）日本士官学校步科第三期毕业班、中国籍学生蒋方震以第一名毕业。依照日本规定，士官学校第一名毕业生等于是武状元，应由日本天皇接见，并亲赐刀，这是一桩极大的荣誉。可是这一年的光荣却落在中国学生身上，因此，日本人以后便规定有些课程不许中国学生上课。
　　日本士官的第一、第二两期，中国学生甚少，从第三期起中国学生人数大增，后来为人所知的有：蒋方震、蒋尊簋、李烈钧、蔡锷、张孝准、许崇智、良弼等。蒋方震字百里，浙江海宁人，回国后和同学张孝准、陈调元同被东三省总督赵尔巽延揽，后来做过保定军官学校校长。蔡锷字松坡，湖南宝庆人，回国后被云南总督李经羲延揽，后来领导护国军讨袁。良弼回国后则成为清廷皇族军——禁卫军的高级军官。留日士官学生的出路都是很特殊的，不仅所获的职位高，而且晋级也快，大多在短期内做到了标统（团长）或协统（旅长），也有做到统制（师长）的，这是由于当时清廷缺乏中上级军事干部，因此留日士官生便受到了重视。可是日本士官系的中国学生都具有反满革命思想，大多数后来都参加了辛亥革命。
　　有一个奇怪的现象，袁世凯的北洋军中很少选用留日士官生，所以士官生多数是在南中国活动。后来袁在民国时代做了洪宪皇帝，领导和组织反袁的人物竟多是这些留日士官系。
　　庚子之变后，清朝政府的建军工作是全国性的，袁世凯北洋练兵只是建军工作中的主要部分，其他各省也都在练兵，不过后来未能自成一系，所以没有历史意义。在当时全国各省练兵中，东三省是比较特殊的，东北系军人后来加入了北洋系，在民国初年的军阀纷争局面中，扮演了极重要的角色。
　　东北是清朝的发祥地，清朝末年东北又是对日俄两国的国防前线，所以清廷对东北是非常重视的。光绪三十一年（1905年）盛京将军赵尔巽（驻节奉天，是清朝在东北的最高军政长官），成立了两个军事领导机构：一个是督练公所，主持新军训练工作，赵尔巽兼任总办，实际负责人是士官武状元蒋方震，以总参议名义主持练兵工作；另一个是主持整顿旧军的军务处，由行伍出身的老将张锡銮为总办。张锡銮字金坡，浙江杭县人，他父亲是驻防四川的一个旧军官。他早年随军习武，骑术和枪法都很精绝，廿岁在武昌投军，一步一步往上爬。他和袁世凯私交甚笃，是袁的老把兄。他绰号“快马张”，那时候横行关外的绿林马贼是著名的红胡子，快马张曾招抚了两个著名的红胡子头目，一个是后来名震全国的张作霖，另一个是冯德麟。当时规定，凡受抚的人都必须觅具殷实保人，保证日后不反，张作霖的保人是南澳镇总兵段有恒，就是段芝贵的父亲。
　　这时候，关外还有一支旧军，就是在“古北口”扈驾有功，由北洋巡防军统领升任淮军翼长的张勋。
　　旧军看新军，一切都不顺眼，尤其对那个初出茅庐的蒋方震，他那时年才廿六岁，公然就主持新军一切训练事宜。旧军当然知道，如果新军练成，首先蒙受淘汰命运的就是旧军，因此蒋方震的练军工作才开始了三个月，旧军将领就推举张作霖领头向蒋攻击。张作霖为人侠义，敢作敢为，他能在东北系内崛起就是因为他有胆识，这时他领头反对新军，公然宣称要找蒋方震拼命。赵尔巽左右为难，一方面想保全新军干部，一方面又不愿太压制旧军，乃想出一个折衷办法，就是派蒋方震到德国深造，专研陆军，以缓和旧军不满的情绪。
　　张勋、张作霖后来都被划入北洋派，这是广义的说法，如果照狭义的说法，北洋派应该是指袁世凯在北洋大臣任内编练的新军，并不包括其他各省区所编练的新军或旧军在内。
　　两广也是比较特殊的地区，旧系军人很占优势。在广西省的是陆荣廷。陆字干卿，广西武鸣县人，也是绿林豪杰出身，受广西提督苏元春的招抚，后来他自己亦做到了广西提督，和张勋是同一时期在苏元春下面做管带，彼此曾义结金兰。这两个把兄弟随后分道扬镳，张勋向北方发展，而陆荣廷则始终留在广西，成为地方势力。
　　与陆荣廷齐名的还有一个龙济光。龙济光是云南蒙自人，他的哥哥龙觐光是云南蒙自的世袭土司，被云南总督岑毓英提拔离开蒙自去作外县知县，土司职务遂由龙济光继任。过了几年龙济光也离开蒙自，外出做官，慢慢地竟爬到广西右江道。就在这个期间，龙和陆荣廷不但结成朋友，而且还结为儿女亲家。这时候的广西藩司是张鸣岐，也和龙济光很有交情，待张鸣岐升到两广总督时，龙济光也得张的援引做到广东提督。张鸣岐用龙济光的原因是要龙来抵制跋扈的广东水师提督李淮，就由于这一调动，使龙济光获得在广东扩展势力的机会。
　　陆荣廷和龙济光分别在广西和广东建立他们的势力和军事力量以后，他们都和袁世凯发生了关系，龙济光被列为北洋派的南方健将，和张勋、张作霖被列为北洋派的北方健将一样。
　　在狭义的北洋派中，除了北洋三杰外，当时已崭露头角的人物，还有：
　　王怀庆字懋宜，直隶宁晋县人，在武备学堂毕业，他是小站旧人。卢永祥字子嘉，山东济阳县人，是早期北洋军第三镇第五协协统。陆建章字朗斋，安徽蒙城县人，也是武备学堂的毕业生。此人是冯玉祥舅父。姜桂题字翰卿，安徽亳县人，行伍出身，曾充任僧格林沁的卫队军官，后来率领淮军随左宗棠到新疆，甲午中日战争，他曾在旅顺参战不利，战后被派往小站统率新建陆军的左翼，他是北洋军中年龄最大的一个宿将。和姜桂题一样是行伍出身的还有前面所提到的张勋，也是起自兵间。倪嗣冲，字丹忱，安徽阜阳人，秀才出身，也属于小站练兵时的杂牌将领之一。段芝贵字香岩，安徽合肥人，北洋武备学堂出身，曾拜袁为义父，有干殿下之称。王占元字子春，山东冠县人，马弁出身，被挑选入武备学堂。曹锟则是布贩出身。上述诸人虽然出身不同，但大多数都在武备学堂受过军事教育，只有行伍出身的张勋和姜桂题以及倪嗣冲始终没有进过军事学校。张勋字绍轩，江西奉新人，幼年在河道总督许仙屏家中做书童，因偷东西被逐，乃投奔广西提督苏元春处做厨师，为人善于谄媚，一步一步升到管带。八国联军时扈驾有功，升淮军翼长、云南和甘肃提督。
　　清朝末年编练新军时，其步骤是一面练新军，一面裁汰旧军，并且逐步以新军代替旧军。由于这个决定，对于旧军来说，是非常不满的，任何人无论自己如何愚笨，总不愿自甘受淘汰，所以面临这种命运，他们内心的愤激是可以想象的。
　　当旧军尚没有完全裁汰以前，清朝政府按照新旧军不同的性质和任务，分别编为中央军和地方军。中央军有一定的番号，但无一定的防地，编制比较正规，军器比较精良，军饷也比较优厚；地方军则仍旧沿袭绿营、巡防营、毅军、殿军等等名号，驻防地区是固定的，可是无论军饷、军械、编制都远远不及中央军。由于这种待遇上的差别，便引起了新旧军的极大矛盾，从矛盾的扩大而相互敌对。东北奉天新旧军的互相敌对，就是一个明证。后来清室动摇，新军除了北洋军外都倾向革命，而旧军将领则仍拥护清室。所以终清一朝，旧军竟没有被裁汰，便是因为旧军是忠于清室的。
　　各省练新军，按照清廷规定，凡已练成协（就是后来的旅）以上者，就可以在省城设立督练公所，下分兵备、参谋、教练三处，由督抚为总办。
　　全国陆军成立卅六镇，按省分配，限期编练。其分配和次序为：近畿四镇，直隶两镇，山东一镇，江苏两镇，江北一镇，安徽一镇，江西一镇，河南一镇，湖南一镇，湖北两镇，浙江一镇，福建一镇，广东两镇，广西一镇，云南两镇，贵州一镇，四川三镇，山西一镇，陕西一镇，甘肃两镇，新疆一镇，热河一镇，奉天一镇，吉林一镇，黑龙江一镇，合共卅六镇。这就是清廷编练新军以之成为正式国防军的全貌。卅六镇番号原定自近畿第一镇起，完全依照各省省份大小和省区远近挨次编列，后因各省新军的编组成立迟早不一，所以又改为每镇组成的先后为各镇的次序。每镇下辖两协，所以卅六镇就成为七十二协，其番号亦按次序，如第一镇就是第一协、第二协，第十镇就是第十九协、第廿协，第卅六镇就是第七十一协、第七十二协，以此类推。
　　新军的服制和旧军不同，陆军的军常服以军帽和肩章分为三等九级，军帽正中以龄蟠珠为征，珠的颜色则和文官顶戴分别一样，帽墙缀金辫，以宽窄金辫之多寡为阶级高下之分，肩章则以金辫一、二、三条，金星一、二、三颗表示三等九级，上等一级是金辫三道，金星三颗，中等三级是金辫二道，金星一颗，由此可以类推，领章则以颜色分兵种。
　　光绪卅三年（1907年）北洋的六镇已很完整，其他的卅镇则仍在编组中。北洋六镇情况如下：
　　第一镇是原京畿第一镇，即京畿常备军，驻地在北京，统制是铁良。
　　第二镇是原北洋常备军第一镇，驻地在迁安、永安一带，统制是王英楷。
　　第三镇是原北洋常备军第三镇，驻地在保定，统制是段祺瑞，后易曹锟。
　　第四镇是原北洋常备军第二镇，驻地在小站马厂，统制是吴凤岭。
　　第五镇是原驻山东的北洋常备军第五镇，驻地在山东潍县一带，统制是吴长纯。
　　第六镇是原北洋常备军第四镇，驻地在南苑，统制是段祺瑞。
　　前面曾说过，袁看到清廷满族亲贵对新军眼红，所以把第一、第三、第五、第六四镇的兵权交出。可是不久他又出了一个新花样，他建议把东三省的官制改成和各省一样，把盛京军务名义取消，改为东三省总督，同时向慈禧保荐民政尚书徐世昌出任第一任的东三省总督。袁的另一位老朋友唐绍仪出任奉天巡抚，袁系的朱家宝出任吉林巡抚，有袁干儿子之称的段芝贵出任黑龙江巡抚。这一来袁系的大将彻底地掌握了东北，而徐世昌借口国防重要，要求调第三镇出关，驻防于长春南岭和黑嘴子一带。第三镇是当时北洋军中最精锐的一镇，当时第三镇的统制段祺瑞已转任第六镇统制，而第三镇统制则由曾经做过布贩子的曹锟升任。
　　这时东北旧军张作霖和冯德麟也已经由管带升任为巡防营前后两路统领，驻防新民屯一带。
　　徐世昌在宣统三年（1911年）内调邮传部尚书，遗缺由云贵总督锡良（蒙古人）继任。他携带了军事幕僚陈宦赴任，同时自北洋诸镇中各调一部合编为第廿镇，统制就是陈宦。陈宦是湖北人，以苦学出身，和第六镇统制吴禄贞，第二混成协协统蓝天蔚号称为关外的湖北三杰。
　　锡良只做了几个月的东三省总督，因病辞职，遗缺由四川总督赵尔巽回任。这时陈宦被派到德国考察军事，第廿镇统制由士官生张绍曾接长。赵尔巽又把从德国研习军事归来的蒋方震找回担任总参议。这时在东北士官学生很得意，有蒋方震、张绍曾、吴禄贞、蓝天蔚等。新军羽翼甚丰，蒋方震亦不怕张作霖来找他算帐了。
　　光绪卅三年（1907年）七月，袁世凯已经做了五年零九个月的直隶总督和北洋大臣了，他虽然用尽心思去应付满族亲贵的猜忌，可是排汉的满人对他仍不放心，尤其对他握有兵权的职务不放心，因此他便被解除了直隶总督职务，有旨补授军机大臣兼外务部尚书。这个命令发表的同时，湖南总督张之洞也被任为军机大臣。清末的军机大臣就是枢臣地位，张之洞、袁世凯是当时汉旅的两大名臣，同日拜命入阁，也是一件大事。可是对袁世凯来说，这种调升实在是解除他的兵权，是一种削权的举措。
　　袁的兵权始于小站练兵，获得信任于戊戌政变，壮大于义和团之变，而完成于直隶总督任内。如今他羽翼已成，袁党各据要津，都抓住了精锐的部队，在此时来削弱他的力量是很难的。
　　袁奉命入阁时，坚请辞职，清廷当然不准，只好入京就职。这时首席军机大臣是庆亲王奕劻，奕劻对袁还好，加上慈禧对袁的宠信不衰，所以袁还能站得住，只是他和张之洞相处不很融洽，两人个性和政见都有极大的距离，时常在公事房中闹得很僵。
　　袁在军机大臣兼外务部尚书任内才一年半的时光。这一年半中，袁依违其间，无所建白，所办各项交涉，多有丧失权利者。在他一生中，这一段时间最没有成就。