甲午战争后，马玉昆于1899年任浙江提督，1900年调任直隶提督。当时正值八国联军侵华，1900年8月，侵略军两万余人，沿运河北犯。6月28日，马玉昆率武卫左军5000余人和骑兵1500余人也到达天津。这两支军民队伍一至天津，便与聂士成部武卫前军和曹福田率领的义和团联合作战，对踞守在老龙头火车站和紫竹林租界地内的八国联军进行猛烈的攻击。7月1日，马玉昆率部由刘家庄移驻新浮桥，联军乘其不备，实施进攻，马部奋勇还击，击毙联军20余人。翌日，马部统带郭殿邦、张相泰部，在陈家沟同2000余联军交战，分队迭进，昼夜不息，阵毙联军百余人。聂士成亲率两个步兵营和1个炮兵营，在陈家沟击退联军的援兵，毙伤敌数十名。7月4日至5日，裕禄召集马玉昆、聂士成、曹福田、张德成等人开会，商讨战斗部署。会议决定先将紫竹林联军击退，然后会合各营，节节进剿，直抵大沽口。马玉昆立即率部出发，连日进攻老龙头车站，与联军大战，毙敌慎重。联军只得拆断通往租界的浮桥阻止清军和义和团的进攻。因无援兵，马玉昆只好率部退守南苑，保慈禧、光绪逃往西安。1904年，日俄两国为争夺我国东北爆发战争，马玉昆还奉命出关看守，驻守古北口至朝阳一线。

　　由于和外国侵略者激战多次，马玉昆是清军中少有的了解帝国主义列强军队的将领。他也根据自己的经验，对列强军队做过以下的评价上报清廷，希望能引起清廷足够的重视，以改革清朝军队：“列国军士之有智慧有法纪，虽其将死而指挥自如者，以德、法为最，英、日次之，俄乃最下。俄之军士，其能力无以加于我国，惟将校稍胜耳。仓猝遇伏，将校既歼，行列自乱。又克城以后，往往四出掳掠，大将本营或空虚无人，出不意袭之，往往转败为胜。日本之兵，果锐为诸国最，其耐久战之力，德、法、英、俄皆不及也。而器械之锐利，动作之敏捷，远不如德人。故论列国之兵，法人诎于体，久战先倦；俄人诎于智，失将先乱，皆非不可胜者也。今日我师虽非甚精，然以抗俄人，尚足取胜，惟俄人兵数多而铁道便，彼以众来而我以寡当之，此其所当踌躇者耳。”但由于清政府早已腐败不堪，对于马玉昆的总结并没有给予足够的重视。

(来源:人民政协报)