张作霖的一生都在争议中度过。有人说他卖国，原因是他跟日本人的关系剪不断理还乱；有人说他爱国，原因是他守住了东北100多万平方公里的领土，而东北是当时中国形势最复杂、竞争最激烈的地方。如果没有张作霖在东北的崛起，这块土地也许早就落入敌手，不是被沙俄侵吞，就是被日本人占据，或者被满蒙独立势力所控制。
所以，从实际结果上来看，张作霖是非常爱国的，在他手上未曾丢失东北一寸土地；从表象上看，张作霖又是卖国的，而这其实是他生存发展的一种策略。简单地说张作霖是个务实派，既有自己的底线，又不会硬碰硬地跟日本人较量，以免不可收拾。这个策略是当时东北所能采取的最好策略了，张作霖一直运用得很成功。
在爱国与卖国之间，张作霖采取了如下策略：
一是坚守底线，抵制分裂。二十世纪初的日本对中国的策略就是分裂中国，最好中国军阀混战，越乱越好，这样中国永远构不成对日本的威胁，反过来日本可以从中渔利。而对东北的策略，自1905年日俄战争以后，日本就已经把东北视为自己的势力范围，因为日本认为东北原本被沙俄占去了，是日本通过战争从沙俄手上抢回来的，如果没有日本，东北早就不是中国的东北了。日本的这种想法倒也是事实，所以它在把东北抢回来以后，很想自己独占，但是遭到了德国及英法等国的反对。英法德等国之所以反对，本质上也并不是为中国的利益考虑，而是从列强瓜分中国机会应当均等的角度出发，反对日本独霸东北。日本并没有实力与当时的德国及英法等国对抗，万般无奈之下，才想到了在东北扶植自己的代言人这一策略。当时他们看中了张作霖，一来张作霖在东北各种势力角逐中迅速崛起，具有代理人的资本；二来张作霖主动向日本靠近，与日本各方面关系良好，让日本以为张作霖会是一个很听话的角色，可以有效保护日本人在东北的利益。为此，日本出钱出枪，在历次较量中均站在了张作霖一边，使张作霖登上了奉天督军的宝座。
张作霖登上奉天督军宝座后，并没有按日本的预想积极回报日本。此时日本国内对张作霖产生了两种意见，一种意见以日本外相石井、参谋次长田中等为首，主张继续支持张作霖统一东北，然后策动张作霖独立，使东北脱离中国；另一种以关东都督中村觉大将为首，认为张作霖不可信，待其羽翼丰满后一定会对日本不利，因此应以非常手段诛杀张作霖，反过来可以扶持前清遗老宗社党控制东北。两种意见相较不下的时候，关东都督中村觉大将下手了。1916年5月27日，日本天皇的弟弟由俄国返回路经奉天，张作霖为示友好前去迎接。在迎接完毕返回大帅府的路上，突然一声巨响将张作霖的马车炸飞了天，坐在马车上的卫兵全被炸死。所幸张作霖命大，当时坐在另一辆马车上。事后张作霖明知暗杀行动是日本人干的，但考虑到今后要和日本人交往，并没有深入追究下去。
日本关东军暗杀张作霖未能成功，于是通过川岛浪速策动蒙匪巴布扎布与前清宗社党首领善耆相互勾结，发动满蒙独立运动。巴布扎布有蒙匪3000名骑兵，善耆经过多年的经营，也集合了支持清王朝的所谓满洲特殊部队4800余人，另有招募的4000余人，三股力量合在一起计有1万余人，编成三个旅团，指挥骨干均是日本军官。1916年7月1日，巴布扎布率3000余人，由日军大尉青柳胜敏指挥，从哈拉哈河出发，向突泉、洮南方面进犯。张作霖对于满蒙独立运动采取的措施是坚决予以镇压，这方面他深知日本人的脾气，只有坚决彻底地消灭这股势力，才能从根本上断绝日本在这方面的企图，也才能更加有效地巩固自己的地位。为此，他指示吴俊升率部把蒙匪击退，吴受重伤后，巴布扎布卷土重来，攻势很猛，张作霖又派第二十八师第五十五旅进驻郑家屯平匪。巴布扎布不敌，退入南满铁路属地内的郭家店，托庇于日军保护。9月2日，巴布扎布在日军的护送下撤离郭家店。尽管有日军护送，张作霖依旧令部下尾追，等到日军脱离巴布扎布所部后，即行发动攻击，终在蒙匪撤到阿鲁科尔沁旗、巴林等地时将巴布扎布击毙。满蒙独立运动遂告失败。满蒙独立运动失败后，果然如张作霖所料，日本不得不调整政策，重又回到扶植张作霖的道路上来。
二是明修栈道，暗度陈仓。日本支持张作霖统一东北后，就以控制东北的主要铁路及其沿线为基础，妄图通过控制铁路线上的战略枢纽从而达到控制东北局势的战略目的。彼时日本控制的南满铁路纵贯东北全境，张作霖如果想从黑龙江调兵，北端可以使用中俄共管的中东路，但是到了长春以后就只有南满铁路可用了，长春以南一直到奉天以东、彰武以北完全受日军控制。到了奉天以后，奉天通往山海关有张作霖控制的京奉路可以使用。从以上铁路线控制情况可以看出，日本控制的南满铁路最为要紧，关东军可以利用南满铁路来控制奉军的行动。按照日本当年与民国政府签订的条约：奉军调兵要乘坐南满铁路，必须经日本驻奉天总领事及关东军司令部批准后才可以，而且奉军需要解除一切武装，枪支弹药另行托运。奉军的军事物资，必须得到关东军司令部批准才给运输，日本随时可以拒绝。也就是说，张作霖几十万大军的后勤保障握在日本人手里，只要日本人把南满铁路关闭，奉军就将陷入瘫痪状态。这种状况张作霖尤其不能忍受。
张作霖羽翼丰满后，所思量的就是要改变这种被动局面。为此，由杨宇霆和常荫槐出面，制定了东干线和西干线计划。东干线自奉天修至吉林，然后再沿已经修好的省办铁路至哈尔滨，可以有效连通东北三省的省会城市；西干线从打虎山经通辽至齐齐哈尔，也可以有效沟通奉天、吉林和黑龙江三省的联系。两条干线所起到的作用其实就是对日本控制的南满铁路进行替代。
张作霖要修建这样的两条铁路，当然不会得到日本当局的同意。为了保障铁路修建计划得以实施，张作霖想出了很多点子。对于西干线南部的打通铁路，刚修建的时候是以京奉铁路的支线名义修建的，日本人当时也没太在意，以为不过一条支线而已，起不了啥作用。但是张作霖修着修着就把打通铁路延长了。1926年8月，延长工程向彰武施工，这下子引起了日本高度关注，日本外务大臣币原喜重郎训令驻奉天总领事吉田茂，要其向张作霖询问打通铁路到底要修到哪儿？它的计划是什么？日本政府明确向张作霖表示不能允许有与南满铁路进行竞争的平行线。9月9日，吉田茂访问张作霖又质问此事，张作霖说东北当局没有修建南满铁路平行线的计划，即使有计划也没有筑路资金。12月28日，日本代理总领事要求东北当局停止彰武以北计划，张作霖安排杨宇霆出面说奉天省政府没有彰武至通辽计划。京奉路局把奉天以西换下的旧轨用于打通路的延长，是由北京政府和交通部说了算，东北当局并未参与，把修建责任推给了北京换来换去的民国政府。后来日本为阻止该线的实施还提出了外交照会，甚至采取了切断满铁铁路等措施。这时打通铁路的延长线已经与四洮铁路在通辽接通轨道，西干线已经完全接通。1927年11月15日，西干线正式营运，从此避开了日军控制的南满铁路，发挥了军事运输和开发地方经济的重要作用。
至于东部干线，分为南段和北段两部分进行。修建南段奉海铁路的时候受到日本阻力较小，原因与上面西部干线一样，也采取了瞒天过海的手法，只说修一条官商合办的模范铁路，起点为奉天，终点至海龙县城，中间经抚顺和清原。日本一看这铁路不过是通往奉天的一条小小支线，没啥作用，对南满铁路也根本不会造成任何影响，所以也就同意了。奉海干线于1925年7月开工，1927年8月即已完工。后来张作霖又故伎重施，如上文西部干线延长打通路一样，又开始了奉海线的延长，一直延长至朝阳镇。按张作霖的意思，接下来还要继续延长，一直延长到吉林省的吉林市，这条铁路即东部干线的北段吉海铁路。此时日本人总算看出了张作霖的企图，日本驻奉天总领事和驻吉林总领事分别向张作霖和张作相抗议，还利用东京报刊和东北报刊宣传吉海路是南满路的并行线和竞争线。但是张作霖授意杨宇霆回答说吉海路只是奉海路的延长线，奉天省政府已经用借款洮昂路为妥协条件，换得了日本政府放弃奉海路的借款权。当时签协议时并未规定奉海路不得延长，因此日本没有理由再抗议。日本驻奉天总领事吉田茂非常生气，认为奉海铁路当然是从奉天开始至海龙结束，怎么到了海龙还能延长到朝阳，到了朝阳还能一直延啊延得没完没了，最后还能延长到吉林省的吉林市，那与新修一条铁路有何区别？但是道理是这个道理，吉田茂还是无法反驳条约里没有规定奉海路不得延长的这个事实，只好拿出照会表达日本政府的极度愤怒，要求该计划即行中止。但是张作霖在这件事情上没有妥协，照修不误，铁路就在抗议和嗟商中不断延长，至1929年6月朝阳镇至吉林总站完工，吉海铁路正式通车。吉海铁路在海龙与奉海铁路接轨，实际上已完全实现了东部干线的目标。不过张作霖没能看到东部干线建设完工的那一天。完工前1年的6月份，恼羞成怒的日本人终于下了狠手，将张作霖炸死在离奉天不远的皇姑屯，留下了千古遗憾。