已完结张学良主政东北之初，日本人并没有把张学良放在眼里。当时，担任张学良军事顾问的日本特务头子土肥原贤二起草了一份计划，想让张学良在东北称帝，担当日本人统治东北的傀儡。出乎土肥原意料的是，当他把这份精心策划的文件送到张学良面前时，张学良当面质问他:"你让我当什么满洲皇帝，你这是什么意思!"碰了一鼻子灰的土肥原说不出一句话，只好夹起皮包，悻悻而去。随后，张学良要求日军参谋本部将土肥原调走，得到的回答却是:"这个顾问是日本政府派来的，我们没权调动。"心头满是怒火的张学良将军对来人说:"好，你们没权，我没法子。那么我有这个权吧---我不见土肥原!我不跟他谈话!以后土肥原顾问来，我任何时候都不见。"
1928年12月29日，张学良宣布东北易帜，服从国民政府领导。国民政府在形式上完成了统一。当时，在东北有不少日本间谍，但事先对此事却毫无察觉。
从1929到1931年夏，关东军参谋部先后四次以"参谋旅行团"的名义在东北各地系统搜集情报，拟定各种计划方案。日本军国主义分子也积极为侵略东北做准备。1931年4月，原驻日本寒冷地区仙台的第二师团轮驻辽阳;为对付沈阳城坚固的城墙，日本又从东京调运两门24厘米榴弹炮，配属日军驻沈阳第二十九联队兵营，炮口预先瞄准北大营和飞机场;7月，又从本土增派一个师到朝鲜，准备随时渡过鸭绿江参战。
同时，日本还将熟悉中国情况，担任张作霖顾问多年的本庄繁调任关东军司令官;将一直从事于策划进攻东北，主持制定过多份解决满蒙问题大纲的参谋本部情报部长建川美次少将调任作战部长;另将"九一八"事变的主谋之一、绰号"日本之脑"的石原莞尔以及坂垣征四郎等人调至关东军参谋部任职。
此外，日本还施展调虎离山计，策动阎锡山与汉奸石友三等人挑起反对张学良的战争，将介入1930年中原大战的东北军主力继续吸引在关内，致使东北兵力空虚。至此，日军在东北的准备基本就绪，只等待着合适的时机，寻找借口发动侵略战争了。
现存盘案以及关东军密信认为，张作霖未能满足日本提出在中国东北享有的种种特权，因此非常的不满。因为时任日本首相的田中义一拒绝批准关东军对东北军进行缴械，关东军决定私自策划乘机谋杀张作霖，以此打乱东北军的指挥系统，使东北陷入混乱，以便出兵占领。由关东军高级参谋河本大作大佐具体制定了谋杀的详细计划，奉天特务机关长秦真次、土肥原贤二参与了策划，下命令的是时任关东军司令官的村冈长太郎中将。后来因皇姑屯事件，村冈长太郎、河本大作被编入预备役。据《小矶回忆录》记载，1928年6月16日河本大作从中国东北回到日本东京，对小矶国昭私下吐露了自己是谋杀张作霖的真凶。在河本大作死后出版的回忆录《我杀死了张作霖》中承认杀死了张作霖。
