山本五十六坚决反对这项计划的实施，他始终认为飞机将是未来海战的主要力量，至于战舰，无论建造得如何庞大也无法抵抗一群飞机的轰炸，只要战舰浮出水面就有被击沉的可能。同时，山本五十六还认为，在战斗的时候，战舰来不及发射炮弹就会遭到灵活机动的飞机的猛烈攻击，战舰只会成为昂贵而无用的废物，这样就不如把建造巨舰的经费用来发展海军航空兵，而且只有这样才能使日本海军力量大大增强。
然而，当时的日本海军舰政部部长竭力反对山本五十六的观点，他坚持认为未来海战的决定力量还是巨型战舰，他根据第一次世界大战的实例来进行阐述，认为航空母舰和飞机只是舰队的辅助性武器，当双方发生海战之时，可以用来侦察敌情和进行鱼雷攻击，但是这样只能削弱对方的战斗力，而不能炸沉敌人军舰，最后的决战还得依靠战舰。
山本五十六的意见被搁置，不过他的意见常常被忽视，没有什么大不了的。顽强的山本依然在自己的职权范围之内，想方设法地加强日本海军飞机的研制。他常常到当时日本的两家飞机制造公司进行考察，并且尽可能帮助他们解决所遇到的一切困难。第二次世界大战爆发的时候，日本的飞机制造产量曾高居世界第二位。
6.海军路的巅峰
1936年12月，正当山本五十六在努力发展日本的飞机制造业的时候，新上任的日本海军大臣找到了他，想让他当海军次官。这名海军大臣原本是一名海军大将，在法西斯主义者发动暴乱之后取代原海军大臣大角岑生。
然而，山本五十六拒绝了海军大臣的请求，这使得海军大臣大为恼火，于是新仇旧恨一起算，他对山本五十六说道：“去年，在我奉命作为帝国全权代表前往伦敦参加海军裁军会议时，让你作为随员陪同前往，你执意不从。如今你又拒绝当我的次官，是否对我有看法，存心不同我配合？”
虽然务实的山本五十六鄙夷这个喜欢自夸的人，但是当他听到这样的责难之后，只好接受了这个海军次官的职位。但这两个人并没有合作太长的时间，三个月之后内阁垮台，在新的内阁中，经过山本的竭力斡旋，米内光政取代了他，从而开始了日本海军省的米内－山本体制时代。
1937年7月7日，日本发动了卢沟桥事变，于是，日本酝酿已久的侵华战争全面爆发。这一消息传到日本东京之后，日本军部的观点分为两派，一派被称为强硬派，他们主张抓紧机会迅速解决掉中国；一派被称为不扩大派，他们主张不要把力量消耗在中国，以免陷入战争的泥潭。
山本五十六属于不扩大派，当他听到卢沟桥事变之后，生气地对朋友说：“陆军中的这些浑蛋，果然挑起了战火，简直要把人气疯了……”
虽然山本五十六最初不主张扩大对中国的战争，但在战争扩大之后，作为海军次官的他便主张一举攻下中国。他积极地为日本增兵进行了大量的工作，调动海军航空兵进行前线的轰炸。
不过，中国人民没有让日本的野心得逞，即使屠杀了30多万的南京人之后，中国人民依然没有被吓倒，具有血性的中国人站起来进行最彻底的反抗，终于使得日本陷入了中国战场的泥潭。
在日本陷入到战争泥潭之后，日本统治集团就变得焦躁不安起来，为了营造有利于侵略中国的态势，日本法西斯找到了德国和意大利，希望同他们结盟。在结盟这个问题上，日本陆军和海军又产生了分歧，山本五十六跟米内光政都反对同德国结盟，他们认为日本的主要敌人是美国，没有必要卷入欧洲战场，目前对美国作战尚且准备得不充分，还要同德国结盟，那将得不到丝毫的益处，日本同时还应该避免刺激到美国。
陆军坚持和德国结盟，海军则坚持不同德国结盟，可被战争烧红的德国却已经等得不耐烦了，于是先同意大利缔结了一个“钢铁盟约”。日本法西斯分子看到这个情景，很快掀起了狂热的反动运动，把矛头指向了山本五十六。因为米内光政虽是海军大臣，但是他一向寡言少语显得木讷柔弱，而顽强的山本五十六虽然是次官，但却被众人看做是后台老板，因此，大家指责山本五十六是亲英美派，是阻止签订盟约的绊脚石。
为此，一些右翼势力传话给山本五十六，扬言要揭发他个人的私密，要曝光他与情人的秘密，山本五十六对此丝毫不放在心上，他说道：“难道你们不拉屎放屁吗？假如你们之中有人不拉屎放屁，也从未和女人有过云雨之情的话，我倒要见识见识，听听他的高论。”
右翼分子见此招对山本五十六不管用，于是想到了更狠的招数。他们采取恐吓暗杀的手段。山本在此期间收到了很多恐吓信，有的甚至宣称第二天就要置山本五十六于死地。同时，海军省还收到了很多“宣言书”、“请愿书”、“锄奸书”和“劝辞书”。其中有一封“劝辞书”是这样写的：
海军次官山本五十六阁下：
日英一战势在难免。此战，乃以吾皇道建立世界新秩序之圣战。断绝与英邦交，缔结日、德、意三国军事同盟，乃吾帝国当今务须采取之紧急国策，舍此无以迎战。然，现今国内尚存一股依附于英国之保守势力，实为已亡‘幕府’之续尔。贵官即亲英派之首，且勾结海相米内，竭力阻止维新国策之遂，实出尔等之私利，现已昭然于天下。尔等之所为，使我帝国海军面临堕为重臣财阀私属之危。贵官5月17日，往英国使馆参加晚宴，举亲英之觥，助英人士气之所为，同翌日于鼓浪屿蒙受英、美、法干涉之辱，实出一理，系负吾疆场阵亡将士英灵，置兵卒苦劳于不顾之举。更有甚者，至今仍执迷不悟，一意孤行。国家兴亡，匹夫有责。吾等皇上庶民，出于护国之心，强民族之志，郑请贵官速辞现职。
圣战贯彻同盟
1939年7月4日
常常会有人去海军省闹事，每当这个时候，山本五十六总是主动地躲起来，躲到自己一个下属的家里，就是周六周日也不敢回家，依然躲在下属的家里玩牌、打麻将。
眼看闹事的人越来越多，山本五十六感到越来越需要随身警卫。而警卫来自宪兵队，可海军并没有宪兵队，如果要配备警卫，就只有接受陆军的宪兵。但是陆军以为海军配备警卫为理由，借机安插自己的密探，窃取海军内部的情报，所以山本五十六反对接受陆军的宪兵。最后，海军省便联系到警察署，要求警察署暗中保护山本五十六的安全，警察署便在次官官邸安排了专门负责安全的警察巡逻。
山本五十六表面上还是表现得谈笑风生，但实际上内心早已焦虑不安起来，常常拿自己的脑袋跟别人开玩笑，宣称自己的脑袋可值十万日元。为此，他甚至在1939年5月底写下了自己的遗书：
一死报国君，自古为军人之至高夙愿。战死于疆场抑或捐躯于后方，有何异哉？奋战沙场光荣而死，易；排众议为己志而毙，难。皇恩浩荡，国家长久。吾朝夕所思者乃君国之百年大计，个人之生死、荣辱何足论哉……
就这样，在海军坚持反对之下，日本跟德国的盟约始终没有达成，最后日本宣布停止了三国盟约的交涉。
山本五十六从广田内阁开始，先后经历了林铣内阁、近卫内阁、平沼内阁，并且一直都担任海军次官。到平沼内阁下台的时候，他与米内光政同时离开了海军省。在山本将要离开海军省的时候，有人主张让山本接替米内光政的职位，但米内光政担心山本五十六会被暗杀，只有让他到海上去才能保住性命，于是让山本五十六接任了吉田海军联合舰队司令。
在日本海军的组织里，海军省和军令部以及联合舰队三位一体，它们的职能分工是这样的：海军省负责海军行政和参与内阁有关政策的制订，军令部负责军令和作战计划与作战训练，联合舰队司令部则负责指挥作战。因此，联合舰队司令是每一个海军军官最为向往的职位。
山本五十六接受这一职位的时间是在1939年8月30日，距离第二次世界大战爆发的时间仅有两天。这时候的山本五十六刚好56岁，这个年龄刚好是他出生的时候山本五十六父亲的年龄。山本五十六由此走到人生旅途的顶点，最后也栽倒在了这个职位之上，这是巧合还是冥冥之中的安排？我们管不了那么多，只知道这个日本海军联合舰队的司令官精神格外振奋。
他穿着一身白色的军服，迈着矫健的步伐，向海军省走去，会见了前来采访的记者，一向不饮酒的山本五十六首次把一杯酒一饮而尽，然后开始了他的答记者问。面对记者的提问，山本五十六答道：“这次身负如此重任，实感惶恐，愿尽我微薄之力为国效劳。受命任联合舰队司令长官，此乃军人之最高荣誉。我已下定决心，誓死尽职。”
第二天，山本五十六起程离开东京，他身上穿着白色的军服，左边的胸前戴着一枚一等瑞宝勋章，显得英姿飒爽。在东京火车站站长的陪同下，他走向贵宾候车室，显得从容而又威严。站台上，早已挤满了前来送行的人群，有地位显赫的军官，有花街柳巷的相好，有来采访的记者，有私交甚厚的朋友……
列车在下午1时启动，山本五十六摘下头上的军帽，向车外的人挥手作别，列车快速地前进，眼见车外的人群越来越模糊，只有送行的鼓声依旧绵绵不绝。
9月1日，山本五十六到达了联合舰队驻地，在管乐的迎接下，他登上了联合舰队的旗舰，旗舰的名称是“长门”号。他对这个职位非常满意，仿佛获得了解放一般，他对自己的副官说道：“长官这个称呼不错嘛！很吃得开嘛！海军次官算什么，不过是个高级勤杂工。”
就在山本五十六到联合舰队报到的这一天，远在欧洲的德国闪击波兰，拉开了第二次世界大战的序幕。
山本五十六到任之后，马上进行海军的日常训练，随着一声令下，所有舰只井然有序地拔锚起航。看到航空母舰驶出港口之时，山本五十六的眼睛变得明亮起来，想该是自己把航空战术付诸实践的时候了，他将要改变以往的训练方法。
在以前的训练里，进行训练的军舰要使用信号识别灯和无线电，山本五十六对这一做法不以为然。因为在真正发生战争的时候，舰队出港是不允许使用信号识别灯和无线电的，所以他规定所有军舰禁止开灯，同时也禁止使用无线电进行联络。于是所有军舰只能摸黑前进，大家感到极有压力。
每艘军舰之间保持着一定的距离，小心谨慎地跟着自己的旗舰前进。但是这些军舰都是几万吨的庞然大物，具有难以控制的巨大惯性，一旦启动起来，如果遇到什么麻烦，想突然停住几乎是不可能的，这就使得舰队人员大为紧张。不过这就是山本五十六的目的，他就是要训练大家进行野战的能力。
在完成了前任司令官的训练计划之后，山本五十六便开始了自己的计划，那便是以航空力量为中心的训练。
为了检测日本海军航空兵的作战能力，山本五十六在1940年3月进行了一次演习，这次演习被称为“123号作业”。这次演习的计划是这样的，驻扎在志布的舰队从有明湾起程出发，经过九州的东岸并一路北上，然后向佐旧湾进发。与此同时，航空队对这支舰队进行搜索，在搜索到之后，便在夜里对它们进行轰炸。
负责指挥轰炸的叫渊田美津雄，他是“赤城”号航空母舰的飞行队长；负责舰队的是山本五十六。演习进行的时候，渊田美津雄很快就发现了山本五十六的舰队，之后紧紧地盯死山本五十六的旗舰“长门”号。当“长门”号打开探照灯扰乱飞机的视线并同时用高射炮对飞机进行猛烈攻击的时候，飞机巧妙地躲过了高射炮的反击，同时还不忘向军舰投放炸弹，并且命中率很高。
当山本五十六看到这一情景的时候，不由得高兴起来，他用充满称赞的口吻对身旁的参谋说道：“这批飞机是谁指挥的？”
在听到是渊田美津雄后，他牢牢记住了这个名字。过了一会儿，山本五十六的口里居然冒出了这样一句奇怪的话：“照这个水平，难道不能攻击珍珠港吗？”
身边的参谋长听到这句话，不知道到底是什么意思，只是一脸茫然。而山本五十六自己似乎也不知道自己为什么要说这样一句话，也许是他内心早已萌生了这样一个想法，只是不自觉地从心底跳了出来而已。
