到达伦敦后，日本代表团下榻于当地的旅馆，并在日本大使馆的对面租了一栋房子作为办事处。一切就绪，英国亦援例展开了会前的摸底工作，他们派出的对日交涉委员是英国外交官中有名的日本通克莱棋，后来他担任了驻日大使。
〃克莱棋的父亲以前是英国远东舰队的舰长，因此他自幼就随父亲来到东方，对于日本的文化、环境自然是了如指掌。〃习惯于洞察别人而又有准确判断力的山本，再次显示了他在代表团中的存在，一眼就看出了英国的意图。他继续说道：〃这次英国竟然派他担任交涉委员，分明是在表示英国反对我们所提出的保留7成军力的要求。〃山本五十六根据自己所掌握的情况分析了英国的企图，虽然话语不多，但句句打动代表团成员。作为一名海军普通军官，对国际事务有如此透彻的理解，使他们大感惊奇。
1930年1月21日，伦敦海军会议正式开幕。日本代表团提出了事先经内阁批准的三大原则：（l）日本水面辅助舰总吨数为美国的7成；（2）大型巡洋舰为美国的7成；（3）潜水艇保持现有的7。8万吨。日本的提案遭到英美的强烈反对，美国坚持非主力舰的吨位比例应按照主力舰的比例，并提出废除潜水艇的建议。于是又出现了10年前在华盛顿召开会议时的6：10与7：10之争。这一次由于日本事先摸清了情况，因而拒不让步，双方争执不下，会议几濒于破裂。英国虽然表面上居于调停地位，但由于麦克唐纳事先也已与胡佛达成协议，美英的意见基本上是一致的。
这种复杂的情况使会议进行得十分困难。山本五十六在这期间寄给海军省军务局长堀悌吉少将的信中提到：〃这次会议真如同老牛拖车，未来的结果实令人担忧。〃
为了不使会议破裂，日美经过一系列幕后交易，于3月达成了一个妥协方案。这一方案在海军舰艇总的比例上接受了日本方案，准许日本辅助舰的总吨数为美国的69。75％，但大型巡洋舰的比例仍维持6：10，潜艇的比例与美国相等。山本作为海军随员对此提出异议，要求征得国内同意。在山本的坚持下，日本的4名全权代表经协商后，于3月14日将上述方案向政府请示。
日本当局接到请示电文后，海军部门的意见分裂为二：海军省认为采取妥协态度是迫不得已，但军令部却表示反对，理由是该案对日本的两大重点即大型巡洋舰和潜水艇极力加以限制，要对美作战，日本的潜艇绝对需要达到7。8万吨，5。27万吨是无法进行对美防御作战的。当时的首相滨日雄幸经过仔细考虑后，同意海军省的看法，并于4月1日复电通知了日本代表。4月2日，日本全权代表若（木规）与英美代表交换了备忘录，4月22日签署了《限制和裁减海军军备的国际条约》。根据这个条约，日本基本上达到了7：10的目的。
然而，日本国内军国主义势力却并不到此为止。他们攻击日本政府对英美实行投降外交，在国内发起了一场攻击政府的运动，指责政府不顾军令部的反对，是侵犯天皇对军队的统帅权①。5月20日，军令部参谋草刈英治少佐企图暗杀海军大臣财部未成，为唤起国内右翼注意而剖腹自杀。6月20日，军令部部长加藤宽治向天皇提出辞呈，一时国内闹得纷纷攘攘。虽然最后条约签字生效，但滨口雄幸首相本人也于当年11月14日在东京车站被杀，这预示了法西斯逆流在日本的崛起。目睹这一变局的山本五十六，回国后深受刺激，遂在家闭门谢客，重新考虑日本的出路。于是外界谣传山本五十六将要辞职。
①明治宪法第十一条规定，日本陆、海军的统帅权归天皇所独有。——作者
好友堀悌吉明白这是谣言，遂到山本家去拜访。彼此寒暄之后，倔军务局长随即言归正传：〃因为你未向海军报到，大家都谣传你将引咎辞职。〃
〃怎能就这样辞职呢？回国后我一直在思索如何来弥补此次会议的缺憾。国人只知道一味地批评条约的不是，这根本无济于事。〃
〃所以又要发表你的飞机论了？〃
〃在这种军备比例下，假如有一天和强劲的美国海军作战应该怎么办？假如我们不理会裁军条约而建造主力舰，他们也同样会造，何况美国的工业技术又超出日本一筹。解决这一问题的唯一办法是，在开战之初以空袭痛击对方，使对方和我国的比例趋于相等。因此当务之急，日本必须做的是发展空军。〃山本非常清楚地看到，裁军条约对海军航空兵的发展方面没有加以任何限制。这可以说是山本在第一次伦敦裁军谈判期间获得的最大收获。
4年之后，山本五十六又一次踏上英国国土，来到了伦敦。山本此次伦敦之行是参加讨论废除〃华盛顿条约〃和修改〃伦敦条约〃的预备谈判的。
虽然距上次伦敦之行仅仅过去了4年时间，但在这4年中，日本的形势却发生了很大的变化。1929年至1933年席卷全世界的经济大危机，日本也未能幸免。在空前的经济危机的冲击下，经济结构本来就十分脆弱的日本，工厂倒闭，百业萧条，由此导致阶级矛盾空前尖锐激化。日本的法西斯势力利用国内阶级矛盾激化的机会，大大膨胀起来，形形色色的法西斯组织在经济危机的高潮中纷纷出笼。1930年夏，军内最大的法西斯组织——樱会宣告成立，这是一个由日本陆军参谋本部中佐至大尉级军官组成的法西斯团体，其宗旨是〃以改造国家为最终目的，如为此需要行使武力，亦在所不辞。〃与对内〃改造国家〃相适应，在对外政策中极力鼓吹：〃战争乃创造之父，文化之母〃，主张以武力解决所谓的〃满蒙〃问题。1931年3月，樱会策划右翼法西斯势力发动政变失败以后，随着主要干部被调到驻中国东北的关东军，发动对外战争又成为日本陆军的主要目标，并在1931年9月18日，制造〃柳条湖事件〃，发动了对中国的侵略战争，在3个月的时间内占领了中国东北全境。
日本少壮派法西斯在中国东北得逞之后，法西斯军人在国内身价立时倍增，军部法西斯的权势日益显赫，法西斯势力空前膨胀，法西斯分子的罪恶活动也更加肆无忌惮。由他们发动的一连串的暗杀事件，给日本法西斯运动涂上了一层血淋淋的斑迹。1932年2月9日，以井上日召为头头的〃血盟团〃，开始实施〃一人一刀〃计划，暗杀了前藏相井上准之助，3月5日，又暗杀了三井财阀的董事长团琢磨。接着5月15日，一批法西斯青年军官与农本主义者橘孝三郎所领导的爱乡塾学员合谋，袭击了首相官邸及内大臣官邸、政友会本部、三菱银行、首都警视厅、变电站等处，妄图制造混乱，乘机实行政变。结果首相犬养毅被暗杀，这就是日本历史上有名的〃五一五事件〃。1933年7月，法西斯分子又搞了一次未遂政变阴谋。他们搞政变是为了在日本建立直接的法西斯专政，为其推行战争政策扫清道路。尽管日本政府逮捕了他们，但在随后对他们的审判中，他们的这些暗杀活动，非但没有受到应有的处罚，反而得到鼓励。狂热的法西斯分子一致拥戴那些造反的谋杀者为英雄，使谋杀者全都被判得较轻的刑罚，无一人被处决。这种情况导致后来上演了更大规模的血腥兵变。
在对外关系上，日本在中国东北扶植了伪满洲国。尽管国联①在对日本侵略中国问题上极尽其妥协绥靖之能事，但由于一方面日本的侵略野心不局限于中国东北，另一方面日本要独霸中国的企图与英美发生了矛盾，所以国联仍在1933年1月的特别大会上通过了谴责日本侵略和要求日本退出满洲的决议。3月29日，日本宣布退出国联，从此日本走上与英美武力对抗的道路。
①全称国际联盟，是第一次世界大战后出现的第一个世界性国际组织。1919年4月在巴黎和会上通过了国际联盟盟约，1920年1月正式成立。——作者
在这一形势下，1935年华盛顿条约即将到期，急于扩大侵略的日本海军迫不及待地要摆脱华盛顿条约对它的限制，因此对海军裁军另提出了自己的要求：放弃〃比例主义〃，主张军舰总吨位一律平等，只规定〃不威胁，不侵略〃的标准。事实上是借此以彻底打破国际裁军条约对其的束缚。
1934年9月7日，山本五十六被任命为伦敦海军裁军会议预备会议日本方面的海军首席代表。内阁给山本的方针是：（1）反对现行各国军舰按比例限定的办法，（2）主张军舰总吨位一律平等，（3）规定〃不威胁、不侵略〃的兵力标准，（4）退出现有条约。事实上就在任命山本为谈判代表的当天，日本内阁已决定废除〃华盛顿条约〃，并决定向法国、意大利呼吁共同行动。山本五十六的伦敦之行，不过是日本统治集团利用〃顽强的山本〃，对英美实行愚弄和欺骗而已，因为他们期望山本既能使日本达到废除条约的目的，而又不背上舆论和道义上的不利压力，达到既要做婊子，又要立牌坊的目的。
一个星期之后，山本启程执行他的使命。出发之日，东京车站和横滨港挤满了送行的人群，一些狂热的法西斯分子对山本之行寄予了很高的期望。山本在写给堀悌吉的信中说：〃临行时，不论在东京火车站，还是在横滨码头，都聚集有很多面目不清的人。他们或称某某同盟或某某联合会，宣读决议或宣言以壮我行，实感不快。这样的忧国志士实在令人担心。〃
山本再次取道美国，仍然期待在美国会有所收获。当时有美国〃杜黑〃之称的比利·米切尔将军正诉诸于舆论界，急切要求美国用空军武装自己，以作为最终用于对抗日本的手段。山本虽然十分关注他的美国同行的理论，但却极力掩饰自己。当有记者问他有关日美之间日益紧张的关系时，他用日语宣称：〃我从来没有认为美国是潜在的敌人，日本的海军计划也永远不会包含日美战争的可能性。〃在说完这句话之后，哈佛大学毕业的山本借口不会英语，拒绝再说别的话。然而，当他乘〃贝伦加里亚〃号邮船到达英国时，他用十分标准的新英格兰口音，给英国的记者提供了一条头版新闻：〃日本再不能屈从于海军比例制的约束。在这一点上，我国政府没有任何妥协的可能。〃
10月25日，会议正式开始。参加谈判的英方代表是首相麦克唐纳、外交大臣西蒙、海军大臣蒙塞尔、参谋长查特菲尔德和外交部参事克莱棋，美国方面的代表是戴维斯大使和参谋长史坦德。
会议开始，山本五十六便提出修改主力舰日本对英美3：5：5的比例，认为过去在华盛顿和伦敦两次会议中所决定的比例并不恰当，主张应按日本方面提出的新方案达成三国间的协定。英、美两国自然不肯同意。双方遂展开了一番唇枪舌剑的斗争。
山本五十六最初还是以少将身份与英美代表谈判的（后于11月15日提升为中将），与英、美代表的身份相比显得过于低了，因此山本在谈判桌上明显受到轻视，尤其是美国代表戴维斯更是如此。因为山本五十六1920年在华盛顿参加会议时，不过是日本代表币原喜重郎属下的一名中佐，而戴维斯当时已位居副国务卿之要职。此次会议戴维斯没有想到他的谈判对手竟是过去的一名小小的中佐。然而，好斗的山本凭其赌博养成的善于观察和估量对手的才能，在谈判中很快就令对手感到头痛了。
潜艇存废问题首先成为争论的焦点。日本由于在主力舰方面的限制，对发展潜艇期望很高，而英、美则要求废除。在争执不下的情况下，美国代表史坦德质问山本：〃我们确信潜水艇是攻击性能武器，而日本却把它视为防御性能武器，这倒要听听阁下的意见。〃
山本五十六满脸笑容地答道：〃有关潜艇的性能，阁下也为海军军人出身，且不论在年龄、经验各方面都是我的前辈，我想当比我更为清楚。从续航力来说，潜艇比驱逐舰大，可是从构造来说，船员的生活和粮食的贮存等等都远不如驱逐舰。因此潜水艇绝不适于远离基地，深入敌国海域作战，不管怎么说，在近海防御来攻的敌舰才是其主要任务。畏惧潜艇，犹如小偷害怕屋内的狗一样，只要不随意侵入，即无被狗咬的顾虑。这是我将潜水艇视为防御性能武器的理由。〃
在会谈中，英国海军参谋长查特菲尔德海军上将识破了日本既想废除条约，又不愿负破坏会议之责的阴谋，遂向美国施加压力，要他们缓和态度，看日本代表还有什么手段可施。可是美国代表不愿让步，他们抱怨说，美国海军必须分遣在两个大洋使用，所以他们不能接受舰队总力量与日本完全相等的方案。而山本则毫不动摇地坚持要完全对等，他在一次午餐会上说：〃我虽然比你们个子小，但你们不会坚持只让我吃我盘内3/5的食物，你们会让我按我的需要而吃的。〃使美国代表哭笑不得。
当会议快要结束的时候，山本终于奉命提出取消航空母舰的戏剧性建议作为他的杀手锏。戴维斯知道山本是主张〃空海主义〃的，因而感到有了反击的机会，遂嘲弄地说道：〃在我的记忆中，山本将军当过航空母舰'赤城'号的舰长，也曾任过航空战队的司令官。有这种航空经历的人，竟会说出这种废除航空母舰的话，简直令人难以相信。〃山本还是不慌不忙地答道：〃不错，我曾任航空母舰舰长及航空战队司令，惟其如此才更深深体会到飞机威力的强劲和在今日已有的很大进步，此后也必将有几何式的发展。如此则航空母舰势将成为舰队的中心主力，其威力是无可预知的。航空母舰在战时的攻击性使命，将给人类带来多少不幸，一想到这些就使我不寒而栗。因此不得不主张废除。〃戴维斯对山本的这一番话无言以对，他吃惊地向身旁的代表说：〃不知是我的能力不及休斯，还是山本的水平比加藤（友三郎）高。在华盛顿会议时，是美国左右谈判局势，而现在则完全相反，山本左右了谈判的局势。〃于是在伦敦，英国的新闻界对山本五十六的表现进行了大肆报道和宣传，称山本说话面带的笑容是〃钢铁微笑〃。据说英国前首相劳合·乔治得知后，乃在其私邸约请山本，对山本说：〃戴维斯惊叹他在华盛顿遇到的小鸟，现在变成一只老鹰了，而我不这样认为，要我说，你是一只鹫，伦敦之鹫。〃
但不管山本有多么强的狡辩能力，其所提出的扩张要求的本质却是无法改变的。因此在美国代表洞悉这是山本的讹诈后，便顺水推舟，表示愿意就此与日本谈判，这时山本这只狡猾凶猛的〃伦敦之鹫〃便黔驴技穷了。他意识到美国就是要把日本往单方面废除华盛顿条约的窘境里逼，只好急忙电报国内。这是山本在伦敦期间很少的几次向国内请示之一。本来独断的山本，自恃自己的判断力和敏锐的观察力，相信会轻松赢得谈判。他在出发前海军大臣为他举行的欢送会上要求授权：〃在符合总谈判方针、原则、指导思想的前提下，请给我一个根据当时谈判的具体情况，在不经向国内请求的情况下可做出某种决定的权限。〃这一次被美国代表将了一军，他也感到为难了。
日本政府接到电报后，狗急跳墙，按预定部署，于12月29日宣布废除海军限额条约。于是伦敦裁军预备会谈不欢而散。至1935年12月9日，伦敦裁军会议正式开幕，日本方面毫不退让，日本国内舆论再次掀起〃对外强硬〃狂潮，最后终于在1936年1月15日退出了伦敦裁军会议，世界海军强国由此�