叶剑英在担任红军学校校长兼政委期间，还担任东南战线总指挥兼政委，负责统一指挥红军在闽西、赣南的作战行动，以配合北线主力红军进行第四次反“围剿”。
1933年5月，叶剑英兼任红一方面军参谋长，以后又担任建宁警备区、闽赣军区、福建军区司令员。叶剑英在这一时期一直活跃在前线，具体指挥反“围剿”的战斗。在他的领导下，建宁、安远、均口、弋口、官仓、梅口、鱼潭等地相继建立革命政权，进行分田活动。他还积极发动群众筹粮支援前线，保障红军的粮食供应。
1934年夏，叶剑英调回红军总部，担任军委第四局局长。长征前夕，中央军委任命叶剑英为军委第一纵队司令员。
1934年10月21日，叶剑英率领军委第一纵队跟随红一方面军主力离开中央根据地，开始了艰苦卓绝的长征。他日夜组织部队行军作战，突破敌人封锁线。进至广西，在西延、龙胜山区，敌机扫射，他被弹片击中，右大腿上臀部负伤，简单包扎后，他坐担架继续跟队前进，指挥战斗。部队突破黔敌防线，占领黎平后，军委第一、第二纵队合编为中央纵队，叶剑英任中央纵队副司令员兼一局局长。
1935年1月7日，红一方面军先头部队占领贵州遵义城之后，中共中央在遵义召开政治局扩大会议，纠正了“左”倾冒险主义在军事指挥上的错误，实际上确立了毛泽东在红军和中共中央的领导地位。在这一党的历史上最有意义的转折关头，叶剑英坚决拥护遵义会议的决定，拥护毛泽东的领导。他带伤在总部坚持工作，协助毛泽东、周恩来、朱德指挥作战，处理军委的日常事务。不久，叶剑英前往红三军团接替在遵义战役中牺牲的邓萍担任参谋长。
1935年6月，红一方面军和红四方面军在川西北懋功地区胜利会师。
中共中央在两河口召开政治局会议，作出了《关于一、四方面军会合后战略方针的决定》，确定集中主力向北进攻，创造川陕甘根据地。中央军委根据这一方针，制定了松潘战役计划。但是，张国焘不赞成中共中央、中央军委的北上方针和松潘战役计划，并用不正当手段，挑拨红一、四方面军的关系，破坏团结，阻挠北上。中共中央一方面对张国焘进行耐心说服和严肃斗争，另一方面，为了顾全大局和照顾红军的团结，任命张国焘为红军总政委。在这种情况下，张国焘才勉强同意红四方面军向松潘西部的毛儿盖前进。
7月21日，中共中央在黑水附近召开政治局扩大会议，决定以原红四方面军总指挥部为红军前敌总指挥部，徐向前兼总指挥，陈昌浩兼政治委员，叶剑英为参谋长。叶剑英接到命令后，带领一些同志立即从黑水出发，向毛儿盖前进。
从黑水到毛儿盖，中间要翻越海拔4500米的雪山。叶剑英一路走一路告诫同志们，到红四方面军那里，一要坚决执行党中央的战略方针，坚持北上抗日；二要虚心学习红四方面军的长处，主动搞好团结。经过艰苦行军，翻过雪山，来到毛儿盖。叶剑英立即着手加强前指司令部的组织建设和业务建设，同时积极准备攻打松潘。然而，由于张国焘的阻挠和其他原因，使红军在这一地区耽误了一个多月，失去了占领松潘东出四川的机会。敌人在这一个多月内，完成了对红军围追堵截的部署。在此紧迫的形势下，中共中央8月4日在毛儿盖附近的沙窝召开政治局会议，作出了《关于一、四方面军会合后的政治形势与任务的决议》。根据这一决议精神，中央军委决定放弃原定的松潘战役计划，穿越草地向甘南前进，并根据部队所在位置，把红一、四方面军混合编成左、右两路军，共同北上。左路军在总司令朱德、总政委张国焘、总参谋长刘伯承率领下，从卓克基出发，经阿坝过草地北进；右路军在中共中央、毛泽东和周恩来的直接率领下，由前敌总指挥徐向前、政委陈昌浩、参谋长叶剑英指挥下，从毛儿盖过草地，向班佑前进。
根据中央军委这一新的决定，叶剑英参谋长紧张地进行过草地的准备工作。于8月18日，他带上两个团作为先遣部队出发，为右路军开路。自然条件极其恶劣，又有敌人骑兵不断袭扰，但右路军的干部战士吃大苦、耐大劳，英勇顽强，不怕牺牲，终于战胜重重困难，通过了草地。这时，张国焘却依然屯兵阿坝，按兵不动。从8月下旬以来，中共中央连续致电张国焘，要他率左路军迅速出班佑，与右路军会合，一起打向洮河以东。张国焘却借口噶曲河涨水，不能徒涉，强令已向班佑进发的先头部队退回阿坝。当时，随右路军行动的前敌总指挥部政委陈昌浩积极支持张国焘，暗中进行南下的准备。为了争取陈昌浩，毛泽东和中共中央多次到位于潘州的前敌总指挥部开会，说服陈昌浩改变态度，坚持北上方针，放弃南下企图，叶剑英支持毛泽东和中共中央北上的方针，陈昌浩却唯张国焘之命是从。
9月8日，张国焘违背中共中央北上的方针，擅自命令右路军停止北上，准备南下。同日，毛泽东、周恩来、王稼祥、张闻天、秦邦宪等中共中央领导人和右路军领导人徐向前、陈昌浩等7人联名致电张国焘，指出：“目前红军行动是处在最严重关头，须要我们慎重而又迅速的考虑与决定这个问题。”“左路军如果向南行动，则前途将极端不利”。电报还详尽分析了各种不利因素，希望左路军“在阿坝、卓克基补充粮食后，改道北进”。可是张国焘不但不听劝告，反而于9月9日直接电令陈昌浩率右路军南下，并提出“彻底开展党内斗争”，企图危害中共中央。
张国焘的电令到来那一天，适逢右路军前敌总指挥部开会，新任红军总政治部主任陈昌浩正在讲话。叶剑英看到电报内容，觉得事关重大，需要审慎处置。过了一会儿，他佯作入厕，飞跑到中央驻地，把电报送给毛泽东。毛泽东马上用铅笔把电文抄在一张卷烟用的纸上。叶剑英随即对毛泽东说，此地有危险，不能久留，请他立即到红三军团。毛泽东点了点头，同意他赶回去，但嘱咐他要提高警惕，如遇万一，要设法脱险，叶剑英立即迅速返回会场。陈昌浩的报告还没有完，他便若无其事地走进了自己的座位。
毛泽东送走叶剑英以后，立即同张闻天、秦邦宪赶到驻在巴西的红三军团部，同在那里养病的周恩来、王稼祥等一起，召开紧急会议，果断地决定，中共中央迅速离开巴西。脱离险境，率红一、三军团单独北上。
这天晚上，叶剑英在前指心里装着大事，怎么也睡不着，他想到这么多直属队带不出来，就得留给张国焘了？思虑再三，他决定利用张国焘的电报，以“打粮”准备南下为名，设法带走军委直属队。于是，他向徐向前总指挥、陈昌浩政委报告，得到同意后，立即召集林柏渠、杨尚昆、李克农、萧向荣等直属队领导干部和有关人员开会，通报了有关情况，确定直属队于10日凌晨2时出发打粮，撤往红三军团。散会后，他又找到作战科的吕继熙(即吕黎平)，要了一份甘肃地图。
一切部署停当之后，叶剑英返回前敌总指挥部的驻地喇嘛庙休息。在空旷的庙堂里，叶剑英躺在床上，思绪如潮。他想到，再过几个小时，就要同这里的战友不辞而别，心里很不是滋味，但这是不得已啊!只希望他们能改道北上，早日相会。他不时地看表，直到下半夜一点半钟，悄悄起床，披上大衣，从床下小藤箱里取出那份全军惟一的甘肃地图，然后轻轻地走出喇嘛庙。走出不远，恰好碰到军委秘书长萧向荣，便把甘肃地图交给他，嘱咐说：“这可是要命的东西，全军就这一份，千万要保管好!”
夜深沉，草原上乌云密布，寒气袭人。叶剑英来到磨房附近，见到了杨尚昆，两人急忙一同赶路。同志们看到他们来了，高兴地开玩笑说：“我们开小差跑出来了。”叶剑英风趣地说：“不!不是开小差，而是开大差，是执行中央北上方针。”
在一个叉路口，他们碰到了正在那里等候的彭德怀、张闻天、秦邦宪等。在彭德怀的催促下，叶剑英加快步伐，继续赶路，但夜黑路不熟，赶上红三军团部队，已是拂晓时分了。毛泽东、周恩来、王稼祥正在焦急呢。见了面，毛泽东高兴地说：“哎呀!你们可出来了，好!好!我们正为你们担心。”后来，毛泽东曾评价说：“剑英同志在关键时刻是立了大功的。他救了党，救了红军，救了我们这些人。”并用古人赞扬宋朝吕端的话来赞扬叶剑英“诸葛一生唯谨慎，吕端大事不糊涂”。周恩来说起此事，说叶剑英“疾风知劲草，板荡识诚臣”。
9月12日，中共中央在俄界召开政治局会议，作出《关于张国焘同志的错误的决定》，严厉谴责张国焘违背中共中央指令、分裂红军的罪恶行为。同时号召红四方面军全体忠于党的同志，团结在党中央周围，同张国焘的右倾机会主义和军阀主义倾向作坚决斗争，以巩固党和红军。会议还决定组编中国工农红军陕甘支队，彭德怀任司令员，毛泽东任政治委员，叶剑英任参谋长，继续北上。10月19日，陕甘支队到达陕北吴起镇，胜利结束了历时1年、经过11个省的二万五千里长征。
长征后，任军委参谋长兼红一方面军参谋长，东渡黄河，开辟山西西部五县根据地。又任洛川工委书记，做东北军和十七路军统战工作。西安事变爆发，任中共谈判代表，和平解决西安事变。
红一、三军团长征胜利到达陕北，于1935年11月初，同陕北红十五军团会师后，成立西北革命军事委员会，恢复红一方面军番号，叶剑英任军委参谋长兼红一方面军参谋长。12月，中共中央在瓦窑堡召开政治局扩大会议，制定了抗日民族统一战线政策，并决定渡黄河东征，开辟山西西部五县根据地，打通抗日路线。渡河后，中央军委决定组成右、中、左路军。叶剑英负责指挥中路军，巧妙地与敌军周旋，有力地支援了左右两路的军事进攻，完成了中央军委赋予的战略任务。
东征军于5月初回师陕北。5月5日，中共中央根据日本帝国主义侵华形势的发展变化，向全国发出《停战议和一致抗日》的通电。7月，中央派叶剑英到安塞领导东线东北军工作委员会(简称东线工委)，进一步做张学良部队的工作。叶剑英到安塞后，深入各地了解情况，设立安塞、枣园、牡丹川等办事处，多方接触东北军官兵，宣传停止内战，一致抗日的道理，收到了显着的效果。在开展东北军统战工作的同时，叶剑英还着手做十七路军的基层工作。经过叶剑英和东线工委的共同努力，东北军、十七路军与红军不仅停止敌对行为，而且和睦相处，变成了友军，出现了新局面。
1936年8月17日，中共中央决定将中央东北军工作委员会改为洛川工委，叶剑英任书记。叶剑英同汪锋、潘汉年、边章伍、彭雪枫、刘鼎、刘光东等10余人从保安化装跟随从延安返回的国民党军事委员会谈判代表团进入白区，顺利到达西安。
叶剑英多次秘密会晤张学良，商谈迅速停止内战、联合抗日的问题，双方就许多重要问题取得一致意见。他在与张学良、杨虎城两将军密商团结抗日大计的同时，还作为中共中央的“全权代表”与党内派出的统战工作人员同党外的名界人士秘密联系，及时向中央请示报告，提供各种情报和建议。
1936年10月上旬，红军一、二、四方面军三大主力会师陕北，从而胜利结束了历时两年的全国红军长征战略大转移。
这时蒋介石在南京加紧策划集中兵力，指令东北军、十七路军围攻陕甘宁边区。
日益靠拢共产党的张、杨两将军与蒋介石之间的矛盾愈发尖锐。张、杨两将军发动西安事变后，宣布了成立抗日联军临时西北军事委员会，并通电全国，提出了抗日救国的八项政治主张。中共中央决定派叶剑英前往西安参加谈判。
解决西安事变的中共代表团主要成员。左起：秦邦宪、叶剑英、周恩来、王明。叶剑英到西安后，立即协助周恩来开展工作。他参加西北联军参谋团，制定抵抗亲日派“讨逆军”的作战计划，同时积极参加政治谈判和其他工作。在和平解决西安事变的过程中，叶剑英日夜奔忙，通过各种渠道，采取各种形式，进行统战工作，并将遇到的问题和解决意见及时向周恩来和中央请示报告。
张学良被软禁后，周恩来、叶剑英等对蒋介石的倒行逆流，表现出极大愤慨。他们同杨虎城、王以哲等东北军、十七路军高级将领协商，抗议蒋介石扣押张学良将军和重新挑起内战的阴谋。在联军参谋团会议上，叶剑英分析敌我友态势，提出在军事上应集中主要兵力，到东部正面防线，对付潼关西进之敌，摆成一个“鳝鱼篓子形”，让敌人能进不能出，进来就把他吃掉!努力协助周恩来奔走于东北军、西北军和国民党留守西安人员之间，维护团结，平定风波，稳定局势。
西安事变后，1937年2月，南京政府派顾祝同和张冲、贺衷寒来西安，与周恩来和叶剑英进行国共双方谈判。不久，周恩来返回延安，叶剑英留守西安红军联络处(国共合作后改为西安办事处)，主持工作，进行未了事宜。
当时所处的工作条件和环境十分险恶，经常受到特务的监视和扰乱。叶剑英夜以继日地工作，巧妙地应付各种复杂的情况。始终保持冷静头脑，沉着机智，坚持有理、有利、有节的原则，与国民党顽固派进行斗争。他身负重任，在西安的险恶环境里，前后奋战300多天，完成了党赋予的联合抗战的重大使命，迎着卢沟桥事变的炮声，离开这座古城，踏上了新的征途。
