1921年10月，孙中山决定出巡广西，策划北伐。粤军总司令部工兵营军官叶剑英被吴铁城陈策推荐为大总统随员。 　　15日，孙中山从广州乘“宝壁”号军舰出发，17日到梧州，电召广东省长、粤军总司令、中华民国总统府陆军部长兼内务部长陈炯明到梧州商讨出师北伐问题。他托词拒召。24日，孙中山经桂平到达南宁。陈炯明到南宁后，孙中山对他反复说明北伐的重要意义，要求他调粤军40个营参加北伐，并由广东供应北伐军费用。他不作明白表示即返广州。11月，孙中山再到梧州，随后到昭平和阳朔，在三地欢迎会上，孙中山先后发表演说。叶剑英亲聆孙中山关于开发资源，振兴企业，从而使人民富裕起来，使祖国强大起来，崛起于世界的东方，跃入世界先进行列的精辟论述，叶剑英深受鼓舞与启迪，对孙中山更加尊敬和爱戴。 　　12月4日，孙中山到达桂林，宣布建立北伐大本营。孙中山大总统行辕和北伐大本营均设在风景秀丽的桂林王城。叶剑英被调到大本营幕僚处工作，主要任务是按照　　《大本营条令》，负责作战军令参谋等事宜。 因粤军、滇军、湘军、黔军和赣军同时驻于市内及其附近地区，桂林顿时变成了一座大兵营。 　　孙中山是根据国会通过的北伐案举行北伐的。参加北伐的有4万多人，组成7个军团。各个军团的领导人都想乘机扩大地盘，夺取名利。为此，孙中山决定对军官士兵进行整训，采取三条措施：一是将团长以上军官调到大本营，由他主持训导；二是创办军官教导团，派叶剑英到该团参加轮训营连排级军官工作；三是各连队开展政治教育。 　　10日，孙中山在王城大礼堂对粤滇赣等军千名官佐作了题为《军人精神教育》的讲话，阐述了智仁勇的内容，作为“军人之精神”。他指出：智，“在于别是非，明利害，识时势，知彼己”。仁，“其目的在于救国”“为人民”。勇，则为“长技能，明生死”，要求革命军人“立定决心，从事革命”。指出北伐定要“扫除中国一切政治上社会上旧染之污，而再造一庄严华丽之新民国”。认为“今日之革命，与古代之革命不同。……今之革命，则为人民革命”。 革命事业的完成需要革命精神。这种革命精神即为军人精神。 　　孙中山在讲课中所表现出来的充沛的精力深邃的思想和丰富的知识，使叶剑英受到了一次深刻的教育，历久难忘。后来，他在追忆孙中山的文中说：“要领导这些军队，要团结这些军队，去和北洋军阀进行坚决的战争，就必须给这些军队的将士以政治上的教育，使他们知道革命军队与普通军队，在政治立场上，在战略战术上，都有许多不同的地方，给他们注射一些新的血液，树立新军队的精神。孙先生在桂林对各军将领所进行的精神讲话，是每一个统帅所当服膺的。” 　　为了北伐胜利和保障在两广河流输送军队的轮船的安全航运，孙中山从大本营幕僚处调叶剑英任江防舰队护航第二营营长。叶剑英愉快服从军令，迅即投入护航工作，随时准备响应号召，投身北伐洪流，同时仍在军官教导团对军官讲授未讲完的课程。 　　1922年2月3日，孙中山以大元帅名义颁发北伐动员令，饬各军分路出师北伐，令李烈钧率滇黔赣军为第一路，攻赣南和鄂东；许崇智率领粤军为第二路，联合湘军攻武汉。北伐军挺进湖南南部。这时，国内局势剧变。北方政权已落在直系军阀曹锟吴佩孚手里。在这种形势下，孙中山便联系段祺瑞与张作霖，希望借助他们的力量配合讨伐直系军阀，“以成戡乱之功，完护法之愿”。但是，留守广东的陈炯明对孙中山的北伐命令，不仅阳奉阴违，还和湖南军阀赵恒惕结成反对孙中山的联盟，阻止北伐军假道湖南北进。3月，陈炯明指使部下暗杀了拥护孙中山北伐的粤军参谋长兼第一师师长邓铿。孙中山发现陈炯明图谋不轨，改变北伐步骤，于4月由桂返粤。叶剑英在江防舰队切实做好护卫工作。16日，孙中山率大本营由桂林沿西江到达梧州，派廖仲恺去广州劝陈炯明来这里面商北伐问题。陈炯明拒不前往，并电辞本兼各职。孙中山下令免陈炯明广东省长兼粤军总司令及中华民国政府内务部长职，但仍保留他的陆军部长职，希望他支持北伐。陈炯明当晚在省长公署开会后，退到惠州，决心与吴佩孚勾结，反对孙中山。孙中山决心将海军陆战队扩大，任命陈策为海军陆战队司令，叶剑英任海军陆战队营长。 　　23日，在叶剑英等护卫下，孙中山安全到达广州，迅即派员促陈炯明返广州。为争取陈炯明参与北伐，孙中山任命他的部将叶举任粤桂边防督办，指定肇庆、阳江、高州、雷州、钦州、廉州（合浦）、梧州为陈炯明部队驻地。叶举却率部队擅自进驻广州，形成陈炯明控制广州的局面。孙中山令叶举率部赴赣，叶举拒不执行。孙中山举行茶话会招待记者，希望通过舆论压力迫使陈炯明部队由广州撤回东江。当时，陈炯明部队在广州约25万人，而孙中山统辖的警卫部队仅500人。 6月16日凌晨1时，在陈炯明指使下，叶举率领4000多人步步进逼总统府，情势万分危急。在秘书林植勉和参谋林树巍的劝说下，孙中山乔装为医生，离开总统府旁的住所粤秀楼，穿街过巷，冲破叛军的包围，奔赴长堤天字码头。 　　2时，叛军围攻总统府，炮轰粤秀楼。叶剑英随陈策在天字码头看见孙中山到达，立刻护送他登上小船，航行一段短距离后，转乘停在江中的“宝壁”号军舰。该舰为浅水内河军舰，武器装备稍差。孙中山在舰上手写电稿，号召海陆各军讨伐陈炯明叛军。不久，他移驻“永翔”舰，该舰装备比“宝壁”好些。当日，陈炯明以20万元悬赏擒杀孙中山。这高额赏金，把叛军激红了眼。叛军仍攻总统府。下午，孙中山夫人宋庆龄亦脱险，逃出虎口，但唯一的一个尚未诞生的胎儿，因奔波劳碌，颠簸惊吓而流产了。17日，孙中山转登攻防能力稍强的“永丰”舰（后改称“中山舰”），并在黄埔见到宋庆龄。孙中山迅即召集舰队官兵，勉以讨伐叛逆，还召集海军司令温树德、陈策以及各舰军官开会，决定率领海军舰艇，“由舰队先发炮，攻击在省叛军，以示正义之不屈，政府威信之犹在”。 然后，“还驻黄埔，以俟北伐诸军之旋师来援，水陆并进，以歼叛军”。接着，他亲率“永丰”“永翔”“楚豫”“豫章”“同安”“宝壁”“广玉”等军舰由黄埔向广州进发，经车歪炮台驶至白鹅潭，命令各舰发炮向叛军攻击。叛军纷纷逃窜。 　　在紧随“永丰”舰后面的“宝壁”舰上，叶剑英与舰长李芳部署炮手对珠江沿岸叛军工事实行炮轰。叛军在岸边亦发射炮弹子弹打向各舰。炮弹落在“永丰”“宝壁”舰上。叶剑英与李芳马上率领官兵在甲板上灭火，并指挥炮手继续炮轰叛军。 海军全体官兵通电讨伐陈炯明。黄埔农民组织义勇队，与海军共同保卫黄埔。孙中山在“永丰”舰接见香港《士蔑西报》记者，申明照常行使总统职权：“如我放弃职权，则对国会为违法，对国家则为叛国。”“吾誓必戡乱，以谢国人，违法之举非吾孙某所为也。” 他下令加强黄埔戒备，以防叛军攻长洲炮台。7月9日，长洲炮台失守。孙中山率舰队移泊新造河面，迅即召集各舰长和陆上部队指挥官开会，决定率舰进驻白鹅潭，以利北伐军回师讨逆和分化陈炯明部。20多天，孙中山率领舰队同叛军英勇作战，给叶剑英以很大鼓舞。 　　10日，一艘悬着英国国旗的小船驶进白鹅潭，泊在“永丰”舰边，粤海关税务司的几名英国人登舰求见孙中山，竟以白鹅潭为通商港口和毗邻沙面为借口，提出舰队驶离白鹅潭和孙中山离粤的无理要求。孙中山严词驳斥，指出：“此为我之领土，我可往来自由。……吾只知正义与公道，决不受无理之干涉。” 陈炯明也托人持函到“永丰”舰，意在讽孙中山下野。孙中山严词拒绝，说陈炯明如有诚意，必须把叛军撤出广州百里之外，交出省城。陈炯明拒不撤军，反而纵容叛军在广州抢劫，激起市内居民万丈怒火。 　　叶剑英往见总统府警卫团机关枪连连长张国森，研究对策，又与在广东的云南讲武学校华侨同学曾其清、曾俊伟等10多人几次到惠爱路（今中山路）小马站曾家祠开秘密会议，策划声讨陈炯明。叶剑英起草了一份词锋锐利的讨陈电文，托张国森带赴香港发出。电文痛斥陈炯明逆贼在“粤土自私，包藏祸心，阻挠北伐，称兵叛乱”，呼吁同学“誓为前驱，歼灭逆贼”。香港澳门和世界各国华侨报纸，纷纷发表或转载这篇讨陈电文，引起广泛的良好反响。祖籍广东梅县的马来亚（今称马来西亚）芙蓉市华侨殷商巨子蔡质三过去一贯同陈炯明友好，被陈炯明聘为广东政府参议，并受陈炯明赠送照片。蔡质三获悉陈炯明背叛孙中山的消息，当初仍有怀疑，在阅叶剑英撰写的电文，复收到儿子云南讲武学校第十五期学生蔡公武来信后，洞悉实情，马上痛斥陈炯明该杀！该杀！还把他的聘书和照片抛落粪坑，以示鄙弃。 旅美国古巴泰国华侨亦纷纷发通电讨陈。 　　此时，孙中山也电令已占领江西赣州的北伐军总司令李烈钧、北伐总指挥许崇智迅速班师回粤，讨伐陈炯明。李、许奉令率军入粤，迭次进攻韶关失利，分途向江西湖南边境退却。北伐军驻地南雄失守。陈炯明得帝国主义援助，在军事力量上占优势，并用鱼雷大炮猛烈攻击孙中山的座舰；又用巨款收买海军。结果，温树德被陈炯明贿买，率“海圻”、“海琛”、“肇和”三艘大型军舰附逆。 　　得知北伐军回粤失利后，孙中山认为继续留在珠江炮击叛军于事无补。8月9日，他召集各舰长开会，决定离广东赴上海。下午，他偕宋庆龄乘英国炮舰“摩轩”号启程。此后，陈炯明把持了广东军政大权，勒令海军官兵与孙中山脱离关系。叶剑英毅然离广州，到香港发动群众华侨继续声讨陈炯明，援助孙中山的革命事业。 　　1923年2月23日，孙中山通令革命军队打回广州，建立大元帅府，任陆海军大元帅。陈炯明再次退到惠州。孙中山进一步认识到必须创办军校，培训军官，建立强大的革命军队，才能打倒国内各派军阀，统一全中国。 　　1924年1月，首次国共合作建立后，在中国共产党帮助下，孙中山着手创办军官学校，任蒋介石为陆军军官学校筹备委员会委员长， 派中国国民党中央常委廖仲恺协助他筹办学校。2月6日，军校筹委会在广州南堤2号建立筹备处。军校的全名是“中国国民党陆军军官学校”，因校地设在黄埔，通称黄埔军校。廖仲恺认为东路讨贼军第八旅参谋长叶剑英是文武兼备的将才，邀他参加筹办军校。叶剑英应邀愉快地迅即到筹备处报到，被派到军校教授部协助王柏龄主办教学方面的工作。他来往于军校与粤军之间，商议调配人员，筹备武器金钱力求使军校早日建成。21日，蒋介石写报告给孙中山，要求辞委员长职不干，离广州跑回上海，并派秘书王登云到筹备处宣告军校停办。孙中山迅即批示：“不准辞职”，委廖仲恺为代委员长，继续筹办军校。叶剑英在工作中遇到困难，就找廖仲恺汇报，获孙中山廖仲恺答复后，解决了关于教学设想教材教员和招生等问题。日后追忆往事时，他深有感触地说：当时真正懂得孙中山先生建军思想的是廖仲恺先生，而不是蒋介石。 　　5月初，叶剑英升任由粤军和东路讨贼军改编而成的建国粤军第二师参谋长，并以该师代表身份，继续在筹备处参与制定教育计划，撰写教材，招收新生，聘请教师和安排校舍的工作。 　　是月，蒋介石又由上海返广州，要求继续在军校工作。3日，孙中山任命蒋介石为黄埔军校校长，廖仲恺为党代表。叶剑英被任命为少校教授部副主任。 5日，黄埔军校开学。 　　6月16日，黄埔军校隆重举行开幕典礼。孙中山在宋庆龄陪同下到达军校检阅全校师生，并作《陆军军官学校开学演说》。他说：“中国革命所以迟迟不能成功的原因，就是没有自己的革命武装，没有广大人民的基础，……现在为了完成我们的革命使命，所以我才下定决心改组国民党，建立自己的革命军队。”他还说，创办该校“独一无二的希望，就是创造革命军，来挽救中国的危亡”。 叶剑英在礼堂听孙中山讲话，受到很大鼓舞，决心执行孙中山“联俄联共扶助农工”三大政策，坚决贯彻孙中山的创办军校宗旨，在校内与共产党人很好合作，大力培训既能指挥作战又能做政治工作的军官。 　　按孙中山指示制定的军校《组织条例》规定，叶剑英协助王柏龄主持的教授部任务为:计划教育，审定教案；审编课程，征集教材；实施教授，编配考察；考核成绩，审定表册；保障图书器材；负责所属人员的统计调查和升降任免。除完成上述任务外，他担任掌管军事学科的教师，与该部主任安排教师讲授《步兵操典》、《射击教范》、《野外勤务》、《战术》、《兵器学》、《交通》、《军队符号》、《军制学》、《军队内务规则》等课程。他亲自讲授《兵器学》等课程，论述了各种兵器的性能与作用，讲得深入浅出，引人入胜，使学生听后，历久不忘，受到深刻的教育。曾任军校政治部秘书的聂荣臻元帅后来在回忆黄埔军校时说：叶剑英是军校主管军事教育的教授部副主任，在军校是很有威望的教官之一。 　　叶剑英在讲台上或日常与军校学生谈话中不忘进行爱国主义教育、热爱人民的教育。他说，要做一个军校的革命学生，必须做到“不要钱、不要命、爱国家、爱百姓”，具有不怕苦、不怕难、不怕冷、不怕热、不怕疲、不怕伤、不怕死的精神，把国家的利益人民的利益，看得高于一切，真正树立爱国爱民，献身革命的思想。有时，他与同学高唱校歌：“革命英雄，国民先锋，再接再厉，继续先烈成功。同学同道，乐遵教导，终始生死，毋忘今日本校。以血洒花，以校作家，卧薪尝胆，努力建设中华。” 　　在创办黄埔军校过程中，叶剑英有时亲听孙中山的谈话，理解孙中山创办黄埔军校的意义。为此，他与该校同事，总是兢兢业业，排除一切困难，把该校办得蒸蒸日上。 　　为配合黄埔军校的教学，孙中山廖仲恺议定在建国粤军第二师建立一个独立营，培训下层军士，来扩大革命军的骨干队伍，调叶剑英任孙中山的故乡香山县（今中山市珠海市及其斗门县）县长兼独立营营长。叶剑英接受重任后立即奔赴香山就职，并在香洲（今属珠海市）设营，在香山阳江电白等县招募到新兵900多名，在花园仔设立营部。 　　７月30日，陈炯明叛军又蠢动，由东江逼近广州。他的部下林虎部由粤北南下。孙中山饬令桂军加入东江前线作战， 令滇军攻惠州，令湘军南下翁源，令建国粤军第二师攻林虎部的第七军。张民达要叶剑英返部队参战。叶剑英迅即返第二师。８月，张民达叶剑英率第二师经花县英德翁源到连平县城郊区，夤夜冒雨进攻叛军第七军。敌军梦中惊慌还击，不知我军来多少人。城内大部分叛军成为俘虏。叛军第七军军长李易标带领少数人窜往江西。陈炯明攻广州的阴谋被粉碎。获胜后，第二师凯旋抵广州。叶剑英返回黄埔军校。 　　随着中国革命运动的高涨，帝国主义加紧了对中国革命的干涉和破坏，一面继续援助盘踞惠州的陈炯明攻广州；另一面又指使广东商团举行反革命叛乱，阴谋从内部颠覆孙中山大元帅府。孙中山令广东省长廖仲恺通缉商团头子陈廉伯，调兵到广州对付商团。按孙中山令，廖仲恺命叶剑英由香山返第二师，与张民达率领全师官兵在广州严阵以待。10月10日，商团军在广州举行反革命叛乱，张民达叶剑英带领第二师沿丰宁路向西关袭击商团军背后。经几小时作战，陈廉伯逃到英国驻广州领事馆。商团叛乱被镇压下去。嗣后，叶剑英继续到香洲练兵，到黄埔军校讲课。 1925年2月，叶剑英参加东征讨伐陈炯明，后任梅县县长。 　　3月，传来孙中山在北京逝世的消息。30日，在梅县东较场举行的各界民众追悼孙中山大会上，叶剑英恭读祭文，号召广大军民继承孙中山遗志，把革命进行到底。