孙中山最早认识谭平山是在1921年夏。当时，孙中山在广州任中华民国非常大总统；谭平山任中共广东支部书记、广东省教育委员会副委员长、《广东省教育会杂志》主编兼中国劳动组合书记部南方分部主任。 　　7月，应广东省教育会和谭平山的邀请，孙中山到广东省教育会对中等以上学校教职员和部分学生发表演说，勉以立志救国，指出：每个师生“宜先立志，否则十年窗下任你读书几许卷，终亦无补于国家”。阐述革命宗旨时，说因中国“主权丧失已久”，故不能提倡世界主义，必须实行民族主义；认为“民生主义就是社会主义”，赞扬“俄国社会革命成功，已成为农工兵国”；还说“中国宜以俄为鉴” 。谭平山听后，深受教育，认为孙中山确是一个伟大人物，不仅领导中国人民推翻了腐败的清王朝，结束了封建帝制，而且还十分重视教育，亲自教育师生要立志，要进行反帝斗争，挽回主权，还宣传社会主义，真是中国共产党的挚友。 　　随后，在同年召开的广东省第五次教育大会上，应谭平山的邀请，孙中山到会发表演说，指出：中华民国建立十年，实际上“所去者只一皇帝”，所以当务之急为“建设新政治”。批评了那时教育部门流行的“不问政治”的不良倾向，认为“民国政治，国民均负责任……而教育家乃曰不谈政治，何太失自己本来之责任与人民希望之甚也”。十分强调“教育家须记提倡政治，实行改良政治，使四万万国民同心协力改良” 。谭平山认为孙中山的演讲很好，鼓励教育界人士要听孙中山大总统的教导，关心政治，进而也教育学生了解国内外形势，支持革命和建设事业。 　　谭平山坚决执行孙中山扶助农工政策，支持开展工人运动，仅在广州就建立了几十个工会。8月16日，在以谭平山为主任的中国劳动组合书记部南方分部带领下，广州200多建筑工人举行罢工，要求提高工资，经10天斗争获胜。1922年1月，香港海员大罢工。大批海员回广州坚持斗争，要求改善待遇。以谭平山为书记的中共广东支部发表《敬告罢工海员》，援助海员，号召海员团结一致，严守秩序，注重自治，本党定当竭其能力，为之后援。海员经56天的斗争，获得答应增加工资15%至30%。罢工获胜宣告结束。同年劳动节，第一次全国劳动大会在广州召开。谭平山是大会领导人之一。5月2日，应大会和谭平山的邀请，孙中山接见到会的162个代表，并希望他们为国家和社会尽力，还谴责军阀赵恒惕在湖南杀害工人运动领袖黄爱、庞人铨的不法暴力罪行，表示将依法严惩他 。谭平山听后深受鼓舞。 　　1923年1月，孙中山发动滇桂联军击退陈炯明叛军后，于2月从上海回到广州，任陆海军大元帅府大元帅，着手进行国民党改组工作。这时，谭平山亦由北京到广州，任中共广东区委书记。4月10日，孙中山在大元帅府设立宣传委员会，以谭平山为委员。谭平山可公开进行革命活动，支持油业船业革履机器等工会组织“爱群通讯社”，深入开展工人运动，并支持彭湃开展农民运动，成立广东省农会，以彭湃为委员长。 　　6月，中国共产党第三次全国代表大会在广州召开。谭平山当选为中央执行委员中央局委员。会上，谭平山介绍了孙中山赞成国共合作的主张。大会决定共产党员以个人资格参加国民党，与国民党建立合作关系。 　　10月，孙中山指定廖仲恺谭平山等9人为中国国民党临时中央执行委员会委员，以谭平山为书记兼组织员 。11月30日，受孙中山的委托，谭平山到上海，同北方各省的国民党干部讨论国民党改组和筹备召开国民党第一次全国代表大会问题。随后，他回到广州，向孙中山谈了成立国民党上海临时执行委员会等问题。 　　这时，陈炯明军队分四路猛攻广州东郊区。孙中山指挥国民党员革命军奋勇反抗。谭平山发动共产党员青年团员工农群众到前线援助各军作战。在国共两党党员和广大民众支援下，革命军击退陈炯明反动部队的进攻，保卫了孙中山大元帅府所在地广州。这充分表明国共合作在南粤已初见成效。 　　根据孙中山多次作报告和谈话的精神以及调查得来的资料，谭平山撰写了《国民党改组中应注意诸点》一文，在《国民党周刊》第1期发表。文中说：“现在国民党的分子有十分之七八是劳动阶级，其余十分之二三，也是中小（资）产阶级，占多数，资产阶级少而又少。”谭平山对国民党能做出这样较为适当的分析，对推动国共合作，是有一定作用的。 　　在中国共产党的帮助下，孙中山经过充分准备，于1924年1月20日在广州召开中国国民党第一次全国代表大会，指定谭平山为广州特别区代表。21日，按孙中山指示，大会指定谭平山和廖仲恺等9人为党务审查委员会委员。按国民党临时中央执行委员会和孙中山指示，谭平山在大会作国民党《临时中央执行委员会报告》，论述了自从1923年10月15日孙中山总理主持国民党改组特别会议以来，临时中央执行委员会所进行的国民党改组工作，说：“临时中央执行委员会奉本党总理之命，办理改组事宜，责任綦重。而且此次之改组，其精神在于组织之严密及党员之训练两点。”他在报告中还论述了广州上海两地试验改组概况与组织义勇军击退陈炯明部队进犯广州的经过。 　　是日，孙中山在会上作报告，针对右派分子反对国民党改组和部分党员对民生主义认识不深的情况，严肃指出：有些国民党员“骤闻共产党员纷纷加入本党消息，顿起怀疑”，而“怀疑尤甚者，为海外同志”。因为“华侨处于帝国主义政府管辖之下，深受帝国主义国家宣传破坏俄国革命论调之毒，故发生种种怀疑，不能自释”。着重说明“近来俄国内政进步之神速，与前大不相同”；“就利害而言，本党与之联合，将来必能得中俄互助之益”。他还认为“共产主义与民生主义毫无冲突，不过范围有大小耳”。 　　22日，孙中山指定谭平山李大钊等19人为党章审查委员会委员。大会讨论通过了《中国国民党第一次全国代表大会宣言》与《中国国民党章程》等决议案，正式确定了孙中山“联俄联共扶助农工”三大政策，以及通过了共产党员青年团员可以以个人身份参加国民党的决定。30日，谭平山李大钊等被选为国民党中央执行委员。这次大会的召开，标志着国共合作的正式形成。 　　31日，孙中山主持召开国民党第一届中央执行委员和监察委员会议。他对谭平山十分器重，委以重任，推选他为中央执行委员会常委兼中央组织部长。当时，国民党中央常委仅有廖仲恺戴季陶谭平山三人，主持中央秘书处日常工作。嗣后，谭平山成为国民党内举足轻重的要人之一。孙中山、廖仲恺和谭平山密切合作，互相配合支持。国共合作重大事情的决定，他们都经过充分的协商讨论。国共合作在国民党内具体工作的进行，充分体现在他们三人身上。国民党总理孙中山、国民党中央工人部长左派领袖廖仲恺支持谭平山的工作。谭平山则通过中共广东区委，动员共产党员青年团员，发动广大工农兵等人民大众支持孙中山廖仲恺的革命事业，在国民党中央常委内形成一种新的国共合作的良好关系，推动了反帝反军阀的革命事业向前发展。国民党右派反对国共合作，一时未能得逞。孙中山赞扬谭平山工作认真负责，并以他和国民党右派分子谢英伯等人比较，说：“谢英伯这班人太不负责任，谭平山又太负责任了。”《陈独秀给蒋介石的一封信》中说：孙中山说的这句话“这真是知言”。 　　为了巩固和发展国共合作，经孙中山同意，谭平山发动中共广东区委派了一批得力的共产党员干部到国民党中央机关各部工作。杨匏安任中央组织部秘书，中共广东区委委员冯菊坡任中央工人部秘书，林祖涵（伯渠）任中央农民部部长，彭湃任中央农民部秘书，张善铭任中央青年部秘书。特别要指出的是，当时国民党中央各部，仅有部长没有副部长。部长如外出，由秘书代行代拆，行使代部长的职权。这就大大地充实了国民党中央各部的领导力量，使国民党各项事业向前迈进了一大步。 　　2月24日，中国国民党在广州举行追悼列宁大会。大会祭坛上悬挂孙中山手书的“国友人师”祭帐。谭平山发动国共两党干部、党员、青年团员和革命人士参加。孙中山在主祭悼词中说：“……相望有年，左提右挈。君遭千恨，我丁百厄；所冀与君，同轨并辙。敌其不乐，民乃大欢；邈焉万里，精神往还。” 谭平山听后深受感动，安排国共两党干部都要认真学习孙中山的悼词，将列宁开辟的革命事业进行到底。 　　蒋介石于2月下旬写信给国民党中央执行委员会，要求辞黄埔军校筹委会委员长职，并离开广州返浙江，还在黄埔军校筹委会发放遣散费，企图使军校办不成。谭平山立即将信呈孙中山。孙中山批示“不准辞职”，并迅速与廖仲恺谭平山商议，决定派廖仲恺代理黄埔军校筹备委员会委员长，负责筹建该校，并马上办理招生。随后，蒋介石返广州。孙中山兼任黄埔军校总理，是军校最高领导人，并任命蒋介石为黄埔军校校长，廖仲恺为军校党代表。谭平山积极支持孙中山创办黄埔军校，并迅速调派和发动了一些国民党、共产党干部到军校工作，发动一批共产党员、青年团员、进步青年到黄埔军校学习。 　　当许多共产党员加入国民党时，宋庆龄问孙中山：“为什么需要共产党加入国民党？”孙中山回答说：“国民党正在堕落中死亡，因此要救活它，就需要新血液。” 国民党右派反对谭平山介绍共产党员加入国民党，反对国共合作。3月2日，孙中山发表《通告党员解释本党改组容共意义书》说：国民党和共产党“彼此既志同道合,则团体以内无新旧分子之別。”并且“容共”可以使“吾党之新机，于是乎生。”斥责反对“容共”的人，“非出诸敌人破坏之行为，即属于毫无意识之疑虑。” 　　按照孙中山的指示，谭平山带动了一批共产党员、青年团员加入国民党，为国民党补充了新鲜血液，壮大了国民党组织。共产党员、青年团员阮啸仙、刘尔崧、周其鉴、周文雍、郭瘦真等分别被选为国民党广州市区党部或区分部的执行委员。这就使国民党将从前自上而下的组织，变成自下而上的组织，基础甚为巩固。 4月1日，孙中山指示国民党中央农民部制定农民运动计划，组织各种农民团体，积极开展农民运动，并确定在“扶助农工”政策中将扶助农民运动放在首位。谭平山充分运用彭湃在海丰开展农民运动的经验，派出一批党团员到花县顺德和广宁等地开展农民运动，成绩显著，争取了孙中山更重视农民运动。 　　5月5日，经孙中山同意，中国国民党中央执行委员会举行第二十六次会议，在谭平山等提议下，决定成立中国国民党农民运动委员会，推选廖仲恺、谭平山、戴季陶、法郎克为委员。在农民运动委员会指导下，广东以至全国各地农民运动蓬勃地发展起来。 　　根据农民运动发展的需要，谭平山通过国民党中央农民部农民运动委员会，提议在广州创办农民运动讲习所。6月30日，经孙中山同意，国民党中央执行委员会第三十九次会议决定举办农民运动讲习所。7月3日，中国国民党农民运动讲习所在国民党中央礼堂开学。经谭平山提议，孙中山批准，中央农民部任命彭湃为所长。谭平山以国民党中央常委会组织部长身份，在农讲所讲课，作报告，论述孙中山“扶助农工”政策，号召学生坚决贯彻由中央农民部拟定，经孙中山批准的农民协会章程。 　　28日，谭平山在农讲所主持召开国民党农民党员联欢会，发动他们带动各地组织农民协会，开展农民运动。参加会议的有2000多人。应谭平山邀请，孙中山宋庆龄出席了这次会议。孙中山发表演说，提及各级政府要帮助农民实行大联合。指出农民“占全国人口百分之八九十”，但状况“都是艰难和痛苦的”。必需“先有觉悟，自己知道自己的地位是重要的，……然后大家才能够联络起来”。号召农民党员“从今日起结成团体，挑选各家的壮丁来练农团军”。声明“政府还可以从中帮助，用极低价卖枪给你们。你们有了枪，练成了很好的农团军，便是中国第一等的主人翁，能讲很有力的话”。 　　宋庆龄后来回忆说，孙中山看到这些从各地来的农民党员，赤脚走路到广州开会，很受感动，回到家里说：“这是革命成功的起点……中国被压迫的人民在自救中所必须起的作用”。 孙中山在会上还论述了他的“耕者有其田”的思想，号召农民“先组织团体，以后才可以争利益”。 他指出，农民有了这样的团体，“就可以恢复自己的地位和自己的幸福”。“从前被人抢去的利益，便可以争回来”。 会上，谭平山提出建立广州市郊农民协会，选出职员。这次会议的召开，影响很大，推动了广东农民运动的迅猛发展。 　　随着革命运动的高涨，帝国主义加紧干涉中国革命。英帝国主义以香港为阵地，一方面支持盘踞惠州的军阀陈炯明进攻广州，另一方面支持商团军，阴谋颠覆孙中山大元帅府。商团军是在英帝国主义援助下建立起来的。团长是英国汇丰银行广州分行买办陈廉伯，副团长是曾任广东省警察厅秘书长的佛山大恶霸地主陈恭受。他们从香港购买长短枪9841支，子弹337万发，由丹麦商船“哈佛号”运回广州，被大元帅府扣留。商团煽动广东各地100多个城镇商人罢市，形势严峻。孙中山派谭平山廖仲恺到中山视察农民运动，组织农军，为镇压商团做准备， 并决心平定商团叛乱。 　　10月9日，孙中山手谕成立革命委员会。10日，在中共广东区委发动下，广州工农兵学等革命团体3万多人，在广州第一公园（今人民公园）开警告商团大会。谭平山被推选为大会主席，论述了警告商团示威大会的重要意义。会后，群众示威游行。当队伍游行到太平路（今人民路）西瓜园时，商团军开枪射击，当场打死20多人，打伤100多人，并建筑炮台，封锁市内街道，张贴“驱逐孙文”“打倒孙政府”等反动标语，阴谋推翻孙中山大元帅府，成立商民政府，以陈廉伯为大总统。 　　当日，革命委员会正式成立，孙中山任会长，特派廖仲恺汪精卫蒋介石许崇智陈友仁谭平山为全权委员，致电广州工代会、广东工团军、农民自卫军、海员工会等40多个团体，告以已令广东省长粤军司令查办商团。15日，谭平山在革命委员会军事指挥部发动广东工团军、农民自卫军配合粤滇桂湘豫等各军兵分五路，把麇集在广州西关的商团军团团包围起来，经一段短时间的战斗，平定商团叛乱。商团头子逃到英国在广州的租界沙面。孙中山十分高兴，祝贺廖仲恺谭平山等镇压了商团叛乱，使大元帅府转危为安。 　　平定商团叛乱后，全国革命运动高涨，使军阀内部分化。当时，第二次直奉战争正在进行。23日，直系爱国将领冯玉祥高举反直旗帜，发动北京政变，导致直系军阀溃败，随后电告孙中山，邀他到北京，商议国事，解决时局问题。为了实现我国的统一，孙中山决定接受冯玉祥的邀请，冒着生命危险，与黄埔军校政治部主任邵元冲到北京去“共筹统一建设之方略”， 希望我国“分崩离析之局，得以收拾； 长治久安之策，得以实施”。为此，廖仲恺与兼任中国共产党在中国国民党中央党团书记的谭平山推荐中共广东区委委员长周恩来兼任黄埔军校政治部主任。孙中山蒋介石表示同意。不久，周恩来即到军校工作。 　　11月12日，孙中山出席广州各界欢送会。谭平山发动了国共两党干部党员各革命团体参加。孙中山在会上发表演说，指出：北京政变，其中“有许多复杂的分子在里头，革命党虽然是原动力，但其中大部分人都不是革命党”。表示决心赴北京，“拿革命主义去宣传”。勉励到会干部和群众“同心协力把广东的基础弄得很巩固，做一个革命的好策源地，……团结南方现在的力量，并且要把北伐军前进到武汉，和北方响应”。 谭平山听后，对国共两党干部说：我们要按照孙中山总理的指示办，认真把广东革命策源地根据地建设好，将来还要按孙总理的意见，进行北伐，打到帝国主义和封建军阀，以便和北方革命力量相呼应，完成祖国的统一，使孙总理北上能放心。 　　谭平山是华南工人运动的先驱，曾发动工人多次开展罢工，争取改善生活待遇，与工人有深厚感情，同广州各工会领导人亦常有往还。他坚决贯彻孙中山“扶助农工”政策，使工人政治地位得到提高，经济收入略有增加。趁孙中山北上之际，他参与发动广州96个工会赠送镌刻着“定鼎中原”四个字的银鼎一座，在大会上送给孙中山。孙中山怀着喜悦心情，收下了这座银鼎。 　　13日，谭平山廖仲恺等到码头欢送孙中山宋庆龄乘永丰舰（后改名中山舰）北上，曾冀后会有期，重叙共事，孰料从兹一别，竟成永诀。 　　1925年3月12日，孙中山在北京因肝病医治无效，与世长辞。13日，中国青年军人联合会在广州北较场干部学校大礼堂举行孙中山大元帅追悼大会，到会者有粤军讲武堂、桂军军官学校、大元帅府铁甲车队、飞机掩护队、湘军讲武堂等代表2000多人。谭平山以中国国民党中央常委组织部长身份发表演说，论述革命军人不仅要能执刀执枪去袭击敌人，而且应是革命的主义的宣传者。他说：“革命军人有两个是最要紧的条件：一、军人要担任宣传主义，同时做一个政治家；二、革命军人，要一天天同民众接近。”“为民众牺牲，为民众奋斗。倘不同民众接近，则军民间之睽隔，永远都不能除去，何能宣传主义？” 他号召大家继承孙中山总理遗志，打倒帝国主义，打倒陈炯明等军阀。