当时汪精卫是国民政府主席，又是中央军事委员会主席，蒋介石这么大的行动事先不通知汪精卫，显然是以“先斩后奏”的方式和汪精卫对抗。汪精卫对蒋介石无视合法国民党中央政府而擅自行动的行为非常愤怒，准备召集中央委员处置蒋介石的越权行为，但大部分中央委员却都替蒋介石说话，赞同蒋介石的排俄排共行动。汪精卫看到他这个最高领导人已被蒋介石架空，如果他和蒋介石搞直接对抗，势必引起国民党内部的严重分裂。既然国民党中央的大部分人都赞成蒋介石，为了维护国民党的整体利益，汪精卫决定以主动辞职的方式，把政权交给蒋介石。
１９２６年３月２２日，汪精卫在临时召开的中央政治会议上说：“我是革命政府和党的代表，这件事的发生我也有责任，我只责己不责人，一切均由我不能尽职所造成，我将引咎辞职。此事一切善后工作，均由蒋同志去办。”当时汪精卫之所以轻易把政权让给蒋介石，是因为当时汪精卫以为蒋介石和他的对抗只是出于政治观点的不同，没有想到蒋介石上台后会搞个人独裁。汪精卫本是一个淡泊权位的人，本来并没有和蒋介石争权的野心，但当蒋介石明显在国民党内搞个人独裁后，汪精卫才站出来成为反蒋的核心人物。
１９２６年５月１１日，汪精卫离开广州前往法国马赛。汪精卫辞职后，广州国民政府于６月６日推选蒋介石为中央军委主席兼北伐军总司令。后来蒋介石又出任国民党中央常委主席，独揽党政军大权于一身。蒋介石的排俄排共政策虽然得到了国民党中相当的支持，但国民党北伐还要依靠苏联的经济军事援助，还没有和苏联摊牌的资本。所以蒋介石在处理中山舰事件时，提出“对人不对俄”的方针，要求俄国撤回顾问季山嘉，重新派鲍罗廷任国民政府顾问。苏联接受了国民党的要求撤回了季山嘉，苏联和国民党的关系一时得到了缓和。
蒋介石上台后，立即开始著手北伐。１９２６年１１月，北伐军攻占了南昌、武昌，这引起了北方军阀们的震惊。张作霖、孙传芳、张宗昌等人组织起“安国军”和北伐军对抗。安国军司令张作霖开始在北京搜捕共产党员，许多共产党员逃入苏联大使馆避难。由于苏联是北伐军的总后台，张作霖不顾国际法，派军队强行进入苏联大使馆抓捕共产党人，并搜缴出多份机密文件，包括蒋介石和冯玉祥向苏联借款的契约书以及苏联向北伐军提供武器的清单表。张作霖从苏联大使馆抓出的中共最大级人物是李大钊，张作霖是一个头脑简单的武夫，立即判李大钊等二十人死刑，包括李大钊十七岁的女儿。
北伐军在军事上的进展虽然顺利，但蒋介石的独裁作风却引起了很多国民党人的反感。尽管中山舰事件发生时，大部分国民党领导人站在蒋介石一边，赞成他排俄排共的“敢行”。但是蒋介石当权后表现出来的独裁霸道，又让人们回想起作风民主的汪主席的好处，于是“拥护汪主席，请汪主席回国复职”的呼声四起。１９２７年２月，孙科等人组成“迎汪行动委员会”，以国民党临时中央会议的名义，致电汪精卫，敦促他回国复职。蒋介石后来也挡不住“拥汪”的浪潮，只好也打电报请汪精卫归国复职。在法国的汪精卫收到了雪片般飞来的请求他回国复职的电报，最后蒋介石也打来电报说：“如果先生再不回国的话，我就要出国了”。
汪精卫看到这些电报后感叹道：“看来我不回去不行了”。１９２７年２月下旬，汪精卫离开法国，乘火车经苏联归国。从此汪精卫开始了他与独裁者蒋介石的斗争。但此时的蒋介石羽毛已经丰满，汪精卫手里又没有军队，已经无法有效地抗衡蒋介石了。
第二部分之三：从拥共到反共
中山舰事件后，汪精卫自责辞去国民党主席和中央军委主席出国。蒋介石接任国民党主席和中央军委主席，独揽党政军大权于一身。蒋介石上台后，虽然一改孙中山和汪精卫时代的亲俄政策，但并没有和苏联人摊牌。苏联当时受到其他资本主义国家的孤立，在海外只有中国国民党一个朋友，所以也不愿轻易和国民党把关系搞糟，苏联接受了蒋介石的要求，撤回态度傲慢的顾问季山嘉，重新派态度比较谦虚的鲍罗廷出任国民政府顾问，使苏联和国民党的关系一时得到了缓和。
蒋介石上台后，１９２６年７月在苏联的支持下开始北伐。据近年的一些研究资料显示，苏联对国民党政府提供了高达数百万美元（当时价格）的军事援助。当时中国是个穷国，各个军阀并没有多少钱购买军火，而资本主义国家“死的商人”军火商，决不会象苏联那样提供无偿的军事装备，所以苏联的援助使各个军阀部队在军事装备上，大大劣于北伐军。比如大军阀之一张宗昌的部队，有三分之一的人没有枪，连军服也长年不更新，士兵们一个个蓬头垢面，还有很多人连鞋都没有。部队里发的一点军饷全被各级军官装入自己的腰包，张宗昌自己也生活非常靡烂，有妻妾４２人，其中２１人是白人。这样的军队没有战斗力也是可想而知的。
当然苏联的援助也是有条件的，这就是允许共产党人在北伐所到之处发动工农，并在军队中进行帝国主义问题、农民问题的激烈宣传。当时中国人对西方列强的侵略本来就很痛恨，列宁的帝国主义学说又使中国人的仇外情绪火上浇油，使北伐军和外国人造成了严重摩擦。１９２７年１月３日，北伐军不顾中国军队不得进入外国租借的国际条约，强行进入英国在汉口的租界，和英国的海军陆战队发生了交火，双方各有死伤。１月６日，北伐军再次强行进入在九江的英国租借。如果是在一次世界大战前，大英帝国肯定再次纠集八国联军惩罚中国，但一次大战后英国的国力大大衰退，只好默认中国军队武力收回汉口和九江租借。
可是１９２７年３月２７日北伐军占领南京后，激愤的士兵的狂乱行动，引起了造成很大国际麻烦的“南京事件”。北伐军进入南京后对外国领事馆、教堂、商社等进行了武装袭击，打死英美法意等国６人，打伤数十人。特别是英国领事被北伐军士兵拉到市中心用青龙刀斩首示众，英国领事夫人被２７名北伐军士兵轮奸至重伤，此外还有上百名外国妇女被北伐军士兵强奸。北伐军的“暴行”使列强们十分震惊：义和团又来了！英美在长江上的数艘军舰开始向南京城内炮击报复，打死南京市民２０００余人。不过日本军舰被政府下令不得开炮，日本舰队司令驶回上海后自杀谢罪。他在遗书中说：他奉命不准开炮，以至海军保护侨民不周，无面目以见国人。（据日本报道，日本在“南京事件”中重伤５人，被强奸者３５人）。
蒋介石对这种情况非常担心：这样下去北伐势必引起各国列强的干涉，就要破灭国民党消灭军阀统一中国的大业。蒋介石认为这一切都是共产党的帝国主义理论煽动所造成的，不和共产党分家，北伐就不能成功。蒋介石下了“分共”的决心。尽管蒋介石的“分共”主张得到大部分国民党高级将领的支持，但当时蒋介石身兼各种要职，培植私人势力，搞军事独裁的倾向也十分明显，所以反对蒋介石独裁，请汪精卫回国重新担任国民党领导人的呼声一浪高过一浪。在这样的情况下，蒋介石也感到众怒难犯，只好请汪精卫回国主持大局，蒋介石给汪精卫拍电报说：“如果先生再不回国的话，我就要出国了”。
在这种情况下，汪精卫于１９２７年２月下旬离开法国，乘火车经苏联归国。在汪精卫途径莫斯科时，斯大林专门接见了这位国民党左派领袖。斯大林希望汪精卫回国后重用陈公博等左派人士，嘱咐汪精卫说服蒋介石不要赶鲍罗廷回国。原来苏联将最高顾问季山嘉换为态度比较谦虚的鲍罗廷后，仍和蒋介石龌龊很多。一次鲍罗廷对蒋介石说：“你想让众人不说话是不可以的。我告诉你一个故事罢。古时西方有一个国王，极讨厌大臣们说话。有一天，他对大臣们说：‘你们说话太多了，我不喜欢。’大臣们说：‘只有狗是不会说话的，陛下要我们不说话，只有去找狗。”蒋介石认为鲍罗廷有意羞辱他，又要赶鲍罗廷回苏联。汪精卫向斯大林表示回国后要坚持孙中山的联俄联共政策，并做好蒋介石等右派的工作。
北伐军攻克汉口后，原来在广州的国民政府迁往汉口，而蒋介石的北伐军总司令部却设在南昌。在汉口的国民政府要求蒋介石把北伐军总司令部迁往汉口，而在南昌的蒋介石却要求把国民政府迁往南昌，两方进行了激烈的争论。蒋介石不执行党中央的命令，拒绝把司令部迁往南昌的作法，显然出于私心。在蒋介石看来，驻扎汉口的部队都不是他的嫡系部队，他到南昌必然处于国民政府的控制之下。蒋介石和武汉国民政府的迁都之争，使人们更加感到蒋介石军事独裁的危险。
１９２７年３月１０日，就在汪精卫回国的途中，国民党中央在武汉召开了二届三中全会。这次会议是一次不折不扣的反蒋会议，与会者们一致认为蒋介石集党政军大权于一身，一意培植私人势力，现在又挟军力与党和政府对抗，制造军事独裁。如果不及早加以抑制，蒋介石必将成为袁世凯第二。二届三中全会通过了一系列议案，“中央军事委员会组织大纲”，“国民革命军总司令部组织条例”等，均意在提高党权，削弱蒋介石的个人权力。会议还通过今后中央军事委员会不设主席，由汪精卫为首的７人集体领导。汪精卫在缺席的情况下，被选为国民政府主席。
北伐军占领南京后，蒋介石的北伐军司令部迁往南京，这时国民党已形成在汉口的国民政府和在南京的蒋介石派系两大阵营，两个阵营都拉拢汪精卫加入他们的阵营。以当时汪精卫在国民党内的地位和威望，加入哪个阵营就会大大加重该阵营的砝码。７０年前的交通不比现在这样快捷，１９２７年４月１日汪精卫乘坐的邮轮到达上海时，北伐军已经攻占了上海。蒋介石派他的私人代表吴稚晖前往码头迎接汪精卫，在这以前，蒋介石向全军发表欢迎汪精卫回国领导的通电：“自今以后，所有党政、民政、财政、外交等等，均须在汪主席领导之下，完全统一于中央。中正统帅全军而服从之。”４月３日，汪精卫到法租界孙中山的故居，和蒋介石以及在沪的国民党高级军政干部会谈。
吴稚晖说：“现在共产党以武汉为中心，从城市到农村都在搞暴动，武汉的国民党已被共党所胁持，迟早要被吃掉”。蒋介石说：“目前我党已处于一个危险时期，也是一个转折关头，如果让共党再猖狂下去国民党就要垮台，现在一切党国命运在于汪主席复职。”汪精卫说：“蒋先生要兄弟来究竟要做些什么呢？”蒋介石说：“第一是复职。第二是把苏俄代表鲍罗廷赶走，此人在武汉成了太上皇，非把他赶走不可。第三是分共。这三件事必须坚决做，立即做，请汪主席指示。”
汪精卫回答说：“联俄容共的政策为总理手定，不可轻言更改。此事事关重大，须召开四中全会做出决定。党的民主制度、组织原则是必须遵守的。”吴稚晖站起来激动地说：“汪兄弟，现在是什么时候，你还要讲什么组织原则，还要对共党心存幻想。”接著李宗仁、李曾石等人纷纷发言，反对汪精卫的意见，要求汪精卫不要偏袒中共。汪精卫一时间成为众矢之的，但他仍然坚持原则，毫不退让。最后汪精卫说：“我是站在工农方面的呀！谁要残害工农，谁就是我的敌人。”
这时吴稚晖忍不住激动，扑通一声跪倒在汪精卫面前，流著眼泪说：“汪先生，汪主席，看在党国面上，你就放弃袒共立场，留在上海领导吧！”汪精卫被此举搞得不知所措，拔腿逃避上楼，口中连声说道：“稚老，您是老前辈，这样我受不了，我受不了。”最后会议就在这样令人啼笑皆非的气氛中结束。
汪精卫和蒋介石等人第二天继续开会，这次汪精卫改变了昨天的强硬态度，同蒋介石达成了初步协议。协议规定：一、４月１５日由汪精卫主持召开国民党中央二届四中全会，在二届四中全会上决定一切；二、通告共产党暂停在国民政府内的一切活动，听候中央开会决定；三、工人纠察队等一切武装团体均服从蒋