几天后，当时身为上海市委常委的赵启正告诉江，这位记者在受到市长的批评后感到紧张，担心地方上的报纸不会再发表他的文章。赵继续说，但在接到江的信后，他就放心了。
江回答说：“在作出批评的时候，我们应当充分考虑到它对我们每一位同志所造成的后果。”
几天后，江读到了同一位记者的另一篇文章，指责官员把权力商品化。他告诉身边的一位《解放日报》的摄影师（他正在报道市长的活动），说这篇文章写得很好。“请向他转达我衷心的祝贺。”江说。让一个报纸的雇员来传递江的表扬，他肯定会让身边的人都见市长的话。
1987年10月，在党的第十三次全国代表大会的小组讨论中，在会议结束时将被选为政治局常委的乔石发言说，上海的经济应逐渐从以指令性计划为指导转到以市场经济指导，这需要在意识形态和实践中做出巨大变革。
江泽民同意乔石的观点。“这是上海唯一的出路。”他说。江告诉与会代表，他听说高层对上海经济局面不够活跃有些不满意见。“让我们甩掉坏名声，”江说道，站起身来，并用上海方言说，“上海人民商业才干有余，但智慧不足。”
但有位代表，当地一家银行的行长不同意市长的观点。江反驳说，“上海工业繁荣，靠的是国家从各地调拨便宜的原材料，这种日子恐怕一去不复返了。”前任上海市市长汪道涵插话说，“这就是我们为什么必须改变旧观念、 抛弃旧做法的原因。”敢在上海毫无顾忌地打断江说话的也许只有汪道涵一人。
江也享受了不少乐趣——他所谓的乐趣。他创办了上海优秀学者进行的两个月一次的讨论会。每次会上他都会提出一个热点或敏感问题，并从讨论中得到很大乐趣。
秋末，芮杏文被调到负责党内日常事务的中共中央书记处担任书记。这样，江泽民就被提升到芮原来的位置上，担任上海市委书记，成为上海无可争议的一把手。根据惯例，北京和上海市委书记通常是政治局委员。在相对来说仍算较为年轻的年纪，61岁的江泽民成为了共产党最高决策机构，也是最高权力机构的一员。
党的第十三次全国代表大会详细阐述了共产党的指导理论，即“社会主义初级阶段”。其观念是当前建立市场经济之类的改革措施虽然看上去很像资本主义，但实际上是建设社会主义长期计划的组成部分。共产党希望借此协调共产主义的核心思想与现代化、改革所要求的市场化之间的关系。
接替江担任市长的是人们知之甚少的朱镕基，他是明代开国皇帝的后代，出生在湖南省一个富裕的地主家庭。因此，他曾在政治上遭受罢黜，这并不令人感到意外。在1957年，他被打成“右派”。但一旦邓小平掌权，他就靠真才实干迅速得到了升迁。江和朱的性格迥然不同。朱意志坚强，以直率著称，能够做出成绩。江泽民和朱镕基相处得很好，这使所有人都感到吃惊，包括那些喜欢对共产党作出预言的人和外国专家。他们两人形成了互补，并在未来的日子里将共同领导整个中国。
这两位领导人以魄力和效率来共同解决上海的问题。问题之一是官僚主义作风。一家有国外投资的合资企业的审批要盖126个批准印戳（即所称的“图章”），历时15个月，涉及14个部门、19个办公室。“此类事件还在发生，我感到很羞愧，”江说；“以这种工作效率，我们怎么能期望外国投资者来跟我们做生意？外国投资者受不了这么多的繁文缛节。”一个处理类似事务的新的职能部门成立了。在朱镕基的领导下，该委员会有权对500万美元至3000万美元的任何合资企业进行审批。业务程序是“一个窗口，一个公章”，这大大提高了工作效率。人们称朱镕基为“朱一敲”。
朱的任命意味着江从市长的日常事务中解脱了出来，能够更加专心地处理政治事务了。党的十三大要求增加党和人民之间的对话。江一直与市民进行公开座谈，现在他加大了与市民交流的力度。在一次这样的会议中，他得知大约1万名上海市民的住房十分拥挤，人均只有两平方米。作为这次座谈会的成果，这些居民中有60％得以搬迁。
江泽民于1988年1月率领一个由上海市领导组成的大型代表团到广东省参观考察。上海长期以来是中国的商业中心。江泽民为理解广东这个富有活力的南方省份所作出的努力，本来可能被看作是一次令人尴尬的求助，但实际上却是公关上的一大成功。通过积极向广东省学习，江塑造了自己思想开放、实事求是的领导人形象。
在返回上海之后，江召开了一个由万名干部参加的会议。“我们首先要做的是解放我们的思想，”江说，“广东得以迅速发展的基础是改革、开放、明确的财政拨款、下放的责任制以及在所有企业、部门和管理部门中建立起来的奖励机制。”在2月召开的一次会议上，他的话更为明确，要求上海工业部门必须进行结构性转变。他说，权力必须下放给下级管理部门。他还敦促要充分利用乡镇企业的较低劳动力成本以及剩余生产力。要有更多的企业向股份制转变。应集中精力创立名优品牌。就在当月，新的数据表明，从1985年到1987年底，上海的外商投资额增加了3倍。
数字的确不俗，但江知道还能够更好。江对当地的经理人与外国投者的谈判方式非常关心。他批评他们目光短浅，认为这样会影响长远发展。“上海人很精明，但不聪明，”江引用了一个外国投资者的话，“商业谈判十中有九以失败告终。”他指示工作人员对30次失败的商业谈判进行分析，并对主管人员的缺乏战略眼光提出了批评。他建议地方管理人员降低赢利期望，让外国企业得到更大份额，这样就可以开设更多的合资企业。
但与此同时，江一直在外人面前保护自己人。当他听说外国商人抱怨上海人在谈中表现出的“精明”时，他就说：“精明是件好事；我宁可和精明的人打交道。仓促达成的协议会给双方带来困难和不快。”
江泽民的态度给来访的政要们留下深刻印象；他们在访问北京后总是会来上海。此外，江还带领官方代表团到国外访问。
江泽民的两个孙子女的出生，给他在上海的那些岁月带来了喜悦。1986年绵恒生了一个儿子，叫志成；1988年绵康生了个女儿，叫志云。跟江泽民这一代一样，他们的名字的第一个字也是同样的。“志”的意思是“志向”或“抱负”。“志成”的意思就是“有抱负就会成功”；志云的名字综合了抱负与云的意象（出典于一首唐朝的诗）。志成小时候头发很少，所以被昵称“毛头”，意思是“没有头发的小孩”（从字面上说，它的意思是“毛茸茸的头”，一个跟实际情况相反的滑稽名字）；志云的昵称是“妹妹”。
他们的祖父一见他们就眉开眼笑。他常常见到他们，因为整个家庭就在一个大单元房里同吃同住。当他们的儿子带着妻儿去国外学习和工作时，江和他的妻子就尤其感到难过——绵恒在儿子出生后不久就出国了。“三哥和他的妻子非常想念他们的孩子和孙子孙女。”江泽慧回忆道。
1988年2月大年夜，当邓小平精神健旺地步入上海展览中心的友谊厅时，人们都起立鼓掌。江泽民引人注目地站在邓的身边，表明了邓对这位热情的上海市委书记的信任。在观看了丰富多彩的歌舞、传统京剧和杂技表演后，邓登上舞台向艺术家们致意，江紧紧跟在他的身后。这一场面的照片刊载在主要的报纸上。
12个月后的1989年2月初，江泽民又与邓小平一起庆祝了新年。这一年将以政治上的争论开始，而争论后来在天安门广场的动乱中终于大爆发。邓小平已经八十五六岁了，为了能目睹中国的发展，他辛劳了一生。他已经来日无多，希望能快些看到成果。在上海，江泽民似乎正在实现他的梦想。
江泽民一直保持着对马克思主义思想的关注，在1988年3月召开的一次有关政治价值标准的会议上，江引入了进步的思想。在毛的理论的基础上，江对20世纪末背景下的社会主义和资本主义概念进行了重新思考。“在理论研究上不应该有禁忌，应该允许研究者畅所欲言，”江对1000名听众说，“我们应该允许在理论研究中出现错误，就像在改革中会出现错误一样。”回顾了历史教训，他又说：“压制百家争鸣，搞一言堂的做法将会压制人民的意愿，窒息思想和导致对理论的破坏。”
在江泽民说“没有禁忌”的时候，他没有明说，但所有人都知道，是“在理论探讨仍处于马克思主义范围之内的前提下”或是“在理论研究者仍信奉马克思主义的前提下”。因此，江所说的“没有禁忌”，打个比方，跟一个精研美国宪法第一修正案，正在打一场有关言论自由的官司的美国律师所说的同一词语，意思是不一样的。尽管如此，江的表达方式似乎透露了他内心的斗争。江本身是个知识分子，真正爱好学问，他了解学术自由的条件与限制，即便他不能提供前者，也不能放松后者。江认为，学术自由是重要的，但没有共产党的领导权这么重要。
一个月后，在上海市人大会议上，副市长黄菊报告了上海接连发生的事故情况，这些事故给市领导造成了极大的压力。12月，在一起浓雾引起的轮渡事故中，有11人被踩死，76人受伤；下一个月由于毛蚶被污染引起的肝炎流行波及近30万人，造成数人死亡。
在会议上，几位副市长因失职而作了自我批评。渎职的责任人已受到记过、警告和降级的处分。江泽民感到自己也有责任，尤其是对肝炎流行事件，为此，他也作了自我批评。他承认自己对卫生工作不够重视，本来应该预测到随着私营企业的蓬勃发展而可能出现的问题。“作为第一把手，”江说道，“我应当承担这个责任。”
许多党员干部，特别是那些关心贫困和医疗问题的人，对45万元的选美费用大为恼怒。他们向报社写信并提出正式批评，对“上海小姐”选美比赛冠军将得到5000元奖金表示了厌恶，这笔钱比当时大多数工人一年的工资还要多得多。此外，联想到过去堕落的做法，有些人怀疑这次选美活动的真正目的是“为某些官员挑选美女”。
江不想给人留下守旧的强硬派的印象，那将有损上海走向世界的雄心壮志，但他又不能忽视党员们的群起反对之声。经过3个星期的深思熟虑，江取消了上海小姐”选美比赛，并谨慎地选择了他解释的措辞。他说，目前“条件尚不成熟”。换句话说，在原则上他并不反对选美比赛，只是上海还有更大的问题需要先予以解决。
最主要的问题就是飙升的通货膨胀率。政府采取的一项政策是通过放开物价管制来解决经济中价格严重扭曲的问题，但这项政策无济于事。人们开始疯狂采购。中国领导人被迫彻底改变他们的政策。
1988年下半年，李鹏总理决心冻结物价。新的楼房建设——特别是宾馆和写字楼——实际上被禁建。全国1万多个项目被中止。
现在也到了江泽民重新考虑自己的事业的时候了。1989年他将满63岁。传统上为退休的高级领导人准备的职务——全国人大常委会副委员长或全国政协副主席——并没有吸引力。江想彻底改变一下。他想成为母校上海交通大学的教授。
尽管江可以利用上海市委书记的职务来确保在大学里谋得一个席位，但他更希望通过自己的学术成就来取得。他回忆起翻译过有关电力问题的俄文著作，就和老朋友沈永言联系，希望恢复这项工作。在内心里，江仍然是一位知识分子，出版著作令他感到自豪。他还准备在大学里进行一次题为《当前电力节约与能源开发趋势》的讲座，他将就这一课题撰写一篇技术论文。
“江给我打电话时，我感到很惊讶，”沈说，“他急于知道自己的手稿的下落。坦白地说，我想不起来手稿到哪儿去了。已经过去20多年了，其中还有10年是消磨在混乱的‘文革’中。我告诉他我会找找看。”
沈在书架和壁橱中仔细查找，终于找到了这份如同出土文物一样的被遗忘的手稿。但他已找不到俄文原稿；为了安全，他的妻子可能在“文革”中将原稿卖掉或烧掉了。
“江大感欣慰，”沈说，“并告诉我他会与我们原来的俄罗斯顾问联系，再要一份俄文原稿。”江在一个月内就拿到了那本书，并寄给了沈。
“请帮我把手稿校对和编辑一下，”江恳求沈，“这本书对我很重要。”
“我了解他所