1911年10月10日，武昌起义一声枪响，各地闻风而起，纷纷宣布“光复”，腐朽的清王朝土崩瓦解。1911年11月3日，上海革命党人以伍廷芳“伟才硕望，中外咸钦”，故托人劝他出任沪军都督府外交总长。伍一开始以年老体弱相辞，后来勉强接受。到11月4日上海光复，6日都督府宣告成立，伍廷芳就走马上任了。前后相差，不过几日而已。以他的能力与声望，能在这么短的时间里，投身到一个充满艰辛与风险的全新事业——肇建民国当中去，其决心和影响可想而知。时局的波谲云诡，总是出人意表。虽然武昌起义之后，各省纷纷宣布独立，清廷分崩离析之势不可阻挡；但另一方面，清廷毕竟是百足之虫，死而不僵，尤其是随着袁世凯复出，他挟北洋六镇之势力，耀武扬威，一时倒也令革命党人无可奈何。此时，南北双方谁要吞掉谁，都有千难万难；而军事上占据优势的袁世凯，又在背后大玩养敌自重的伎俩，所以，最终双方有意无意地维持住了一种均势。此时，独立的各省固然愿意早日和谈，以定大局；袁为着政治野心，想早点坐上袁氏江山的宝座，也唱起议和高调，他还抢先南方一步，选派唐绍仪为北方议和总代表，南下湖北，争得谈判主动权。
唐绍仪，字少川，广东香山唐家湾（今属珠海）人，早年留学美国，后任职朝鲜16年。回国后，他仍然长期且专门从事维护中国主权、增进中国利益的外交活动。其中，尤以赴印与英国谈判，解决西藏问题，及在收回利权运动中处理煤矿与铁路事务的政绩，使他享有盛名，号称为“清廷显官，政学前辈”。由他出任北方总代表，一方面固然是袁世凯的主意，另一方面却也是众望所归。反过来看南方，在能力、资历和声望上能与唐绍仪并肩抗衡的，除伍廷芳等寥寥几人外，找不出更多。
出任南方议和总代表，伍廷芳当然是最佳人选。所以，尽管上海的陈其美与湖北的黎元洪为争夺革命领导权斗得不亦乐乎，但前者一提议伍廷芳，后者则除了把工夫放在争得谈判地点设在武汉外，对于人选问题只得同意。12月5日，代理中央政务的黎元洪正式任命伍廷芳为民军总代表，代表南方主持和谈，以“不辜负十一省推举之望”。
伍廷芳却并不想买陈其美的账。对于出任总代表一职，他先是表现冷淡，继之以推却。陈其美急于求伍廷芳出马，以盖过黎元洪，据说竟至于在伍面前长跪不起，苦求不已。他的诚心总算是把伍廷芳感动了。但北方的唐代表还未到，南方又为议和地点争得不可开交起来。黎元洪力主在汉口谈判，伍廷芳则以事务繁多、各国公意等理由主张将议和地点定在上海。双方电报来来去去，等到唐绍仪已经到了武昌，还没争出个定论。后来南京光复，清廷又夺去汉口，武昌处于大军压境之下，才不得已定为上海。
12月18日下午，海内外万众瞩目的“南北和谈”拉开序幕。伍廷芳、唐绍仪各率领其参赞（南方有汪精卫、王宠惠、王正廷等，北方有杨士琦、章宗祥、严复等），在上海公共租界市政厅展开争论。双方唇枪舌剑，一直谈判到31日，留下会议记录5次，才达成了不少共识。
伍廷芳的卓越才识，在这次和谈中得到了最充分的展现和挥洒。他认为当务之急在于南北停战，“须实行停战，方可议和
（本章未完，请翻页）