3月14日,日本驻华公使重光葵在英国驻上海总领事馆与中方代表、外交部次长郭泰祺举行了第一次非正式会谈。双方确定了三项基本原则,即:中国军队留驻现在位置至协议签订时为止;日本军队撤退至公共租界及虹口越界筑路地带,一如1月28日前之状态(部分日军可暂时驻于上述区域毗连地带);由中立国人士组成联合委员会证明双方的撤军。又经过两次非正式会谈之后,3月24日,上海停战会议在上海英国领事馆正式举行。这一谈判从3月24日一直谈到5月5日才最终达成了《淞沪停战协议》。该协议共5条,内容包括“停战情形遇有疑问发生时,由与会友邦代表查明之”,“中国军队在本协议所涉及区域内之常态恢复,未经决定办法以前,留驻其现在的地位”,日本军队则须撤退至事变发生前之“公共租界及虹口方面之越界筑路地段”,以恢复原状。
上海停战协议签字的第二天,即5月6日,日方代表宣布日军即日起开始撤退。至此,淞沪抗战算是正式画上了一个句号。第19路军被迫后撤。这一举动曾引起社会各界乃至国民党内部对蒋介石、汪精卫政府的强烈批评,认为政府增兵不力,有误国之嫌。但中日停战谈判达成协议,日本被迫撤军,中国既不赔款也不割让领土,社会舆论对此却评价不一。部分知识分子肯定政府的态度;而上海各界民众初知协议内容时却群情激愤,致使谈判代表郭泰祺被群殴。对南京心存异志的两广方面更是公开指责汪精卫等:“苟非丧权辱国,何以必要绝对秘密,急行签字?”汪精卫再三解释停战协议不含政治条件,与东北的继续抵抗可以同时并行,绝无丧权辱国之举。而监察院长于右任还是在21日以“停战协议未经立法院通过”为由,弹劾汪的违法行为,呈请依法惩戒。这一波政潮虽然很快平息,但上海停战协议对中方的损害却是持久的。因为作为主权国家,中国政府不仅失去了在上海的驻兵权,且无权宣布上海常态的恢复,无权过问一切有关停战的疑问。更有甚者,在未公开的协议附件中,中方还同意日本军队可以使用淞沪铁路,而中方不在浦东地区、苏州河南部地区驻扎军队。