管領・斯波義重（義教）の嫡男。斯波義将の嫡孫。従五位下・尾張守・越前守・治部大輔・左兵衛佐。
応永１４年（１４０７）１１月１９日に１１歳で元服し、従五位下・治部大輔に叙位・任官。
応永１６年（１４０９）８月１０日、祖父・義将から譲られて１３歳で管領に就任。しかし未だ若年であったためか管領としての発給文書には父の義重が代判するなど、義重や義将の監督下にあったが、応永１７年（１４１０）５月に義将が没すると、その翌月の６月には管領職を解任されている。
応永２５年（１４１８）８月に義重が没すると越前守護職を継承。また、義重が兼帯していた尾張・遠江国の守護職についても、それぞれ応永３１年（１４２４）９月、応永２６年（１４１９）には活動が見られる。
管領職こそ解任されたものの、幕府を構成する主要な武家の当主であることは変わらず、応永３０年（１４２３）７月には京都扶持衆を執拗に圧迫する鎌倉公方・足利持氏への対策、応永３５年（＝正長元年：１４２８）１月には４代将軍・足利義持の後継者問題などを細川・畠山・山名氏らとともに協議している。
足利義持の没後に６代将軍に就任した足利義教からの強い要請を受け、正長２年（＝永享元年：１４２９）８月２４日、再び管領に就任した。しかしこれは義教が義淳の能力を買ったというわけではなく、管領制を弱体化させて自身の権力を強化するためだった、とする見解もある。
永享４年（１４３２）５月頃、７月に予定された室町御所移転を記念する大饗の儀の主催を義教から命じられると、管領離任を申し出てそれを辞退しようとしたが許されなかった。その後の６月１３日に義淳の嫡男・義豊が享年１８で突然に他界したこともあり、再び大饗主催の辞退を申し入れたが許されなかった。このためやむなく７月２５日から翌日にかけての大饗に臨んで成功させ、１０月１０日に至って管領の辞任を認められている。
これらの心労が祟ったためか、翌永享５年（１４３３）１２月１日に享年３７で没した。法名は道忠。斯波氏の家督は弟の斯波義郷が継承した。