丹羽長秀の子。幼名は鍋丸。通称は五郎左衛門。加賀守・侍従・参議・従三位。官途や居地から松任侍従・小松宰相とも呼ばれた。
織田信長の娘を妻とした。縁組は天正８年（１５８０）頃に決まったようだが、実際に婚儀が行われたのは信長死後のことで、羽柴秀吉が介在したようである。
天正１１年（１５８３）の賤ヶ岳の合戦においては父・長秀と共に羽柴方として出陣、戦功があった。また翌年（１５８４）の小牧・長久手の合戦には長秀に代わって出陣。
天正１３年（１５８５）４月の長秀の没後、越前・若狭・加賀半国で１２０万石以上の所領を継承するとともに越前国府中城主となる。しかし同年８月の越中征伐において、家臣が軍律を犯したとして越前国の所領を召し上げられたことに加えて、溝口秀勝・長束正家・村上義明といった有能な家臣が秀吉に引き立てられて去っていった。さらに天正１５年（１５８７）の九州征伐においても再び家臣が軍律を犯したために若狭国をも召し上げられ、残された所領は加賀国松任４万石のみとなった。
天正１８年（１５９０）の小田原征伐に出陣し、その後の文禄・慶長の役にも従軍。この朝鮮出兵においては渡海はせずに肥前国名護屋に駐屯している。慶長３年（１５９８）４月、それらの功で加賀国の能美・石川郡を加封されて１２万５千石の領主となり、小松に移り住んだ。このとき従三位・参議に昇進。
慶長５年（１６００）の関ヶ原の役においては西軍に属し、東軍勢力で所領を接する前田利長と加賀国で戦ったが敗れた（浅井畷の合戦）。この関ヶ原の役の後の処分で徳川家康に所領を没収されたが、慶長８年（１６０３）に常陸国古渡１万石を与えられて、大名として返り咲いた。
慶長１９年（１６１４）の大坂冬の陣では上杉景勝と並んで布陣、競って功を上げた。翌年（１６１５）の夏の陣でも戦功があり、元和５年（１６１９）には常陸国江戸崎に１万石を加えられた。
元和８年（１６２２）には５万石で陸奥国棚倉に国替えとなり、赤楯に築城。寛永４年（１６２７）２月には陸奥国白河・石川・田村・岩瀬の４郡で１０万余石の加増転封の沙汰があり、白河城を居城とした。
元和１４年（１６３７）閏３月６日に没した（没月日に異説あり）。６７歳。法名は大隣寺殿傑俊浄英大居士。