織田家臣。尾張国児玉の出身。丹羽長政の長子。天文４年（１５３５）９月１２日に生まれる。幼名は万千代、通称は五郎左衛門。越前守。
丹羽氏は代々、尾張守護の斯波氏に仕えていたが天文１９年（１５５０）より織田信長に仕え、柴田勝家と共に重きをなした。
秀吉はこの２人に肖って（姓より１字ずつ取って）「羽柴」の姓を名乗るようになったという。秀吉が織田家で台頭してくると勝家は激しい敵意を燃やしたが、長秀はむしろ秀吉を庇護するような立場に立った。
信長の養女（織田信広の女）を妻とした。
人柄は、実直だが頑固であったという。織田信長が全盛の頃に「木綿藤吉、米五郎左、掛かれ柴田に、退き佐久間（信盛）」という小唄が巷で流行った。木綿藤吉は木下藤吉郎（秀吉）の働き者ぶりを表し、米五郎左は長秀の特徴を米に例えたのである。華やかさこそないが堅実で、なくてはならないという長秀の存在を表している。
永禄１１年（１５６８）に信長が足利義昭を奉じて上洛した際、南近江の六角氏を攻めて武功があり（箕作城の戦い）、入京後には村井定勝・明智光秀・羽柴秀吉らと共に京都の庶政にあたった。
永禄１２年（１５６９）には伊勢国大河内城に北畠氏を攻めた。
元亀元年（１５７０）の姉川の合戦では近江国佐和山城を抑え、翌年（１５７１）２月には磯野員昌を降して佐和山５万石を与えられ、城主となった。その後も三好三人衆の摂津国中島城攻め、伊勢長島一向一揆：その２、さらには天正元年（１５７３）の朝倉征伐：その２・小谷城の戦い：その２、伊勢長島一向一揆：その３に出陣して功を挙げた。
天正３年（１５７５）５月の長篠の合戦にも出陣して功績を挙げている。同年７月、鎮西の名族・惟住氏の姓を与えられ、８月には越前国の一向一揆を鎮定。若狭国に転じて１０万石を領有した。
天正４年（１５８６）の安土城築城にあたっては普請の総奉行を命じられた。
天正１０年（１５８２）に本能寺の変が起こると、四国征伐の出陣のために摂津国にいた長秀は織田信長の三男・織田信孝と共に明智光秀の女婿・津田（織田）信澄を討ち、その後は羽柴秀吉軍に加わり、山崎の合戦に従軍して光秀を討ち果たした。
その後の清洲会議では、秀吉と共に信長の嫡孫・三法師（のちの秀信）を織田家の跡目に推し、所領の分配によって若狭一国と近江国の滋賀・高島の２郡を領して近江国高島郡大溝城主となる。
その翌年（１５８３）の賤ヶ岳の合戦では羽柴方につき、合戦後には既に領有していた若狭国と近江国北部に、越前一国と加賀国の江沼・能美の２郡を加えて、実に１２３万余石にのぼる大封を領有し、越前国府中（北ノ庄）の城主となる。
しかし、いつしか下僚であったはずの秀吉の風下に立たされていたのである。それに加えて、秀吉が旧主の子である信孝を自害させ、さらには小牧・長久手の合戦で織田信雄に攻撃をかけたことを腹に据えかね、居城に引きこもった。
そして天正１３年（１５８５）４月１６日、病の床で自決した。５１歳。法号は総光院大隣宗徳。
その自決の模様が奇怪で、「例えいかなる病なりとも、我が命を失わせようとするのは敵である。いかでその仇を討たでおこうぞ」と、自ら腹を切り開いて病巣をえぐり出した。すると、鷹の嘴のように異様に曲がった塊が出てきた。長秀はこれをわざわざ秀吉に送らせて死んだという。