天正１１年（１５８３）の賤ヶ岳の合戦の頃までは、羽柴秀吉と徳川家康は友好的関係にあった。賤ヶ岳の合戦ののち、家康は戦勝祝いとして家老の石川数正を秀吉のところに遣わし、名物茶器を贈っている。ところが、秀吉の勢力が日増しに増大していくさまを目の当たりにし、また、主筋にあたる織田信孝を殺し、織田氏の力を弱体化させていこうとする秀吉の動きを見てとった家康は、いずれ秀吉との戦いは不可避だと考えるようになった。しかし、秀吉の力が急激に伸びたため、家康ひとりではそれに対抗することができなかったのである。
そんな折の天正１２年（１５８４）３月６日、織田信雄が津川義冬・岡田重孝・浅井田宮丸という３人の家老を誅伐するということがあった。この３人が秀吉に通じていたというのがその理由であった。これを機に、信雄と家康は連絡を取りつつ秀吉に対抗する戦いに立ち上がったのである。
このときの家康の決起は、信雄の不満を利用して、強大化した秀吉に歯止めをかけ、それと同時に自己の存在を主張しようとするところにあった。そこで、四国の長宗我部元親、越中国の佐々成政、紀伊国の根来・雑賀の僧兵や鉄砲集団などとも結んで、秀吉包囲の態勢を作ろうと目論んだのである。
秀吉もまたこれに対抗すべく、信濃・甲斐の諸将に背後から家康を脅かせ、佐々成政には越後国の上杉景勝や北陸の丹羽長秀や前田利家らに牽制させるとともに、淡路の仙石秀久には長宗我部氏の動向に備えるように命じ、中村一氏を和泉国岸和田城に置くことで紀伊国の勢力に備えたのである。
家康は３月７日に８千余の兵を率いて遠江国浜松城を発し、１３日には織田信雄の拠る清洲に行き信雄の軍勢と合流、軍議を練った。
ところが美濃国の池田恒興が予想に反して秀吉側についてしまったため、家康・信雄連合軍の目論みは完全に外れてしまった。さらに恒興は１３日の夜に信雄方の犬山城を落としたのである。
これに応じるべく家康らは、清洲と犬山の中間にあたり、尾張平野を一望できる小牧山に本陣を構えた。
３月１７日、秀吉方の森長可が功を焦って小牧山から北方７キロほどの羽黒に陣を進め、そこで家康の武将・酒井忠次・榊原康政・奥平信昌らと戦った。この戦いを特に「羽黒の陣」などと呼んでいるが、ここでは家康方が勝利している。忠次隊に側面を衝かれた森隊に３百余の犠牲者が出て、長可らはほうほうの態で犬山城に逃げ込んだという。このとき、長可も負傷した。
そのころ秀吉本人は紀州の鎮圧に手間取っていたため、まだ大坂にいた。しかし羽黒での敗戦の報を聞いて急遽尾張に出陣することを決め、３月２１日に３万の軍勢を率いて大坂城を発し、２４日に岐阜、２８日には犬山城に入り、さらに翌日には家康の本陣である小牧山から２０町（約２．２キロ）ばかり隔てた楽田に布陣した。
このときの兵力は羽柴勢が１０万、家康・信雄連合軍勢が１万６，７千といわれているが、羽柴勢は数の面では圧倒的有利でありながらも敵地に入り込んでいるという点で、下手をすると後方との連絡を遮断されるという危険があることから、また、家康・信雄連合軍には地の利はあるが軍勢の数から見て明らかに劣勢であることから、どちらからも手が出せない膠着状態となり、対陣を続けることとなった。
４月に入り、しだいに焦りの色を見せてきたのは秀吉方であった。とりわけ、羽黒の陣での敗戦によって面目を失った森長可の岳父にあたる池田恒興は名誉挽回の機会を望み、「家康を小牧山に釘づけにしている間に別働隊が三河（家康の領国）国岡崎を攻め、家康本陣を撹乱すれば勝てる」と秀吉に進言した。秀吉ははじめこの案に肯定的ではなかったが、甥の豊臣秀次までもがその別働隊の大将に志願したため、ついにはそれを許可したのである。
４月７日、秀次を大将として池田恒興・池田元助・森長可・堀秀政らは１万６千の軍勢で密かに南下し、三河国へと向かったのである。この別働隊は第１軍が池田恒興、第２軍が森長可、第３軍が掘秀政、第４軍は総大将の秀次という布陣である。
ところが、大軍であるうえに途中の岩崎城を攻略するなどして行軍速度が遅かったため、この別働隊の動きは家康の知るところとなった。
家康はまず榊原康政・大須賀康高らに４千５百の兵をつけて先発させ、酒井忠次・石川数正・本多忠勝らを小牧山の守備に残るように命じると、８日の夜半には家康自身も密かに小牧山を出て、矢田川北岸の小幡城に入った。
翌９日早朝、先発した榊原康政隊は白山林に待機していた秀次隊に奇襲攻撃をかけた。これに秀次隊は崩れ、長久手方面へと敗走を始めたのである。
その頃、金萩寺まで先行していた堀隊は秀次隊が攻撃を受けたことを知り、長久手方面へと引き返して桧ヶ根に布陣。秀次隊を収容すると反撃に出て、榊原隊を潰走させた。
一方、本隊を率いる家康・信雄は色ヶ根に進み、白山林を経て長久手北方に位置する丘陵の富士ヶ根に本陣を置いた。そして諸将の動きを見ながら前山まで本陣を進めた。池田隊には井伊直政隊３千余で当たらせ、家康は５千余の軍勢で森隊と戦った。
この合戦の舞台となった長久手とは長い湿地帯の意味で、機動力を生かそうにも足を取られて動きにくい場所である。余裕を持って布陣した家康勢は山の斜面に鉄砲隊を数段に分けて展開させたという。
秀次隊は全く予期もしていなかった家康軍の追撃によって崩れ、池田恒興・元助や森長可までもが討死、大将の秀次は命からがら逃げ帰るという結末になった。
このときの戦いで秀次勢に２千５百余、家康勢に６百弱の犠牲者が出たという。
秀吉がこの家康の動きを知って軍を動かしたときにはもう遅く、家康は小幡城に兵をおさめ、さらには小牧山に戻ってしまったのである。結局、秀吉は何らなすところなく軍勢を失い、再び持久戦に持ち込まれてしまったのである。
５月に入ると秀吉は楽田・犬山・羽黒の守備を配下諸将に命じ、自身は岐阜に移って竹ヶ鼻城などの信雄属城を攻め落とし、６月２８日に大坂に戻った。
この頃になると軍事闘争も減って厭戦気分も高まり、外交上での駆け引きが目立ってくるようになる。
９月に至って講和の動きも出たが条件が折り合わず、不成立に終わった。そこで秀吉は１１月１１日、ひとまず信雄との単独講和を結んだ。信雄の助勢という名目で参戦した以上、秀吉と信雄が和睦してしまったからには家康に戦いを続ける名分がなくなり、兵を浜松城に戻すよりなかったのである。
家康は局地戦においては勝利を得たが、外交戦略において丸め込まれてしまう結果となった。