下野国小山氏第１１代。小山氏政の子。通称は小四郎・五郎。左馬助・下野守。下野国小山祇園城主。
文和４：正平１０年（１３５５）７月の父・氏政の死によって家督を継承し、貞治５：正平２１年（１３６６）頃から康暦２：天授６年（１３８０）まで下野守護を務めた。貞治６：正平２２年（１３６７）７月には宣旨によって下野守に任じられている。しかし永和３：天授３年（１３７７）には下野国宇都宮城主・宇都宮基綱も下野守護として活動していた徴証もあり、この時期の両名は下野国の半国守護であったと目されている。このため、宇都宮氏とは不穏な関係にあったと見られる。
康暦２：天授６年５月に宇都宮基綱と争ってこれを討ち取った（裳原の合戦）ため、翌月より鎌倉公方・足利氏満の追討を受け、８月末には祇園城を囲まれると降伏の意を示して許された。
しかしこれは偽りの降伏であり、再び挙兵して鎌倉方に抵抗したため再度の討伐を受け、永徳元：弘和元年（１３８１）１２月に拠点の鷲城を攻略されると、隠居して子・若犬丸に家督を譲ることで再度の降伏を認められ、剃髪して永賢と号した。
だが翌永徳２：弘和２年（１３８２）年３月に至って三度叛き、祇園城に火を放って若犬丸とともに逃走。粕尾山中に築いた城々に拠って抵抗を続けたが、鎌倉府方の上杉憲方・上杉朝宗・木戸法季・白旗一揆らの軍勢に敗北し、同年４月１３日に同地で自害した（小山義政の乱）。享年３３とされる（『鎌倉九代記』等）。
若犬丸は落ち延びて行方をくらましたが、平安時代末期より下野国に勢力を揮った武家としての小山氏嫡流はここに断絶した。