第２０代関東管領・山内上杉憲房の子。別称を憲当。享禄４年（１５３１）９月、義兄で前関東管領の上杉憲寛を上総国に逐って第２２代の関東管領職に就任。上野国平井城に拠った。
天文１０年（１５４１）７月、同年５月に武田信虎・村上義清・諏訪頼重の連合軍によって逐われた海野棟綱を支援して信濃国小県郡長窪に出兵しているが、主に扇谷上杉朝定や駿河国の今川義元と結んで相模国の北条氏康に対抗した。
しかし天文１５年（１５４６）の河越城夜戦に大敗を喫し、天文１７年（１５４８）に突如として武田信玄を攻めて敗れるなどしたため家臣層の離反や内訌を招くこととなり、勢威を失った。
天文１９年（１５５０）からの北条氏による上野国侵攻を受けて支えきれず、天文２１年（１５５２）３月頃には居城である平井城を捨て、のちに上杉謙信（長尾景虎）を頼って越後国へと落ち延びた。謙信は憲政を庇護し、その居館として越後国府中に御館（おたて）を築造、ここでは「管領様」と称されたという。
弘治３年（１５５７）、上杉氏の名跡や重宝・系譜などを謙信に譲って養子とし、永禄３年（１５６０）に謙信が関東出兵（越山：その１）するに際して謙信に擁されて関東に入り、上野国厩橋城・下総国古河城に入城。関東で越年して永禄４年（１５６１）閏３月１６日、鎌倉鶴岡八幡宮で山内上杉氏の家名と関東管領職を謙信に譲った。
天正６年（１５７８）３月に上杉謙信が死去すると、ともに謙信の養子だった上杉景勝と上杉景虎による家督相続をめぐっての争い（御館の乱）が起こった。憲政は上杉景虎に加担し、景虎と共に御館に立て籠もるが、翌天正７年（１５７９）３月１７日、上杉景勝勢の攻撃を受けて落城する。
憲政は景虎の長男・道満丸を伴い、和議仲裁のために景勝の拠る春日山城に赴く途中、城下の四ツ屋砦で景勝の兵に斬殺された。法名は臨川寺殿立山光建。