伊東尹祐の二男。日向国都於郡（とのこおり）の領主。幼名は虎熊丸。通称は六郎五郎。初名を祐清。修理大夫・大膳大夫・従三位。号して三位入道とも呼ばれた。
父・尹祐のあとは兄・祐充が継いだが、天文２年（１５３３）に祐充が没したのち、専横を揮っていた福永祐武の一派を鎮圧して家中の実権を掌握する。
そののちも弟・祐吉との確執もあったが、祐吉の没した天文５年（１５３６）に家督の地位を確定し、その翌年には将軍・足利義晴より一字を賜って義祐と名乗った。
天文１０年（１５４１）頃より日向匡飫肥（おび）の領有をめぐり、近隣の豪族・北原氏や肝付氏と結んで、再三に亘って島津氏と争った。
しかし元亀３年（１５７２）５月の木崎原の合戦に敗れたのちは勢力が衰退し、天正５年（１５７７）、島津氏の侵攻に遭って都於郡を逃れ、豊後国の大友宗麟を頼った。
宗麟は伊東氏の援助を名目に日向国に侵攻するが、天正６年（１５７８）１１月の耳川の合戦において島津氏に敗れて没落すると、義祐は子の祐兵を伴って伊予国に移った。
その後、祐兵は羽柴秀吉に仕えることになるが、義祐は瀬戸内の各地を流浪したといい、和泉国堺の海浜で行き倒れになっているところを発見されたが快復できず、天正１３年（１５８５）８月５日、堺で死去した。７４歳。墓所は日向国飫肥報恩寺。法名は金柏寺直翁昭眼。