豊臣家臣。加藤清忠の二男として尾張国愛知郡中村に生まれる。母は、羽柴秀吉の母の伯母にあたるという（母同士が従姉妹とも）。
幼名を虎、夜叉丸。通称を虎之助。身の丈は６尺を超え、腰には３尺５寸の大刀を佩いていたという。従五位上・主計頭・肥後守・侍従。
幼時に父を亡くし、福島正則らと共に幼少の頃から秀吉に近侍、子飼いの武将として目をかけられた。
天正４年（１５７６）秀吉の居城の長浜付近に１７０石を与えられる。天正９年（１５８１）の因幡国鳥取城攻めが初陣。他にも備中国冠山城の戦い、山崎の合戦などでも功を挙げる。
天正１１年（１５８３）の賤ヶ岳の合戦で戦功を挙げ、『賤ヶ岳の七本槍』のひとりに数えられる。戦後、近江・河内・山城国のうちで３千石の所領を得た。天正１３年（１５８５）には従五位下・主計頭に叙任。
天正１５年（１５８７）、秀吉の九州征伐では後備えとして肥後国宇土城に在城。翌天正１６年（１５８８）には佐々成政除封のあとを受けて肥後半国の１９万５千石（２５万石とも）を領し、隈本（熊本）城主となる。
文禄の役には小西行長と共に先鋒として、咸鏡道を破竹の勢いで進んで朝鮮の二王子を捕獲。蔚山籠城戦に武名を轟かせた。しかし、講和推進派の小西行長や石田三成と不和になり、文禄５年（＝慶長元年：１５９６）に朝鮮から召還された。
秀吉に目通りも許されず、閉門を命じられて鬱屈とした日々を送る清正であったが、同年閏７月１３日に近畿地方を襲った大地震に際して秀吉の安否を確かめるために伏見城に駆けつけ、それまで蒙っていた勘気を解いたという逸話は 『地震加藤』の名で有名である。
慶長の役において再び渡海し、蔚山での籠城戦を耐え抜いた。
慶長５年（１６００）、関ヶ原の役当時は東軍方として領国の肥後にあって、西軍についた小西行長の宇土城、立花宗茂の柳河城を落とし、戦後には肥後一国の５１万５千石を与えられた。
慶長６年（１６０１）より熊本城の建造に着手した。慶長１０年（１６０５）には従五位上侍従・肥後守に叙任。
豊臣家への忠誠心は厚く、秀吉の旧恩を受けて秀吉遺児・豊臣秀頼の保護に尽力する一方、徳川幕府主導による慶長１５年（１６１０）の名古屋城の普請では引率して本丸の大工事を引き受け、徳川家康に恭順する姿勢も守り続けた。
豊臣家と徳川家の関係を憂え、「不養生をして早く死にたいものだ。なぜならば、もし自分が生きているうちに秀頼様と家康公のあいだに戦が起こったりすれば、やはり秀頼様にお味方をせねばならぬ。しかし秀頼様が家康公に勝てるわけがない。かといって家康公に味方することは義として許せない。だからそのようなことが起こらないうちに死んでしまいたいのだ」と言ったという。
慶長１６年（１６１１）３月の豊臣秀頼と徳川家康の会見では、浅野幸長と共に秀頼を護り、会見を無事に行わせた。このあと熊本に帰る途中に発病、帰城して間もなく息を引き取ったという。６月２４日、５０歳。法号は浄池院永運日乗大居士。その死があまりにも突然だったために、巷間では毒殺説も流れたという。
築城・治水・干拓の名手としても知られ、肥後国高瀬より八代までの築堤、菊池川の開削などの事蹟を残す。
また、日蓮宗を保護し、その興隆に努めた。