豊臣家臣。堺の薬種商・小西立佐（隆佐）の二男。通称を弥九郎。内匠頭・摂津守。その生い立ちから弁舌に巧みな外交官、経済感覚のある行政官として豊臣政権下で活躍した。
はじめは備前国岡山の宇喜多直家に仕え、宇喜多氏が織田信長に降伏すると羽柴秀吉の部下となった。
天正１２年（１５８４）に小豆島・塩飽の２島を与えられ、水軍の将として敏腕を揮い、東瀬戸内を支配した。またこの頃、キリスト教の洗礼を受けた。洗礼名はアグスチン。
天正１３年（１５８５）の紀伊征伐においても水軍を率いて活躍した。７月に従五位下・摂津守に叙任、豊臣の姓を許された。
天正１６年（１５８８）、肥後国の一揆を加藤清正と共に鎮圧し、翌年には肥後の南半国２４万石の宇土城主となる。
天正２０年（＝文禄元年：１５９２）からの文禄の役には加藤清正と共に先陣として渡海し、６月１５日に平壌を陥落させるなどの軍功を挙げたが、行長はもともと和平派であったため侵攻を続けながらも和平の道を模索し、明軍の遊撃将軍・沈惟敬と会談を行ったり、家臣の内藤如安を講和交渉のための使者として北京に派遣するなど、和平派の重鎮として奔走した。
しかしこの講和交渉はうまくまとまらず、慶長２年（１５９７）１月より２度目の派兵が行われることとなる（慶長の役）。再び軍勢を率いて朝鮮に渡海したが、秀吉が没したことによって撤兵することとなり、慶長３年（１５９８）１２月に帰国した。
慶長５年（１６００）の関ヶ原の役においては親しかった石田三成と結んで西軍に属し、徳川家康率いる東軍勢力と戦った。９月１５日の関ヶ原の合戦では東軍の寺沢広高隊に敗れて近江国伊吹山中に逃げたが捕えられ、１０月１日に京都六条河原で斬られた。４３歳という。
行長は熱心なキリシタンとして知られるが、はじめ、その信仰はさほど深くなかった。しかし真摯なキリシタン武将として知られる高山重友と親しくなってからはそれまでの傲慢さがなくなり、周囲の人が驚くほど柔和で謙遜深い性質になったという。信仰も深まり、大坂に癩病の病院を建てたり、孤児救済事業に尽力したりした。天正１５年（１５８７）に伴天連追放令が発令されたときにおいても、伴天連（宣教師）や重友のために隠れ家を用意し、その保護に努めている。
また、関ヶ原の役後の処置に臨んで、自害はキリシタンの教義に反する、として切腹を断って斬首された。ローマでは行長の刑死を聞き、全市をあげて哀悼の祈りを捧げたという。