薩摩国島津氏の重臣。通称は神五郎・神左衛門・仲左衛門。別称を為兼。伊勢守。休安と号す。日向国宮崎城主。
上井氏ははじめ諏訪姓を称し、大隅国姶良郡上井村に住して大隅国清水の領主である本田氏に属していたが、覚兼の祖父である為秋が天文１７年（１５４８）に島津貴久に服してより地名を姓として上井氏を称し、天文２２年（１５５３）に薩摩国日置郡永吉の地頭となる。
覚兼は為秋の子・上井薫兼の長男として天文１４年（１５４５）２月１１日に上井村で生まれた。
永禄２年（１５５９）に元服して島津貴久に仕え、天正元年（１５７３）に父から家督を譲られる。
天正２年（１５７４）には島津義久の奏者を務めており、義久とその被官との間の取次役を務めている。
天正４年（１５７６）に義久の抜擢を受けて家老となり、天正１５年（１５８７）まで家老職にあった。この間にも大隅国牛根、日向国諸県郡の高原や高城など各所に転戦して、天正８年（１５８０）には日向国宮崎の地頭として宮崎城に入り、日向国佐土原の領主・島津家久を助けて日向国の経営を行う。
その後は日向勢を率いて肥後・肥前国を転戦し、天正１４年（１５８６）７月には筑前国三笠郡の岩屋城の戦いに従軍して顔面を負傷している。
同年１０月には大友氏の本国である豊後国に侵攻して戦功を挙げたが、翌天正１５年３月、羽柴秀吉の催した九州征伐を受けて宮崎に撤退、のちに羽柴秀長に降った。そののち薩摩国日置郡伊集院に隠棲した。
天正１７年（１５８９）６月１２日に病没した。
優れた教養を持ち、文芸に造詣深く、『上井覚兼日記』を残した。また随筆の著書として『伊勢守心得書』がある。法名は一超宗咄。