鹿児島県の北部に位置し、北に熊本県、東に宮崎県と県境を接し、川内川が市の中心を縦断するように流れています。九州南部ではあるが周りを険しい山に囲まれた内陸盆地となっているために、冬には最低気温がほぼ毎日氷点下を記録します。そのため「鹿児島の北海道」と言わており、2016年（平成28年）1月25日の大寒波の時には－15.2℃を記録しました。
古くから伊佐米で知られる県内屈指の米どころです。また、現在日本国内で唯一商業規模で操業している菱刈金山があり、歴史的に見ても金の産出量・推定埋蔵量ともに日本最大を誇ります。