白山市地處長白山腹地,境內山峰林立,綿亙起伏,溝谷交錯,河流縱橫。長白熔巖臺地和靖宇熔巖臺地覆蓋境內大部分地區,龍崗山脈和老嶺山脈斜貫全境。龍崗山脈海拔800—1200米,相對高度在500—700米之間;老嶺山脈山體高大,海拔1000—1300米,相對高度500-800米之間。鴨綠江沿岸地形起伏較大,溝谷切割較深,地勢較險峻。境內最高點長白山主峰白云峰海拔2691米,為東北地區最高峰;最低點靖宇縣的批州口子,海拔279.3米。白山市屬北溫帶大陸性季風氣候,是吉林省寒冷地區。春季晝夜溫差大;夏季短,溫熱多雨;秋季涼爽,多晴朗天氣;冬季長,干燥寒冷。市區年平均氣溫4.6℃,夏季最高氣溫歷史極值36.5℃,冬季最低氣溫歷史極值-42.2℃,年平均降水量883.4毫米,日照時數2259小時,無霜期140天。白山市水系發達,河流密布,境內共有大小河流432條。其中,流域面積大于500平方千米的河流14條,流域面積100至500平方千米的河流41條,平均年經流量為71.50億立方米,約占吉林省水資源總量的20%。較大的有鴨綠江、渾江、頭道松花江、二道松花江、松江河、露水河、二十三道溝河、十五道溝河、頭道溝河、二道溝河、三道溝河、七道溝河、紅土崖河、湯河、石頭河等20余條,分為鴨綠江、渾江、頭道松花江、二道松花江四大流域。