大山巌
青年期
薩摩国鹿児島城下加治屋町柿本寺通（下加治屋町方限）に薩摩藩士・大山綱昌（彦八）の次男として生まれた。家紋は佐々木源氏大山氏として典型的な「丸に隅立て四つ目」である。
同藩の有馬新七等に影響されて過激派に属したが、文久2年（1862年）の寺田屋事件では公武合体派によって鎮圧され、大山は帰国謹慎処分となる。薩英戦争に際して謹慎を解かれ、砲台に配属された。ここで西欧列強の軍事力に衝撃を受け、幕臣・江川英龍の塾にて、黒田清隆らとともに砲術を学ぶ。
戊辰戦争
戊辰戦争では新式銃隊を率いて、鳥羽・伏見の戦いや会津戦争などの各地を転戦。また、12ドイム臼砲や四斤山砲の改良も行い、これら大山の設計した砲は「弥助砲」と称された。
会津戦争では薩摩藩二番砲兵隊長として従軍していたが、鶴ヶ城攻撃初日、大手門前の北出丸からの篭城側の射撃で攻略に手間どる土佐藩部隊の援護に出動するも、弾丸が右股を内側から貫き負傷し翌日後送されている。そのため実際大山が鶴ヶ城で戦ったのは初日のみで砲撃を指揮した訳でもなく、よく言われる「会津若松城に向けて、大砲を雨霰のように撃ちこんで勝利に貢献した」というのも事実ではない。なお、このとき篭城側は主だった兵が殆ど出撃中で城内には老幼兵と負傷兵しかおらず、北出丸で戦っていたのは山本八重と僅かな兵たちだった。そのため狙撃者は八重であるとも言われている。この時の会津若松城には、のちに後妻となる山川捨松とその家族が籠城していた。
留学
維新後の明治2年（1869年）、渡欧して普仏戦争などを視察。明治3年（1870年）から6年（1873年）の間はジュネーヴに留学した。留学時、ロシアの革命運動家レフ・メーチニコフと知り合う。メーチニコフは後に東京外国語学校に教師として赴任したが、これは大山の影響によるといわれる。
西南戦争
西南戦争をはじめ、相次ぐ士族反乱を鎮圧した。西南戦争では政府軍の指揮官（攻城砲隊司令官）として、城山に立て籠もった親戚筋の西郷隆盛を相手に戦ったが、大山はこのことを生涯気にして、二度と鹿児島に帰る事はなかった。ただし西郷家とは生涯にわたって親しく、特に西郷従道とは親戚以上の盟友関係にあった。明治13年（1880年）には陸軍卿となり、第1次伊藤内閣において最初の陸軍大臣となった。
日清日露戦争
日清戦争直前には右目を失明していたという記録が残っているが、日清戦争では陸軍大将として第2軍司令官となった。明治32年（1899年）には参謀総長に就任し、また元帥に列せられた。日露戦争では元帥陸軍大将として満州軍総司令官を務め、ともに日本の勝利に大きく貢献した。同郷の東郷平八郎と並んで「陸の大山、海の東郷」と言われた。
元老
大山は陸軍を代表する存在であり、最重要の重臣である元老のメンバーとしても活動した。ただし、大山は陸軍内の意向に従う傾向があり、黒田清隆・西郷従道没後は会議内のバランスをとるためしばらく元老会議のメンバーから外されている。大正4年（1915年）には内大臣となり、宮中入りした。
死去
大正5年（1916年）、大正天皇に供奉し福岡県で行われた陸軍特別大演習を参観した帰途に胃病から倒れ、胆嚢炎を併発。療養中の12月10日に内大臣在任のまま薨去。享年75歳。病床についてから死ぬ間際まで永井建子作曲の『雪の進軍』を聞いていたと伝えられている。本人は大変この曲を気に入っていたという。
臨終の枕元には山縣有朋、川村景明、寺内正毅、黒木為楨などが一堂に顔を揃え、まるで元帥府が大山家に越してきたようだったという。大山の死は夏目漱石の死の翌日のことだった。新聞の多くは文豪の死を悼んで多くの紙面を彼に割いたため、明くる日の大山の訃報は他の元老の訃報とは比較にならないほど地味なものだったが、それが大山と他の元老たちの違いを改めて印象づけた。12月17日の国葬では、参列する駐日ロシア大使とは別にロシア大使館付武官のヤホントフ少将が直に大山家を訪れ、「全ロシア陸軍を代表して」弔詞を述べ、ひときわ目立つ花輪を自ら霊前に供えた。かつての敵国の軍人からのこのような丁重な弔意を受けたのは、この大山と後の東郷平八郎の二人だけだった。
那須に葬られた。墓所は栃木県那須塩原市。遺品は陸上自衛隊宇都宮駐屯地に多数収蔵され、資料館に展示されている。
人柄
大山は青年期まで俊異として際立ったが、壮年以降は自身に茫洋たる風格を身に付けるよう心掛けた。これは薩摩に伝統的な総大将のスタイルであったと考えられる。日露戦争の沙河会戦で、苦戦を経験し総司令部の雰囲気が殺気立ったとき、昼寝から起きて来た大山の「児玉さん（児玉源太郎参謀長）、今日もどこかで戦（ゆっさ）がごわすか」の惚けた一言で、部屋の空気がたちまち明るくなり、皆が冷静さを取り戻したという逸話がある。ただし俊異の性格は日露戦争中も残っており、児玉が旅順に第3軍督励のため出張している間は、大山が自ら参謀会議を主宰し、積極的に報告を求め作戦を指揮したという公式記録が残っている。
桂太郎は大山の参謀総長時代の話として、次のような話を述べている。児玉、川上操六、桂が大議論を繰り広げていると、いつも大山が仲裁役となった。三人はそれぞれ理屈を述べるが、結局大山に唯々諾々と従ったという。大隈重信は世事に疎い武人と見られていた大山が新聞や雑誌を手元に置いていた常識人であったと述べている。
明治38年（1905年）12月7日にようやく東京・穏田の私邸に凱旋帰国した大山に対し、息子の柏が「戦争中、総司令官として一番苦しかったことは何か」と問うたのに対し、「若い者を心配させまいとして、知っていることも知らん顔をしなければならなかった」ことを挙げている。「茫洋」か「俊異」かという事項についての大山自身によるひとつの解答であろう。
教養
石黒忠悳は、大山と旅をしていると、その土地々々の有名な詩を暗誦していて驚かされたと回想している。稀に和歌を読むこともあったが、てにをはの使い方などを注意されることがあっても気に留めなかったという。
容貌
従兄弟の西郷隆盛も大柄で肥満体だったが、大山もなかなかのものであった。その体型と顔の印象から「ガマ」（ガマガエル）というニックネームで呼ばれていた。しかもかなりの美食家であった。息子の大山柏の回想によると40cm以上もある鰻の蒲焼がのった鰻丼をペロリと完食し、ビーフステーキとフランスから輸入した赤ワインが好物で、体重は最も重いときで95kgを越えていたという。その結果晩年は糖尿病に悩まされていた。妻の捨松は友人への手紙で「主人は最近ますます太り、私はますますやせ細っています。」と愚痴をこぼしていたという。ただし、『元帥公爵大山巌』（大山巌伝刊行会編、1935年）では肥満になったのは晩年のことで、当初はどちらかというと痩せ気味であったといい、槍術を得意としたという。
西洋かぶれ
大山は西洋かぶれで非常に西洋文化への憧憬が強く、また造詣も深かった。後藤象二郎、西園寺公望らと共に「ルイ・ヴィトンの日本人顧客となった最初の人」として、ヴィトンの顧客名簿に自筆のサインが残っている。捨松との再婚の時の披露宴招待状は全文がフランス語で書かれた物で人々を仰天させたという。陸軍大臣公邸を出たあとに建てた自邸はドイツの古城をモチーフとした物だった。しかし、見た目の趣味はお世辞にもいいとはいえない代物で、ここを訪ねた捨松の旧友アリス・ベーコンにも酷評されている。巌はこの新居に満足していたが、妻・捨松は「あまりにも洋式生活になれると日本の風俗になじめないのでは」と、自分の経験から子供の将来を心配し、子供部屋は和室にしつらえていた。
政治家として
明治前期には陸軍卿として谷干城・曾我祐準・鳥尾小弥太・三浦梧楼のいわゆる「四将軍派」との内紛（陸軍紛議）に勝利して陸軍の分裂を阻止し、彼等の拠点と化していた月曜会を解散させた。以後明治中期から大正期にかけて陸軍大臣を長期にわたって務めた。元老としても重きをなし、陸軍では山縣有朋と並ぶ大実力者となったが、政治的野心や権力欲は乏しく、元老の中では西郷従道と並んで総理大臣候補に擬せられることを終始避け続けた。
大隈重信は大山が薩摩人でありながら、郷土の縁故をもって頼み事をされても乗らず、超越した存在として公平に振る舞い、内大臣の適任者であったと回想している。また山縣有朋も私心がなく公平であったと回想している。
君が代
大山は日本国歌となる君が代の成立にも関わっているとされることがある。明治2年（1869年）に設立された薩摩バンド（薩摩藩軍楽隊）の隊員に対しイギリス公使館護衛隊歩兵大隊の軍楽隊長ジョン・ウィリアム・フェントンが国歌あるいは儀礼音楽を設けるべきと進言し、それを受けた薩摩藩軍楽隊隊員の依頼を、当時の薩摩藩歩兵隊長である大山が受け愛唱歌である薩摩琵琶の「蓬莱山」より歌詞が採用された（現在の曲がつけられたのは明治13年（1880年））。ただし君が代を提案したのは静岡藩士の乙骨太郎乙であるという説もあるほか、曾孫大山格は巌が国歌制定に関わったという話は大山家に全く伝わっていないとしている
邸宅
大山が生前に建設した本邸は大正12年（1923年）の関東大震災により崩壊した。その後大山家は、東京・表参道（穏田一丁目＝当時）に広大な私邸を持っていたが、太平洋戦争（大東亜戦争）末期の昭和20年（1945年）5月の東京大空襲で焼失した。その際アメリカ軍は大山邸などを目標にしていたといわれる。
また本邸の他に静岡県沼津市、栃木県那須に別荘を所有しており、現在は大山別邸として県指定文化財となっている。那須では農場も持っており、暇があれば山仕事に従事していたという。
銅像
現在、大山の騎馬姿の銅像が九段坂上に存在している。千代田区観光協会の解説によれば、この像は新海竹太郎の作によるもので、大正8年（1919年）11月3日に国会前庭北地区洋式庭園に建てられていたといわれているが、その後経緯は不明ながらも現在の位置に移設されたとしている。一方で、巌の曾孫で歴史ライターの大山格は、公刊伝記『元帥公爵大山巌』や二反長半の『大山元帥』を例示し、銅像は当初三宅坂の陸軍参謀本部の構内にあったとしている。大山格によれば、銅像はその後東條内閣期に金属供出され三宅坂から撤去されたが、戦後になって上野の東京芸術大学構内で横倒しとなって放置されていたところを発見され、昭和39年（1964年）5月17日に現在の地に再建された。巌の子である大山柏は著書『大山元帥と雪の進軍』において、再建に協力した人々に感謝の辞を述べている。