1836年、山岡鉄舟は幕臣・小野家の四男として江戸に生まれました。
文武両道の教育に熱心だった両親の影響を受け、武芸や書道に励み、特に書道の分野では少年時代から天賦の才能を発揮。15歳の頃には弘法大師流の書道を極め、一楽斎という号も持っていました。 さらに武芸の分野でも北辰一刀流や忍心流槍術などを学んで頭角を現します(明治時代になってから一刀正伝無刀流という流派も編み出しています)。 また、忍心流槍術を教えていた山岡静山が死去した際には、その妹の婿となって山岡家を継ぎ、幕臣となっています。1856年には、特に剣術の腕前に優れていることが高く評価され、講武所(若い幕臣の学校)で世話役を務めます。 また、1862年には江戸の浪士たちを集めて京都に送り出す浪士組の取締役となりました(浪士組はのちに京都で有名な新選組となります)。

こうして幕臣として活躍していた山岡鉄舟ですが、徳川幕府は数年後に崩壊します。鳥羽伏見の戦いに敗れた徳川慶喜が江戸に敗走すると、鉄舟は若い幕臣を率いて精鋭隊を組織。慶喜の警護にあたり、一方で勝海舟などとはかって西郷隆盛と会談。江戸城の無血開城を成功させます。 明治維新後は静岡県に移封された徳川家に従いますが、明治政府の誘いを受けて静岡県権大参事、茨城県参事などを歴任。また明治天皇の侍従も務め、52年の生涯をまっとうしました。