因兩人名字同樣是尼古拉，但身高卻差很多。當時人們就幫兩人取了個綽號「高尼古拉（尼古拉大公）」跟「矮尼古拉（沙皇尼古拉二世）」據(jù)說這讓沙皇很不爽

尼古拉大公于工兵軍學院（Николаевскоеинженерноеучилище）以及帝國軍事參謀學院（НиколаевскаяакадемияГенеральногоштаба）畢業(yè)，于俄土戰(zhàn)爭中擔任軍官，以身作則、身先士卒而享有威望，在軍隊中據(jù)有極高的聲望。

但也因為大公在軍隊中很受歡迎，導致他受到了沙皇尼古拉二世的猜忌，在第一次世界大戰(zhàn)爆發(fā)前，他因?qū)m廷斗爭而被排除在參謀本部的決策圈之外，僅擔任圣彼得堡軍區(qū)的司令官。

第一次世界大戰(zhàn)爆發(fā)時，俄羅斯帝國發(fā)布了總動員令，按照當時的俄國法律，沙皇必須擔任軍隊的總司令，但軍事首長們一致要求沙皇將指揮權(quán)轉(zhuǎn)讓給尼古拉大公，缺乏軍事經(jīng)驗的沙皇尼古拉二世多少也意識到了這個嚴重性，于是在德國宣戰(zhàn)的第二天，沙皇將尼古拉大公任命為最高總司令，這個命令一頒布，幾乎受到了全國跟軍隊的歡迎。

但沙皇也限定了尼古拉大公的一些權(quán)力，譬如不能改動參謀本部的人事任命跟體制，這是為了讓沙皇的心腹監(jiān)視尼古拉大公，這多少影響了俄羅斯軍隊在戰(zhàn)略調(diào)度上的靈活性，也導致了戰(zhàn)爭中俄軍的幾次失敗。

盡管如此，尼古拉大公還是成功的在1914年在加利西亞擊敗奧匈軍隊，法國元帥福煦（Ferdinand Foch）當時稱贊尼古拉大公在加利西亞的指揮是“近代軍事藝術(shù)中最杰出的表現(xiàn)”。但在1915年，德軍將西線的兵力抽調(diào)回東線，發(fā)動了一系列反攻，將俄軍逐出加利西亞。

俄軍雖然缺乏彈藥跟補給，加上尼古拉大公的決策失當導至俄軍遭到極敗，但最終在尼古拉大公的冷靜指揮下，俄軍成功退出了加利西亞，避免了全滅的危機。德軍將領(lǐng)法金漢（Erich vonFalkenhayn）在戰(zhàn)役結(jié)束后說道：「我們在東線的攻勢…并沒有導致俄軍崩潰。俄軍擺脫了我們的包圍，朝向安全的地帶撤退…」

但這次的戰(zhàn)役給沙皇尼古拉二世找到了拔除大公指揮權(quán)的借口，1915年8月19日，沙皇下令撤消尼古拉大公的指揮權(quán)，這個決定受到軍隊跟俄羅斯政府的反對，8月20日與21日，軍事首長們警告沙皇『陛下，按照我們的理解，您采取這樣的決定將會對俄羅斯以及您的王朝造成嚴重的后果』

但沙皇還是堅持了他的決定，尼古拉大公遭到撤換。

德軍參謀魯?shù)堑婪驅(qū)④姡‥rich Ludendorff）在得知這個消息后，在日記中寫道「尼古拉大公被撤職了，沙皇現(xiàn)在成了俄軍的指揮官。德國已經(jīng)在通往勝利的道路上了」

尼古拉大公被派往高加索戰(zhàn)區(qū)對抗土耳其，與著名的俄軍將領(lǐng)尤登尼奇將軍合作，后者后來也成為白軍最著名的將領(lǐng)之一。在高加索戰(zhàn)區(qū)，尼古拉大公將軍隊的作戰(zhàn)指揮交給了尤登尼奇將軍，自己多擔任后方的補給跟行政工作，兩人在191 5跟1916年對土耳其造成了一連串的軍事勝利，幾乎將德國與土耳其在波斯北部的勢力驅(qū)逐殆盡。

尼古拉大公在高加索一直待到1917年俄國爆發(fā)革命。1918年俄國內(nèi)戰(zhàn)爆發(fā)，尼古拉大公仍待在高加索地區(qū)，直到1919年紅軍進逼時，他才與家人搭英國戰(zhàn)列艦馬爾堡號（HMS Marlborough）流亡至熱那亞，受意大利國王維托里奧埃馬努埃萊三世（他是尼古拉大公的姐夫）保護。

1923年尼古拉大公移居法國巴黎，他在1924年成為俄國白軍“俄羅斯軍事聯(lián)盟”名義上的領(lǐng)導人，該聯(lián)盟的實際領(lǐng)導者是有黑男爵之稱的弗蘭格爾（Freiherr Peter von Wrangel，這人更為出名是因為驍勇善戰(zhàn)，紅軍甚至為了他寫了一首歌“紅軍最強大”來壯膽）。

尼古拉大公在1929年1月5日去世，他的葬禮完全依照俄羅斯皇族的規(guī)格進行，一些流亡的沙俄軍人以及大公本身的哥薩克親衛(wèi)隊也負責儀式的進行，尼古拉大公埋葬于戛納天使長圣米迦勒堂（法國的東正教教堂）。

2014年，在尼古拉大公的后代向俄羅斯政府請愿，希望將大公的墓移回俄羅斯，時任總理梅德韋杰夫支持這個建議，與法國政府進行協(xié)商，天主教法國武裝部隊教區(qū)盧克拉維爾（Luc Ravel）也贊同這個決定，出于對尼古拉大公的敬意，法國要求先將尼古拉大公名義上的移葬至巴黎榮軍院，對他在第一次世界大戰(zhàn)的貢獻表示敬意。

2015年，俄羅斯政府與法國政府以及法國榮軍院合作，在進行了一系列莊嚴的追悼儀式后，尼古拉大公被移葬至位在莫斯科的軍人公墓教堂，長眠至今。