Военную службу начал в 1782 в Кавказском мушкетерском полку. В 1783-1786 участвовал в военных действиях против горцев на Северном Кавказе, а в 1787-1790 – в войне с турками; отличился при взятии Очакова. Багратион принимал участие в Польской кампании 1794 г.; во время штурма Праги (предместья Варшавы) был замечен А.В.Суворовым и стал его любимцем. К февралю 1799 г. Багратион выслужил генеральский чин. Во время Итальянского и Швейцарского походов Суворова в 1799 г. он командовал авангардом союзной Русско-австрийской армии, проявляя как личный героизм, так и полководческое умение. Однако в 1800 г. вслед за Суворовым оказался в немилости у Императора Павла I.
 
Во время войны Третьей коалиции против Наполеона в 1805 г. Багратион, имея в распоряжении всего семь тысяч солдат, прикрывал отход русской армии в Моравию, отражая атаки пятидесятитысячного корпуса Мюрата. А в 1807 г. Багратион блестяще проявил себя в битвах при Прейсиш-Эйлау, Гейльсберге и Фридланде, получив в награду золотую шпагу "за храбрость", усыпанную алмазами. Во время Русско-шведской войны 1808-1809 гг. Багратион вместе с М.Б.Барклаем-де-Толли руководил смелым переходом Русской армии из Финляндии в Швецию по льду Ботнического залива, который фактически предопределил успешное завершение кампании, за что получил чин генерала от инфантерии.
 
Сразу же после окончания войны со шведами Багратион был направлен на южный фронт, где шла война против турок. Нанеся ряд поражений туркам, славный генерал взял Измаил и был удостоен ордена Св. Андрея Первозванного.
 
После вторжения Наполеона в Россию и начала Отечественной войны 1812 г. в условиях общего отступления русских войск Багратион приложил максимальные усилия, чтобы соединиться с армией М.Б.Барклая-де-Толли. В Бородинском сражении Багратион руководил левым флангом, на который пришелся главный удар французов, и героически оборонял Семеновские флеши; возглавил контратаку 2-й гренадерской дивизии на Северную флешь, занятую французами, и был смертельно ранен.
 
12(24) сентября герой скончался в с. Сима Владимирской губернии в имении своего друга князя Б.А.Голицына и был погребен в ограде местной церкви. В июле 1839 г. прах генерала перезахоронили на Курганной высоте Бородинского поля.