Борис Шереметев родился 5 мая 1652 года в городе Москва. Рос старинной боярской семье Шереметевых. В возрасте тринадцати лет назначен в комнатные стольники. В 1681 году находился в должности воеводы и тамбовского наместника, командовал войсками против османов и крымских татар. В 1682 году получил боярский титул.

Шереметев проявил себя на военном и дипломатическом поприщах. В 1686 году участвовал в заключении «Вечного мира» в Москве с Польской Речью Посполитой, а затем поставлен во главе посольства, отправленного в Варшаву для ратификации заключенного мира. Вернувшись в Россию, с 1692 года занимал должность Белгородского воеводы, командовал войсками в Белгороде и Севске, отвечавшими за охрану от крымских набегов. 

В 1695 году при первом Азовском походе Петра I Борис Петрович командовал отдельным корпусом Русского войска действовавшим в низовьях Днепра, отвоевал у турок крепости Кызы-Кермень, Эски-Таван, Аслан-Кермен и другие. В период с 1697 по 1699 год совершил путешествие по Центральной, Западной и Южной Европе, выполняя дипломатические поручения царя. Стал кавалером Мальтийского ордена, после чего вернулся в Россию в немецком платье, вызвав тем восторженный прим царя.

С началом Северной войны со Швецией, Шереметев командовал поместной конницей и участвовал в неудачном для русских Нарвском сражении. Несмотря на поражение, царь Петр произвел его в генерал-аншефы. В 1701 году нанес первое поражение шведам в сражении у Эрестфера. За это получил чин генерал-фельдмаршала и орден Святого Андрея Первозванного. Затем нанес новое поражение при Гуммельсгофе, занял Мариенбург, где захватил Марту Скавронскую, которая впоследствии стала императрицей под именем Екатерины I. Позднее Борис Шереметев возглавил осадную армию при взятии Нотебурга. После недельной осады принудил к капитуляции Ниеншанц и завершил покорение Ингерманландии.

В 1705 году Шереметев направлен Петром I в Астрахань для подавления мятежа. Высочайшим указом от 1706 года генерал-фельдмаршал первым в России возведен, с нисходящим его потомством, в графское Российского царства достоинство.

Вернувшись на фронт, граф Шереметев возглавил пехоту. В Полтавской битве формально возглавлял русскую армию, впоследствии щедро награжден поместьями. Затем командовал армией при осаде Риги. В 1711 году после неудачного для русской армии Прутского похода, вынужден подписать невыгодный мир, в залог которого оставил своего сына Михаила Шереметева.

В 1712 году Шереметев заявил Петру I о своем желании постричься в монахи Киево-Печерской лавры, но царь заменил монастырь женитьбой на молодой красавице А. П. Салтыковой. С этого времени Борис Петрович обосновался в Киеве, получив назначение быть главнокомандующим южной наблюдательной армии, и ездил в Петербург и Москву только с докладами о происходящем на Украине.

Позднее в 1715 году Шереметев поставлен командующим русским экспедиционным корпусом в Померании и Мекленбурге для совместных действий с прусским королем против шведов. В 1717 году возвратился в Москву.

Скончался граф Борис Петрович Шереметев 28 февраля 1719 года после тяжелой болезни. В завещании просил похоронить его в Киево-Печерской лавре, но Петр I, решив создать пантеон в Санкт-Петербурге, приказал похоронить Шереметева на Лазаревском кладбище Александро-Невской лавры.

Семья Бориса Шереметева