Крупный политический деятель, полководец, дипломат. Происходил из старинного княжеского рода. Получил хорошее образование, знал иностранные языки.
В царствование Федора Алексеевича (1676—82 гг.) Голицын занимал ключевые посты в государстве; был возведен в ранг боярина, заведовал Пушкарским приказом и Владимирским судным приказом. После прихода к власти царевны Софьи (1682 г.) стал фактически первым лицом в аппарате государственного управления. Ему было присвоено звание воеводы и титул «Царственныя большие печати и государственных великих посольских дел оберегатель, ближний боярин и наместник новгородский». Очень умело вел дипломатические переговоры со Швецией, продлив действие Кардисского мирного договора 1661 г. В 1686 г. он заключил выгодный для России «Вечный мир» с Польшей.
В 1687 г. и 1689 г. совершил два похода на Крымское ханство, пытаясь завоевать его. Эти походы привели к ослаблению и Крымского ханства, и Турции. Голицын был одним из инициаторов отмены местничества.

Игорь Чернозатонский