В середине XIX века российские историки работали с архивами вслепую: огромные массивы документов оставались недоступными, а систематической публикации источников не существовало. Даже спустя семь лет после создания будущего Русского исторического общества Яков Грот сетовал: «Много ещё трудов предстоит нам, русским, по истории — этой отрасли знания, успехами которой измеряется степень просвещения нации». Толчком к переменам стали не учёные споры, а частные беседы наследника престола Александра Александровича, будущего императора Александра III, с чиновником Правительствующего Сената Александром Половцовым.
В первой половине 1860-х годов наставник цесаревича Борис Перовский регулярно устраивал встречи наследника с военной, дипломатической и бюрократической элитой. На одном из таких вечеров Александр Александрович познакомился с Половцовым — человеком, который был старше его на 13 лет, но разделял его тревогу за состояние отечественной истории.
Великого князя беспокоило состояние отечественной исторической науки. В России не было сводного биографического справочника, по которому можно бы навести справку о любом историческом деятеле, — наподобие французской «Всеобщей биографии». Ближайший аналог — «Словарь достопамятных людей Русской земли» Дмитрия Николаевича Бантыша-Каменского — был важным начинанием, но его масштаба уже не хватало: науке требовался более полный и систематический биографический справочник.
Половцов не просто слушал — он мыслил так же. Из общности взглядов родился замысел Русского исторического общества. Его главными задачами стали систематическая публикация документов по истории России и создание «Русского биографического словаря». В марте 1866 года в зале Совета Министерства иностранных дел собрались будущие члены-основатели. Дипломат Андрей Гамбургер подготовил проект устава, а Половцов довёл его до окончательной редакции.
23 мая 1866 года, что соответствует 4 июня по новому стилю, император Александр II утвердил устав в Царском Селе. Замысел, родившийся в разговорах о нуждах исторической науки, получил официальное признание. Полная цитата Якова Грота, обращённая к наследнику, звучала так: «Мудростью Государя Императора нам уже дарована возможность прилежно извлекать из праха архивов живые основы для такого изучения, а Вашему Императорскому Высочеству русская историческая наука уже обязана богатым приращением своих источников».