总统府建筑群的历史可以追溯到明朝初年。
1963年朱元璋击败汉王陈友凉抓住其子陈理。洪武元年（1368年）朱元璋为了巩固政权，收买人心，下令陈理仍袭其父的汉王称号，专门在明朝宫殿的西侧间汉王府。这就是总统府建筑群的起源，这里现在为什么叫汉府街的原因所在。
不久，陈理被贬之高丽充军，汉王府虽废置不用，1377年，朱元璋又把这座府第，赏给沐英，沐英死后被封为黔宁王，故又叫黔宁王府。
永乐年间，明成祖迁都北京，其次子汉王朱高煦将此设为汉王府。
清军入关、明朝灭亡。清朝在这里设立衙署，管理南方三省即江南总督署和两江总督署。
家喻户晓的红楼梦家族，曹氏因曹玺、曹寅得宠于清朝康熙皇帝，封为江宁制造，两江总督署西侧建江宁制造署，康熙六下江南，五次住在江宁制造署，所以该署又有行宫之称，“大行宫”的地名由此而来。据说后来在现今的大行宫小学内，发现一石碑，有红楼一角之碑刻，故此地叫碑亭巷。
雍正年间曹家获罪被抄家，江宁制造署被并入两江总督署。
乾隆六年，乾隆首次南巡，两江总督为迎圣驾，将江宁制造署行宫，再次扩大，十年行宫扩建工程才算完工。此处成为江南名胜，有辞为证：“江南好，第一是行宫，辇路草长含晚碧，御街花嫩发春红，驻跸记乾隆。”
