На земли обезлюдевшего края в конце XVI — первой половине XVII века стали стекать переселенцы — украинские казаки Приднепровья, особенно Правобережья, спасавшиеся от польской шляхты. Переселенцы создавали слободы и хутора, обзаводились огородами, пасеками, разводили домашний скот. Однако частые разбойничьи набеги ногайских и крымских татар мешали мирной жизни.
В 1652-1654 годах несколько сотен казаков с семьями во главе с осадчим Иваном Каркачем обосновались на месте заброшенного древнего городища у слияния рек Харьков и Лопань.
Холм, который теперь называют Университетской Горкой, хорошо отвечал задачам обороны от врагов. Реки защищали его с востока, юга и запада, а с северной стороны простирался обширный лесной массив.
В 1654-1655 годах казаки, руководствуясь чертежом, данным им чугуевским воеводой Григорием Спешневым, обнесли слободу рвом и валом, на гребне которого возвели частокол из заостренных вверху бревен.
В 1656 году царь Алексей Михайлович, заинтересованный в охране южных границ, издал указ об учреждении Харьковского воеводства и направлении туда Воина Селифонтова со "служивыми людьми" для строительства крепости. Под командой Селифонтова и сменявших его в дальнейшем воевод крепость постепенно совершенствовали — обновляли, наращивали стены и башни, сооружали внешние укрепления.
Внутри крепости основными строениями были деревянная Успенская церковь, возведенная в 1657-1659 годах и в дальнейшем несколько раз перестраивавшаяся; приказная изба, государев двор, где размещался воевода, а также пороховой погреб, съезжая и несколько служб. На остальной площади тесно и беспорядочно размещались хаты казаков и русских служилых людей.
С преобразованием Харькова в 1670 году в казацкий полковой город его значение стало возрастать. Размещение на пересечении торговых путей, связывавших Россию с Кавказом и Крымом, Приднепровье с Поволжьем, благоприятствовало развитию торговли и ремесел. Городу разрешили проводить регулярные ярмарки, проходившие у подножья крепостных стен. Вскоре наш город стал одним из крупнейших центров Российской империи и всей Европы.