Тому, ведучи переговори з Лєщинським про майбутню федерацію, як того хотіла одна група старшин, він одночасно розпочинає переговори з Карлом XII. За таємною угодою зі шведами Україна мала стати незалежною державою, а Мазепа — довічним її правителем, гетьманом. Після його смерті гетьмани мали обиратись.
Пізніше придворні короля Карла XII, шведські дипломати повідомляли, що для них переговори з Мазепою — це подія великого значення, бо гетьман пропонує йти на Москву через Полтаву, обіцяє допомогу. Так і сталося. Карл XII повернув в Україну.
Але Мазепа довго вичікував, адже військ у нього не було — більшість козацьких полків була в Прибалтиці. За цей час російські війська розгромили великі сили шведської армії на Лісній (сучасна територія Білорусі). Мазепа ж чекав і далі, коли шведи ступили на територію України, почали насильно відбирати в населення продовольство й фураж і тим настроїли їх проти себе. Український народ чинив опір грабіжникам, і шведські війська опинились у несприятливому для себе середовищі.
Після цього ми бачимо Мазепу в таборі Карла XII. Це було восени 1708 року.
Гетьманська Україна в роки Північної війни
Гетьман Іван Мазепа довго еквілібрував у внутрішній і зовнішній політиці між окремими старшинськими угрупованнями й державами.
Поява ж шведських військ в Україні змусила його вживати термінових заходів. Він вирішив прийти до Карла XII з військами, але не міг зібрати усіх своїх полків. Велика частина була поза межами України — вони були на театрах воєнних дій у Прибалтиці, у Польщі разом із російськими військами в боротьбі зі шведами і польськими прибічниками Карла XII. У розпорядженні гетьмана на той час було тільки три полки — Миргородський, Лубенський та Прилуцький. Тож гетьман з’явився у таборі Карла XII лише з невеликою частиною козаків. Одразу ж російські війська на чолі з Меншиковим оточили столицю Гетьманщини — місто Батурин. 27 жовтня 1708 р. Петро І видав маніфест, у якому сповістив, ніби гетьман зник невідомо куди. 28 жовтня він уже повідомив про його зраду та наказав усім мазепинським полковникам повернутися до Росії, інакше вони будуть страчені. На підтвердження цієї погрози Петро І видав наказ про арешт сімей усіх полковників, що були разом із Мазепою в таборі Карла XII. їхні родини були звезені до Глухова і чекали вирішення своєї подальшої долі.
Крім того, Петро І звернувся з маніфестом і до українського народу, де відзначав, що українці мужньо б’ються проти ворожих військ, закликав посилити цю боротьбу. У той же час він очорнював Мазепу як зрадника, котрий нібито хотів віддати Україну полякам, а православну церкву — уніатам. Петро І ще звинуватив Мазепу в тому, що той ніби наклав на свій народ податки на свою користь, а він, Петро І, скасував деякі з них — отже, виставляв себе захисником України. Так почалася багатовікова політика очорнення московськими царями державницької діяльності гетьмана Мазепи. Цар Петро змусив своє духовенство, серед якого було чимало українців, проклинати "зрадника" Мазепу, і його проклинали упродовж віків і в тих церквах і соборах, які він будував за свій кошт. Лише 1992 року українське духовенство зняло анафему з імені гетьмана.
Для історіографів залишається загадкою, чому Карл XII, до якого прийшов Мазепа з дев’ятьма полковниками і чотирма тисячам козаків, не послав допомоги обложеній російськими військами столиці Гетьманщини — Батурину, що була міцною фортецею Лівобережжя, мала достатньо запасів продовольства й озброєння й уперто оборонялась.
Сили Меншикова, які нараховували 10 тис. воїнів, переважали сили замкнутої в Батурині козацької залоги. Деякі історики вважають, що Карл XII був великий полководець, знаменитий стратег, але нікчемний політик. Тому він не розібрався в ситуації в Україні. Карл XII, кажуть, і не відразу прийняв Мазепу, коли той 24 жовтня 1708 р. з’явився в його таборі, а зробив це лише 28 жовтня. Можливо, Карл зважав на те, що Мазепа переходить до нього не як підлеглий, а як політик, що хоче відродити з його допомогою "особоє княженіє", як говорив Петро I, тобто Українську державу. Імовірно, це зупиняло Карла XII. Можливе й ще одне: Мазепа проводив також переговори з польським королем Станіславом Лєщинським, а не лише з ним. Це змусило його насторожитись: погано, коли за спиною державця про щось домовляються сателіти.
Переговори, котрі Мазепа проводив з Лєщинським, передбачали, що Україна увійде до складу Речі Посполитої на правах федерації.
У свідомості частини української старшини відроджувалися ідеї Гадяцької угоди. Про це свідчив і генеральний писар гетьмана — Пилип Орлик. Він пізніше говорив, що в ці часи українська старшина перечитувала і уважно вивчала Гадяцьку угоду 1658 року.
Але серед української політично активної верхівки не було єдності. Вона була розділена на два угруповання: одне продовжувало орієнтуватись на Польщу і сподіватись, що польський уряд все ж погодиться на федеративний зв’язок України з Польщею і Литвою (До речі, Мазепа добре знав про цю орієнтацію і підтримував зв’язки з представниками цієї групи: це був миргородський полковник Данило Апостол, прилуцький полковник Горленко, лубенський полковник Зеленський, стародубський — Миклашевський. Саме тому він і проводив переговори з Лєщинським). Інша частина козацької старшини Південної і Лівобережної України (В. Кочубей, І. Іскра) орієнтувалась на Туреччину і Крим.
Ясна річ, що підтримка Мазепи з боку цих полковників була далеко не одностайною. Фактично він не мав тут міцної підпори.
Звичайно ж, Мазепа не міг опиратися і на підтримку народу. Через виснажливі постої російського війська, через податки, через здирства самої української старшини, котра діставала від Мазепи землі, угіддя і селян, людність була незадоволена своїм гетьманом. Тому Мазепа не міг надати достатньої допомоги й Карлу XII. Та, зрештою, він тепер сам сподівався на його поміч. Його столиця — Батурин — була оточена російською армією.
Карл XII Батурину не допоміг. Не міг допомогти йому і Мазепа. Доля столиці Гетьманщини була фактично вирішена.
Обороною міста керував сердюцький полковник Дмитро Чечель. На вимоги Меншикова відчинити ворота фортеці та впустити туди російські війська той відповідав, що пана гетьмана немає, а сам він не може відчинити ворота. Взяти ж місто приступом було важко. Меншиков через те вдався до тих козацьких старшин, які почали повертатись від Мазепи і Карла XII після погроз Петра І розправитись із їхніми сім’ями і тепер шукали способу довести свою прихильність до російського уряду. Серед таких був і сотник Іван Ніс, що вказав російському війську на потаємні ходи до міста під великими укріпленими стінами Батурина.
Вночі 2 листопада 1708 р. московські війська вдерлися через ті потаємні проходи в середину Батурина і розпочали жахливу різанину населення. Було знищено до 10 тис. людей, ніхто не мав пощади — ні жінки, ні діти, ні старі люди. Коли в наступні дні селяни довколишніх сіл прибули до міста на базар, то вони побачили на місці Батурина попелища, гори трупів і повне безлюддя…
Гетьманська столиця була знищена дощенту. Так був виконаний наказ Петра І: "Батурин другим в пример сжечь весь". Від цієї нелюдської розправи над мирним населенням здригнулася вся Україна. Вістка про звірства в Батурині обійшла світ: про них писав і новгородський літописець, і закордонні сучасники (англійці, австрійці). Але цим справа не обмежилась.
Меншиков і його війська, які окупували значну частину Лівобережної України, розпочали тут жорстокий терор. Усіх, кого запідозрювали у співчутті Мазепі, знищували. Кожного прихильника української справи чекала страта. Поширювались доноси — бо донощики діставали вищі посади, винагороди, землі, маєтки за рахунок своїх жертв. Почалась загальна деморалізація українського суспільства. З одного боку — страх перед звинуваченням у співчутті Мазепі чи Українській державі, з другого — бажання легко збагатитись.
Трагедія Батурина була першою українською жертвою в ході Північної війни — війни Росії і Швеції, в якій не було абсолютно ніяких національних інтересів України. Далі — інша драматична сторінка: Запорозька Січ.
Запорозькі козаки на чолі з отаманом Костем Гордієнком, які не завжди підтримували Мазепу, а часом і погрожували йому за шляхетсько–старшинську політику, з приходом Карла зрозуміли, що Мазепа — менше зло, аніж Московська держава. І козаки на чолі з Гордієнком також переходять на бік Карла XII. Це була значна підтримка шведському війську. Шведській армії відчутну допомогу подали запорозькі козаки, які розпочали навесні 1709 р. витісняти російські війська з території південної Полтавщини. Були знищені московські гарнізони в Кобеляках, Царичанці та інших містечках; запорожці прихиляли населення на бік шведів, аби воно давало продукти війську і фураж. Під Нехворощею був розбитий запорозькими козаками російський гарнізон. Крім того, кошовий отаман Кость Гордієнко підписав (за підтримки Мазепи) у Великих Будищах угоду з Карлом XII, за якою король не мав підписувати з Росією угоди, допоки Україна не здобуде своєї незалежності.
Тож Петро І дав наказ зруйнувати і Запорозьку Січ. Він давно уже ненавидів запорожців, які підтримували боротьбу населення проти російського панування в Україні та надавали допомогу антифеодальним виступам у самій Росії. Зокрема, так було під час повстання донських козаків і російських селян на чолі з Кіндратом Булавіним. Тому цар Петро І вирішив розправитись і з цим гніздом української вольниці.
Російське військо під командою полковника П. Яковлєва та козацького полковника Гната Ґалаґана на початку квітня 1709 р. підійшло до укріплень Січі. Вона була зачинена на всі ворота, і козаки не пускали російських стрільців до себе. Запорожці, власне, не розуміли, чого сюди прийшли війська царя.
Частина козацького населення була на промислах, у плавнях, на хуторах, випасала коней, готувала порох. Інша частина пішла в похід на Крим. Тоді виступив знаний козаками Ґалаґан і оголосив, що вони прийшли до запорожців як друзі. Довірливі козаки відчинили ворота січової фортеці.
Туди увірвались російські війська, і розпочалась кривава драма. Козаки схопились за шаблі, але було вже пізно.