В лютому 1701 року Петро заключає військовий союз з польським королем Августом про спільну війну проти шведів. У договорі крім того було ще обговорено поділ замель між Польщею і Росією. За такої нагоди Август попросив Петра віддати йому назад і Правобережну Україну. У Петра вистарчило розуму порадитися з Мазепою перед прийняттям такого рішення. Гетьман роз`яснив цареві, що за таких умов люди з лівого берега почнуть селитися на правому, Січ тоді відокремиться взагалі з-під гетьманської влади і буде слухати гетьмана і будуть його слухатися лише за крайніх умов. Повернення до Польщі, яка, ще й до того союзна з Москвою, зруйнувало б гетьманську владу.
Невдовзі Петро знову віддає наказ гетьману відрядити військо на війну. Мазепа відряджає загін на чолі з миргородським полковником Данилом Апостолом. Цей загін самостійно без царської підтримки розбив військо шведського генерала Шліппенбаха. І знову московський уряд несправедливо повівся з козаками, після бою в козаків забрали всю здобич і ще й познущалися з них. Почало зароджуватися незадоволення царським урядом в рядах козацької старшини..
В 1702 році стародубський полковник Миклашевський вдало проводить ряд боїв і виграє велику баталію під Биховим. Полковник Раїч проводить переможний рейд по Литві. Козаки беруть Нарву. Чернігівський полковник Юхим Лизогуб бере Орішок. Петро відряджає частину козацького війська воювати з башкирами, іншій частині доручає утримувати Нарву, та стояти дозором на Неві. Москалі не давали козакам ні крупи, ні сухарів, а хліба видавали лише половину від призначеної пайки.
В 1704 році Петро відсилає все козацьке військо на чолі з Мазепою до Польщі. Попереду війська йде 3 000 козаків під командуванням Апостола. Загін Апостола підпорядковується на місці царському посланцю німцеві Паткулю. Паткуль, бувший німецький військовий, почав муштрувати козаків на німецький лад. Учив козаків німецькому військовому строю. Хоча й козацьке військо було досить організованою армією, але німецькі порядки дуже сильно відрізнялися від звичних козакам. За непокору Паткуль мало не повісив сотника Родзянко, який відважився сказати, що козаків таким премудростям потрібно навчати щонайменше півроку, аби з того хоч щось получилось. Апостол відправив гетьману листа в якому говорив, що козацьке військо зазає великої наруги з боку Паткуля, в них позабирали коней і провізію, майже голих і босих женуть у бій, якщо таке буде продовжуватися то козаки, навіть під страхом смертної кари розбіжаться. Паткуль відпустив козаків без коней, відібравши їх для свого німецького гарнізону. Зазнавши декілька поразок від шведів назад з того загону повернулося близько 80 чоловік.
В 1705 році Мазепа отримав наказ йти на Волинь, потім на Брест, а потім наказ іти самому на Садомир і відіслати у Литву відділ козацького війська. Мазепа йшов по Галичині і 14 серпня був під Львовом. Новий король Станіслав Лещинський чотири рази присилав до Мазепи листи, в яких досить прозоро натякав на допомогу у звільненні з-під московської тиранії. Мазепа всі ці листи відіслав Петрові.
Мазепа послав під Ригу прилуцького полковника Горленка. І ось що той писав:
“… Панове полковники драгунські з полками своїми стоять по селах, а козакам не дозволяють не тільки в селах ставати, але й випросити корму в села не пускають, а як хто піде то драгуни б`ють…”
Писав і Орлик, що козакам дають хліба вдвоє менше ніж московським військам, не дають круп, сала, м`яса, солі. Коні козацькі знесилені від піврічної роботи, а козаки всі голі і босі.Про наругу над українським народом неслися до гетьмана листи і з України.
Коли цар сподівався приходу короля Карла із шведським військом на Україну, він виставив проти нього корпус війська на чолі із Меншиковим. Мазепі ж цар наказав стати під командування Меншикова. Вже раніше цар грозився нагородити Мазепу титулом “князь Римської імперії”, з козацьких полків зробити загони драгун, з українських земель викроїти княжество для герцога Мальборо, а гетьманську булаву віддати Меньшикову. Останню крапку у списку терпіння козацької старшини було поставлено у Києві під час візиту царя. Меньшиков прилюдно, при всій старшині, заявив, що вже пора перевішати всю старшину і найкращий момент це негайно, поки тут цар з усім своїм військом. Гетьман, який вже вирішив піти на великий крок і заключити союз із шведами, побачив, що йде не сам. Вже перед цим Мазепа мав зносини з княгинею Дульською, яка була посередником між ним і королем Карлом. Гетьман дуже обережно пробував грунт перед тим як зробити свій крок.
Петро вирішив у Києві будувати фортецю. Коли почали закладати цю фортецю рознесли багато дворів, повирубувано було багато садів, а людей просто вигнано на вулицю і наказано йти жити куди хочуть. Жодної компенсації московський уряд не надав. Будувати фортецю було зігнано козаків. Будівництво йшло 5 місяців силами козаків і за їх же кошти. Над козаками цар приставив німецького полковника Гейнса із московськими стрільцями.
Тим часом армія Карла ХІІ отримувала одну перемогу за іншою. Петро шукав підтримки по всій Європі. Відбулась велика зустріч між Польщою і Росією у Жовкві. Мазепу також було туди запрошено, але не для поради, а для того, щоб сказати йому рішення Петра віддати Польщі Правобережжя, скасувати козацьке військо. Цар сказав це Мазепі 20 квітня на великій військовій раді. Мазепа після ради не пішов на вечерю до царя і нічого не повідомивши розпустив козацьку старшину. Старшина дізналася про ці царські плани не від гетьмана, а з інших джерел. Звістка про близький кінець їх сильно схвилювала. Проводилися таємні ради в обозного Ломиковського і в миргородського полковника Апостола. Назрівав великий бунт. І коли пізно вночі Мазепа отримав перший лист від польського короля Станіслава, ставленика шведського Мазепа прийняв рішення прийняти бік Карла ХІІ.
Частина військової старшини незалежно від Мазепи теж прийшла до рішення, що теперішня історична хвиля – єдина для звільнення України від Москви. Прилуцький полковник Горленко, лубенський Зеленський, миргородський Апостол і військовий обозний Ломиківський вже порозумілися між собою і лише думали як перетягти на свій бік Мазепу. Перша ж спроба переговорів показала, що і гетьман думає про те саме, що і старшина. Як і в кожної великої ідеї, був і свій зрадник. Таким виявився генеральний писар Кочубей. Кочубей склав донос в Москву про зраду гетьмана і старшини, цей донос налічував 32 пункти. Щоправда з кочубеївського доносу нічого вийшло: московський уряд не повірив Кочубею і Іскрі (бувшому полтавському полковнику) і приговорив їх до страти. Після їх смерті донос був ліквідований. В доносі брали ще участь сотник Кованько, піп Святайло і вихрест жид Яненко їх наказано було взяти на муки і бити кнутом.
Тим часом шведський король все ж таки направив свої війська на Україну. Цар Петро наказав Мазепі йти на з`єднання з московськими військами. Мазепа зібрав нараду на якій було вирішено не йти на це з`єднання, а направити листа Карлові, аби він навіть не пустив московських військ на Україну. Гетьман не поїхав сам, зіславшись на хворобу, а послав лише частину козаків. З листом до короля Швеції все відтягувалося, аж поки не напосіла старшина. В листі була просьба прийняти український народ під свою протекцію. Король шведський нічого не відписав, але усно передав, що буде коло річки Десни 22 жовтня. Темп подій все прискорювався і гетьман вирішує їхати на зустріч до Карла ХІІ. Батурин залишає сердюцькому полковнику Чечелю, якому було залишено чотири сердюцьких полки та частину полків Лубенського, Миргородського та Прилуцького. Сам гетьман взяв з собою 5000 козаків, стільки ж поставив по цей бік Десни. Але це були не свідомі повстанці. Це були не люди які йдуть за ідею на смерть, це були “солдати”. Козакам досі нічого не сказали про зносини Мазепи із шведами. Офіцери робили революцію, а солдатам про це нічого не сказали. Думали, що досить видати наказ, а солдат послухає, і діло революції буде зроблене. Вцьому і полягає головна помилка ініціаторів тієї революції, трагічний момент революції 1708 року. Лише в останній момент перед лицем швецького війська Мазепа проголосив військові про своє рішення. Не вся й старшина пішла за Мазепою. Ось імена тих хто пішли:
1. з генеральної сиаршини обозний Ілля Ломиківський, суддя Семен Чуйкевич, писар Пилип Орлик, осаул Антін Горленко, хорунжій Іван Сулима, бунчужний Дмитро Максимович. Племінник Мазепи Андрій Войнаровський, бунчуковий товариш Федір Миронович, Клим Довгополенко, Григорій, Іван і Афанасій Герцики, Федір Нахимовський, Федір Третяк, Антін Гамалія, Семен Лизогуб.
2. З канцелярії: писарі Михайло Ломиковський, Яків Гречаний, Іван Максимович та канцеляристи Антонович і Григорович.
3. Полковники: київський Мокієвський, прилуцький Горленко з зятем Бутовичем, лубенський Зеленський, миргородський Апостол, компанейські Гнат Галаган та Кожуховський, сердюцький Яків Покотило, усі з своїми полками але такими яким навіть не сказано куди вони ідуть.
Перше офіційне побачення Мазепи і шведського короля відбулося 29 жовтня, при чому гетьманові з огляду на його літа (на той час Мазепі вже було 70 років) було дозволено сидіти, а король його слухав стоячи.
На цей час Петро І вже знав про крок Мазепи. Положення було грізне. Сильне шведське військо, підкріплене козацькими військами могло повернути московське колесо історії в небажаний для Москви бік. Петрові було потрібно терміново щось робити. Перш за все він наказав Меньшикову “сколь возможно ласково призывать” козацьку старшину, а сам кличе всю старшину до Глухова обирати нового гетьмана. Видається маніфест в якому Мазепу безпідставно звинувачується в накладені аренди та податків на народ України без відома царя.
Меньшиков же з великим військом виступає в Батурин. Козаки мужньо відстоювали гетьманську столицю і Меньшиков вже почав відступати, якби не зрада сотника прилуцького полку Носа. Він послав уночі свого прибічника Соломаху доганяти Меньшикова і провести його в місто насвітанку, коли всі оборонці сплять, потайним ходом. Меньшиков так і зробив: увійшов в місто і напав на сонних козаків. Москалі перебили всіх козаків, спалили мість, а Меньшиков з катами вішав і мучив всіх хто був у місті.