Наприкінці правління Володимира I Великого, Ярослав відмовився сплачувати щорічну данину Києву, що складала 2000 гривень, і виступив проти свого батька походом. Під час приготування до походу, Володимир помер. Після смерті свого батька Володимира I в 1015 році Ярослав I Мудрий в жорстокій боротьбі за київський престол розбив війська Святополка I біля Любеча і посів київський великокняжий престол, але 1018 під натиском польських військ короля Болеслава І, яких взяв собі на допомогу Святополк, мусив покинути Київ і утік до Новгорода. Після остаточної перемоги в битві над річкою Альтою 1019 Ярослав Мудрий став київським Великим князем.
Прагнучи об'єднати всі руські землі під своєю владою, Ярослав Володимирович вів боротьбу проти свого брата Мстислава I Володимировича, князя тмутороканського і чернігівського. Після битви, яку Ярослав програв, під Лиственом біля Чернігова 1024 р. Ярослав мусив відступити Мстиславові Чернігівщину і всі землі на схід від Дніпра, крім Переяславщини. Згодом, після укладеного 1026 у Городку під Києвом миру, почалося порозуміння і співпраця між братами. Ярослав Мудрий допомагав Мстиславові у боротьбі з касогами і ясами у 1029 р., поширивши свої володіння до Кавказьких гір; а Мстислав — у скріпленні й поширенні держави Ярослава I Мудрого на захід від Дніпра. 1030 на півночі Ярослав зайняв землі між Чудським озером і Балтикою і там заснував м. Юріїв (нині — Тарту), у 1030 — 1031 війська Ярослава і Мстислава відвоювали Червенські городи, які 1018 захопив Болеслав І. Тоді ж Ярослав здобув від королівства Польського смугу землі між ріками Сяном і Бугом; там збудовано міста Ярослав і Белз.
Після смерті Мстислава у 1036 році Ярослав об'єднав під своєю владою лівобережні землі, ставши єдиним володарем могутньої Київської держави, окрім Полоцького князівства, яке виділено Володимиром Святим в уділ роду Ізяслава. 1036, за літописом, Ярослав Мудрий розгромив біля Києва печенігів і нібито, за літописом, на місці перемоги над ними почав будувати у 1037 Софійський собор. Хоча останні дослідження Софії Київської спростували це твердження літопису. За аналізом графіті, а також за іноземними писемними пам'ятками, насамперед німецькими (Хроніка Титмара Мерзебурзького), Собор святої Софії був закладений раніше.
1038–1042 Ярослав вів успішні походи проти литовських племен — ятвягів, проти Мазовії, проти прибалтицько-фінських племен ямь і чудь. 1043 він підготував під проводом свого сина Володимира і воєводи Вишати похід на Візантію, який закінчився поразкою, багато воїнів потрапило в полон чи загинуло. Щоб охороняти свою державу проти нападів кочовиків, Ярослав укріплював південний кордон, будуючи міста над ріками Россю і Трубежем: Корсунь, Канів, Переяслав; як також другу фортифікаційну лінію над Сулою: Лубни, Лукомль, Воїнь.
Під час його правління Київська Русь перетворилася на могутню європейську державу. Звершено розпочате Володимиром Святим розширення меж столиці Русі — Києва, насипано нові оборонні вали були ще за Володимира Святого (дослідження П. Раппопорта) (за одним з них прокладено сучасну вулицю Ярославів Вал), а Ярослав поставив на них лише забороля. Збудовано Золоті ворота, Лядську браму, Жидівські ворота, Георгіївський та Ірининський собори, Софійський собор, в якому згодом поховали в саркофазі Ярослава Мудрого та його дружину Ірину (Інгігерду;? -1050). Це був акт порушення задуму собору. Створив бібліотеку Софійського собору. За часів його правління засновано міста Корсунь, Гюргів (нині — Біла Церква), розбудовано Чернігів, Переяслав, Володимир-Волинський, Турів, встановлено династичні зв'язки з королівськими дворами Швеції, Норвегії та Франції. Продовжувалося карбування срібних монет.
Останні роки життя Ярослав провів у Вишгороді. По смерті Ярослава Мудрого залишилися п'ять синів, між якими розгорнулась боротьба за владу. Цей період відомий в історіографії як Тріумвірат Ярославичів[1], з якого почався розпад Київської Русі і через півтора століття вона фактично перестала існувати як єдина держава.
Для скріплення влади в державі та впорядкування правових та соціальних відносин громадян за князювання Ярослава Мудрого було укладено збірник законів, так звану Правду Ярослава, що становить найдавнішу частину законів руського права — Руської Правди
За Ярослава Мудрого поширилося і зміцніло християнство в Київській Русі, а також оформилася організаційна структура й церковна ієрархія: 1039 документально стверджено існування Київської митрополії, що перебувала в юрисдикції константинопільського патріарха. Ярослав устійнив церковний устав, яким визначалися права церкви і духівництва. Крім призначування митрополитів на київську катедру, Церква Київської Русі користувалася автономією, включно з тим, що 1051 з ініціативи Ярослава собор місцевих єпископів обрав русина Іларіона митрополитом київським. За цього часу засновано також перші монастирі на Русі: св. Юрія, св. Ірини і славний Києво-Печерський 1051 р., які стали важливими культурними осередками, в яких писалися літописи, були школи іконописання.
За Ярослава Мудрого сталася і національна еволюція в Київській державі: варязький вплив залишився тільки в колі військової дружини, а державні діячі рекрутувалися здебільшого з місцевих людей, серед яких були: Вишата, Іван Творимирич, Костянтин, син Добрині та ін.
Ярослав Мудрий був високоосвіченою людиною, він дбав про освіту і культуру свого народу, заснував при Софійському соборі школу і бібліотеку. За його ініціативою почалася в Києві праця над перекладами грецьких та інших книг на церковно-слов`янську мову, переписувано багато книг, був укладений літописний звод.
Київська Русь за Ярослава I Мудрого була великою і могутньою державою Європи, досягнувши на ті часи найвищого розвитку. Щоб зберегти цілість своєї держави, а заразом забезпечити права своїх синів, Ярослав встановив систему наслідування (сеньйорату), згідно з яким старший брат Ізяслав дістав великокняжий престол у Києві, Святослав — Чернігівщину, Муром і Тмуторокань, Всеволод — Переяславщину, Суздаль і Ростовщину, Ігор — Володимир Волинський, В'ячеслав — Смоленщину.