Утром 4 марта по немецким позициям нанесла удар советская артиллерия. Затем в наступление перешли части 60-й армии Черняховского и 1-й гвардейской армии Гречко. Вслед за ними в бой ввели второй эшелон – 4-ю танковую армию Баданова и 3-ю гвардейскую танковую армию Рыбалко. К вечеру советские войска продвинулись на 8-20 км. 5 марта перешла в наступление 18-я армия Журавлева. Советские армии за два дня прорвали немецкую оборону, создав брешь шириной до 180 км и вклинившись на глубину в 25-50 км. 7-10 марта передовые части советских армий вышли на рубеж Тернополь, Волочиск, Проскуров. Была перехвачена железная дорога Львов – Одесса, основная коммуникация всего южного крыла немецких войск. 

Немецкое командование стало спешно перебрасывать к месту прорыва резервы. 9 марта части 60-й армии и приданного ей 4-го гвардейского танкового корпуса Павла Полубоярова встретили сильное сопротивление немецких войск на подступах к Тернополю. Здесь оборону держали 68-я и 359-я пехотные дивизии, которые перебросили из Западной Европы. Тяжёлые бои армии Черняховского пришлось вести и в районе Волочиска. Здесь немецкое командование наносило контрудары с помощью 7-й танковой дивизии и танковой дивизии СС «Адольф Гитлер». 1-я гвардейская армия Гречко при поддержке 7-го гвардейского танкового корпуса Сергея Иванова из состава 3-й гвардейской танковой армии овладела районом Староконстантинова и вышла к Проскурову. Здесь немцы развернули против наступающих советских войск четыре танковые дивизии: 1-ю, 6-ю, 16-ю и 17-ю танковые дивизии. 

Немецкое командование группы армий «Юг» ввело в бой крупные силы: 9 танковых и 6 пехотных дивизий. Немцы видели главную угрозу в потере контроля над железной дорогой Львов – Одесса. Появилась угроза разрыва фронта и разделения группы армий «Юг» на две части. Немцы ожесточенно контратаковали, пытаясь остановить советские войска и вернуть контроль над утерянным участком железной дороги. 

В сложившейся обстановке советское командование приняло решение временно остановить наступление войск. Необходимо было отразить немецкие контрудары, перегруппировать силы, подтянуть тылы, артиллерию, резервы, определить направления новых ударов. Ставка Верховного Главнокомандования согласилась с предложением Военного совета 1-го Украинского фронта. 11 марта 60-я и 1-я гвардейская армии получили приказ перейти к обороне. 

Одновременно Ставка уточнила задачи 1-го Украинского фронта. Главная ударная группировка фронта должна была с ходу форсировать Днестр и Прут, освободить Черновцы, и выйти к советской государственной границе. В ходе этого удара основные соединения 1-й немецкой танковой армии необходимо было изолировать от 4-й танковой армии, отрезать ей пути отхода на юг, за Днестр. Немецкую танковую армию планировали окружить и уничтожить в районе северо-восточнее Каменца-Подольского. Правое крыло фронта (13-я армия) должна было наступать на Броды и Львов, оказав содействие 2-му Белорусскому фронту, который должен был ударить на ковельском направлении. Наступление армии поддерживали 25-й танковый, 1-й и 6-й гвардейские кавалерийские корпуса. Левое крыло фронта (18-я и 38-я армии) наступало на Каменец-Подольский, оказывая содействие 2-му Украинскому фронту. 40-я армия 2-го Украинского фронта должна была принять участие в окружение сил противника в районе Каменец-Подольского. 

13-я армия Пухова, прорвав сильную оборону противника, к концу 17 марта захватила важный опорный пункт противника – Дубно. Ещё через два дня был занят другой серьёзный узел обороны противника – Кременец. К 20 марта армия Пухова, сломив сопротивление семи немецких дивизий, вышла на подступы к Бродам. На этом успехи армии закончились. В районе Бродов немцы создали сильную оборону и до конца операции здесь шли упорные бои. 18-я армия Журавлева и 38-я армия Москаленко к 21 марта освободили Хмельник, Винницу, Жмеринку, оттеснив противостоящие им части 1-й немецкой танковой армии к Каменец-Подольскому. 

В это время соединения 60-й и 1-й гвардейской армий, 3-й гвардейской и 4-й танковых армий отбивали контрудары противника в районе Тернополя, Волочиска и Проскурова. Сражение было яростное. Немцы сосредоточили большие силы. Советские армии понесли большие потери в живой силе и технике. Так, 14 марта Жуков доложил в Ставку, что в армии Рыбалко осталось в строю только 63 танка и САУ, в корпусе Полубоярова (4-й гвардейский танковый корпус) – 20 танков, тяжелые потери понесли и другие армии. 

Итоги операции

Войска 1-го Украинского фронта продвинулись на 80-350 километров, выйдя на рубеж Торчин, Броды, Бучач, Станислав, Надворная. Красная Армия вышла к границам Чехословакии и Румынии. Советские войска освободили значительную часть Правобережной Украины - Каменец-Подольскую область, большую часть Винницкой, Тернопольской и Черновицкой областей, несколько районов Ровенской и Ивано-Франковской областей (около 42 тыс. кв. км). Были освобождены от гитлеровцев 57 городов, включая три областных центра - Винницу, Тернополь и Черновицы, несколько крупных железнодорожных узлов, большое количество поселков, сел и деревень. 

1-я и 4-я немецкие армии понесли тяжелые потери. 22 немецкие дивизии, несколько танковых и моторизованных бригад, других отдельных частей потеряли более половины своего личного состава и большую часть тяжелого оружия, техники, по сути, временно утратив боеспособность. По советским данным только за период с 4 по 31 марта 1944 года было уничтожено более 183 тыс. немецких солдат, ещё около 25 тыс. взяли в плен. Чтобы закрыть образовавшуюся брешь немецкому командованию пришлось перебросить в дополнение к тем дивизиям, которые выдвинули из резерва в ходе сражения, до десяти дивизий, включая две танковые и ряд отдельных соединений. Резервы перебрасывали из Западной Европы. В предгорья Карпат выдвинули 1-ю венгерскую армию. 

Советские войска вышли к Карпатам, государственной границе СССР и выполнили основную цель операции – рассекли стратегический фронт противника на две части. Основные рокадные коммуникации противника были перерезаны. Однако 1-й Украинский фронт не смог реализовать задачу ликвидации 1-й танковой армии. Для этого не хватило сил. Выходившие на внешний и внутренний фронты окружения части потеряли много людей и техники в предшествующих жестоких боях. Из-за весенней распутицы артиллерия и тылы отставали. Не хватало танков для борьбы с немецкими танковыми соединениями. А из-за проблем с взлетно-посадочными площадками, грунтовые аэродромы не могли действовать с полной нагрузкой, авиация не имела возможности полноценно поддержать сухопутные войска. К тому же с учётом постоянно вводимых в бой немецких резервов, немецкое командование постоянно увеличивало число сражающихся дивизий. 

Особенностью операции было использование обеими сторонами больших танковых группировок. Так, в ходе начавшегося 21 марта второго наступления 1-го Украинского фронта, бросили в бой сразу три танковые армии и два отдельных танковых корпуса. Немцы с самого начала сражения имели 10 танковых и одну моторизованную дивизии. Это придало битве особую быстроту и маневренность. 

В целом операция была успешной и показала возросшее мастерство советских полководцев и воинов. Боевой дух советских войск был очень высоким, солдаты рвались освободить родную землю от врага. Не зря 70 отличившихся в бою соединений и частей поучили почётные наименования (Проскуровские, Винницкие, Ямпольские, Черновицкие и т. д.).