В октябре 1941 назначен командующим Азовской военной флотилией. Отличился при проведении крупнейшей в годы войны Керченско-Феодосийской десантной операции.

В сентябре 1942 стал одним из организаторов обороны Новороссийска. Войска 47 армии, которую он временно возглавил, и силы Новороссийского оборонительного района внесли решающий вклад в ход и исход битвы за Кавказ, остановив противника на восточном берегу Цемесской бухты.

В 1943-1944 вновь возглавил Азовскую флотилию, которая под его руководством приняла участие в одиннадцати десантных операциях, в том числе, в Керченско-Эльтигенской.

В конце 1943 был назначен командующим Дунайской флотилией, которая под его началом с боями дошла до границ Венгрии.

В декабре 1944 стал командующим эскадрой кораблей Черноморского флота. В этой должности принял активное участие в мероприятиях по подготовке и обеспечению проведения Ялтинской конференции руководителей держав антигитлеровской коалиции.