В указанном выше слове ударение следует ставить на слог с буквой Е — губЕрниям.
Он постоянно бывал в разъездах по трем вверенным ему губе́рниям; был до педантизма исполнителен в своих обязанностях, строг до жестокости с своими подчиненными и сам доходил до малейших подробностей дела.
— Лев Толстой, Война и мир
Замечали на это, что, пока у нас люди мрут с голоду по голодным губе́рниям, такие нежные заботы о собачках несколько как бы режут ухо.
— Федор Достоевский, Дневник писателя
Путешествие государя по восточным губе́рниям назначено осенью.
— Дмитрий Мережковский, Сборник "Царство Зверя"
Так вы вот за какими продуктами по губе́рниям ездите! – Это и к вам, товарищ, относится! – Пропаганду вести?
— Марина Цветаева, Проза
Сейчас самый удачный момент: на Дону восстали казаки, в Оренбургском войске не признали большевиков, в Екатеринбурге неспокойно, в Малороссии – немцы, а по всем губе́рниям восстания крестьян.
— Алексей Черкасов, Конь Рыжий