Родился 9 февраля 1897 года в деревне Зимницы (Куйбышевский район, Калужская область) в семье рабочего.
В 1918 году Галицкий был призван в РККА, в рядах которой принимал участие в Гражданской войне на должностях помощника командира взвода Обоянского запасного полка, исполняющего должность командира саперной роты, командира взвода и командир инженерного парка. В 1919 году окончил 2-е Екатеринославские инженерные курсы.
С 1921 года Галицкий командовал отделением санитарной роты на Западном фронте, затем — санитарной ротой.
В ноябре 1922 года был назначен на должность помощника командира санитарного батальона 5-го стрелкового корпуса, в апреле 1924 года — на должность дивизионного инженера 5-й стрелковой дивизии, а в апреле 1925 года — на должность помощника корпусного инженера 16-го стрелкового корпуса. С 1929 года вновь работал дивизионным инженером.
В 1926 году Иван Павлович Галицкий закончил Ленинградские курсы усовершенствования командного состава инженерных войск, а в 1931 году — курсы при Военно-технической академии РККА имени Ф. Э. Дзержинского.
С декабря 1932 года работал начальником Научно-испытательного инженерно-технического полигона Военно-инженерного управления РККА, с марта 1935 года — помощником начальника отдела инженерных войск Московского военного округа по боевой подготовке. В апреле 1938 года Галицкий был назначен на должность начальника отдела инженерных войск Московского военного округа.
Иван Павлович Галицкий принимал участие в освободительном походе в Западную Украину и Западную Белоруссию в 1939 году.
Постановлением Совета Народных Комиссаров СССР № 945 от 4 июня 1940 года Ивану Павловичу Галицкому было присвоено воинское звание «генерал-майор инженерных войск».
В ряды ВКП(б) вступил в 1940 году.
С июля 1940 года работал заместителем начальника Главного военно-инженерного управления Красной Армии, а с марта по начало июля 1941 года исполнял обязанности начальника ГВИУ.
В боях на фронтах Великой Отечественной войны принимал участие с 1941 года.
Во время Великой Отечественной войны И. П. Галицкий занимал должности заместителя начальника Главного военно-инженерного управления (до ноября 1941 года) и начальника штаба инженерных войск Красной Армии (с ноября 1941 по апрель 1942 года), одновременно — начальник оперативно-инженерной группы на Западном фронте (ноябрь — декабрь 1941 года), в Приморской армии Южного фронта (с декабря 1941 по январь 1942 года) и на Крымском фронте (январь — апрель 1942 года); заместитель командующего — начальник инженерных войск Западного (апрель 1942 года — февраль 1944 года) и 1-го Украинского (с февраля 1944 года и до конца войны) фронтов.
В январе 1942 года оперативная группа инженерных заграждений во главе с начальником штаба инженерных войск Красной Армии генерал-майором Галицким оказала Севастополю большую помощь в возведении инженерных сооружений.
С началом контрнаступления под Москвой оперативная группа под руководством генерал-майора Галицкого И. П. была направлена в Севастополь. В эшелон было погружено 20 тысяч противотанковых и 25 тысяч противопехотных мин, 200 тонн взрывчатки. Всё это было перегружено в Новороссийске на крейсер и 1 января 1942 года прибыло в Севастополь.
Галицкий, Хренов и их помощники готовили план инженерно-заградительных мероприятий второй и третьей очереди, предусматривающий создание минных полей на танкоопасных направлениях и прикрытие противопехотными препятствиями переднего края. Планировалось также поставить взрывные заграждения на Инкерманских высотах и у Сапун-горы. Однако, имеющихся запасов боеприпасов не хватало и реализация плана требовала постоянных доставок всего необходимого или же организации местного производства.
Постановлением СНК СССР от 14 февраля 1943 года № 176 генерал-майору инженерных войск Ивану Павловичу Галицкому присвоено воинское звание «генерал-лейтенант инженерных войск».
Группа под руководством генерал-лейтенанта Галицкого раньше, чем было запланировано, была передислоцирована из Севастополя на Керченский полуостров для укрепления Ак-Монайских позиций.
В середине февраля 1944 года Галицкому пришло письмо от отца, в котором сообщалось, что перед отступлением гитлеровцы расстреляли его мать, Александру Петровну, и старшую сестру Марию Павловну за связь с партизанами и принадлежность к семье генерала.
На Сандомирском плацдарме под руководством Галицкого было отрыто полторы тысячи километров траншей и ходов сообщения; построено 1160 командных и наблюдательных пунктов; сделано 11 тысяч артиллерийских и минометных позиций, 10 тысяч землянок и разного рода укрытий для войск; проложено заново и приведено в порядок более двух тысяч километров автомобильных дорог. Так же инженерные войска навели через Вислу 13 мостов и организовали три паромные переправы большой грузоподъемности.
Начальник инженерных войск 1-го Украинского фронта генерал-лейтенант инженерных войск Галицкий умело руководил инженерными войсками в Берлинской и Пражской операциях.
Постановлением Совета Народных Комиссаров Союза ССР от 20 апреля 1945 года № 813 генерал-лейтенанту инженерных войск Галицкому И. П. присвоено воинское звание «генерал-полковник инженерных войск».
Указом № 6570 Президиума Верховного Совета СССР от 29 мая 1945 года за умелое руководство инженерными войсками и проявленные при этом личное мужество и героизм генерал-лейтенанту инженерных войск Ивану Павловичу Галицкому присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда».
С окончанием войны Галицкий работал на ряде должностей в войсках, а с 1951 года — начальником Военно-инженерной академии имени В. В. Куйбышева. Кандидат военных наук, доцент.
Во второй половине 50-х годов, во время нахождения на посту министра обороны СССР Георгия Константиновича Жукова, военная прокуратура расследовала дело начальника инженерных войск Московского военного округа бригадного инженера С. Асланова, который в 1938 году был арестован, судим и расстрелян. Жена была сослана, дети были определены в детский дом. Во время проверки дела в 1957 году было выяснено, что единственным основанием для ареста явился донос майора Ивана Павловича Галицкого, который потом занял место Асланова.
Галицкий отрицал свою причастность к данному уголовному делу, но его позиция была сильно расшатана после того, как в архивах был найден сохранившийся донос Галицкого. После того, как Жуков был проинформирован про это уголовное дело, Галицкий по приказу Георгия Константиновича был отстранён от должности начальника Военно-инженерной академии имени В. В. Куйбышева. По представлению Министерства обороны СССР постановлением Совета Министров СССР № 784—366 от 4 июля 1957 года Галицкий лишён воинского звания «генерал-полковник».
С отставкой Жукова с поста министра обороны СССР Галицкий стал обращаться главному военному прокурору А. Г. Горному и прокурору генерал-лейтенанту юстиции Викторову Б. А., который руководил группой по пересмотру дел Главной Военной прокуратурой.
Вскоре было издано другое постановление без публикации, в котором говорилось, что Галицкого снизить в звании до генерал-лейтенанта и уволить в запас. В партии Галицкий также остался.
С 1957 года генерал-лейтенант инженерных войск Галицкий находился в запасе.
Жил в Москве, где и умер 8 марта 1987 года. Похоронен на Кунцевском кладбище (участок 9-2).