В конце 1917 г. И.И. Шмальгаузен был избран по конкурсу профессором Юрьевского (Тартусского) университета. Однако в это время началась оккупация Прибалтики немецкими войсками, и он остался в Москве до лета, когда был решен вопрос об эвакуации персонала Юрьевского университета в Воронеж и учреждении на его базе с 1 июля 1918 г. нового университета. В Воронеже Шмальгаузен заведовал кафедрой зоологии и сравнительной анатомии позвоночных животных, читал соответствующие курсы студентам естественных специальностей, а также курс эмбриологии студентам-медикам. С 1919 г. он читал еще и общий курс зоологии в Институте народного образования, а в 1920–1921 гг. – такой же курс в Сельскохозяйственном институте. В 1921 г. переехал в Киев. В Киевском университете он читал курсы эмбриологии, общей биологии и эволюционной теории. В последний год своего пребывания в Киеве он читал также курс генетики.
Научно-исследовательская работа Шмальгаузена проходила на базе Украинской Академии наук, где он состоял в 1921–1922 гг. старшим научным сотрудником при Физико-математическом отделении, а в июне 1922 г. был избран в действительные члены Украинской Академии наук. Здесь он организовал кафедру экспериментальной зоологии, а в 1925 г. был избран директором Биологического института. В 1923 г. на Украине были учреждены специальные научно-исследовательские кафедры, и Шмальгаузен был назначен заведующим кафедрой зоологии. В 1930 г. кафедра была преобразована в научно-исследовательский Институт зоологии и биологии и соединена с Биологическим институтом и Зоологическим музеем АН УССР. Директором этого института он состоял со времени его основания и до эвакуации Академии наук в Уфу в 1941 г., когда институты были расформированы. В Киеве ученый продолжал работать над проблемой происхождения наземных позвоночных. В дальнейшем он перешел к изучению закономерностей эмбрионального роста. Шмальгаузену в результате проведенных исследований удалось доказать существование периодических изменений роста и установить связь этих изменений с периодами интенсивной дифференцировки. Ученым были выработаны точные методы учета скорости роста для любого возраста и вычисления показателей его общей интенсивности для данных условий. Эти методы нашли применение в рыбном хозяйстве и в зоотехнике. Работа по сравнительному изучению развития количественных признаков у птиц была проведена в большом масштабе. Было опубликовано сообщение о факторах, определяющих общие размеры тела (1933).
От изучения количественных признаков И.И. Шмальгаузен перешел к феногенетике качественных различий и опубликовал ряд сообщений о развитии породных различий у домашних кур. Эти исследования дали совершенно новые и очень интересные данные, показав чрезвычайную сложность формообразовательных связей на эмбриональных стадиях. Благодаря этим связям любое наследственное изменение получает не только множественное выражение (плейотропизм), но проявляется у эмбриона как многостепенное изменение целой цепи формообразовательных корреляций. Еще в первой своей студенческой работе о развитии легких он обратил особое внимание на взаимосвязь филогенетических изменений (например, у змей изменение способа передвижения – удлинение тела, взаимное смещение органов, их асимметричное развитие, редукция легкого). Теперь представилась ясно и онтогенетическая база таких изменений. Результатом этих исследований и обработки литературного материала явилась книга «Организм как целое».