Уже в ранних работах Келлера по геоботанике четко выражен экологический подход. Он – автор 1-й части труда «В области полупустыни. Почвенные и ботанические исследования на юге Царицынского уезда Саратовской губернии» (1907), которая содержит описание растительности, тесно увязанное с условиями её обитания – климата, почвы и рельефа (автор 2-й части – почвовед Н.А. Димо). Келлер первым ввел в биогеографию и фитоценологию понятие «полупустыня», показав своеобразие слагающих её растительных комплексов и их генезис затем также на примере Каспийской низменности. Уже в этой работе он применил свой метод пробных площадок – оригинальный прием описания растительных ассоциаций, признанный затем наиболее удобным и точным методом исследования. В ходе таких описаний Келлер дифференцировал растения и выделил ряд экологических групп, в частности однолетники и многолетники среди высших растений, а среди низших – мхи, лишайники и водоросли. В результате им был предложен новый метод экологических рядов и введено новое понятие «комплексы растительности», существование которых он связывал со спецификой рельефа. В центре внимания этих исследований было изучение растительных сообществ, в частности так называемых открытых сообществ с использованием пробных площадок, дифференциации флористического списка по жизненным формам, применения отметок обилия по Друде, указания фенологических стадий, характеристики общей физиономии растительности описываемых участков, анализа экологии фитоценозов и других методик. Экологически различные группы растений в составе одного и того же фитоценоза Келлер назвал позже (1923) общежитием (синоним современного понятия синузия).При изучении близких форм растений, приуроченных к их особым местам обитания, он предложил эколого-морфологический метод, надежность которого подтвердил в ходе изучения родов Artemisia, Staticeи Stipa.
Другой важной работой в области геоботаники стала упомянутая выше магистерская диссертация Келлера о растительности Кальджирской долины в Семипалатинской обл. с подробным описанием растительности гор и подгорной каменно-пустынной полосы, полупустыни и глинисто-песчаных почв, сухих солонцов и формаций зарослей чия (Lasiagrostis splendens), биюргуна (Brachylepis salsa) и Nanophyton erinaceum. Новый опыт изучения растительных формаций позволил Келлеру развить свой метод экологических рядов и дать ему более полную формулировку. В следующем труде «По долинам и горам Алтая» (1914) флористические списки (древесные и кустарниковые породы, злаки, осоки и прочие цветковые растения, папоротникообразные, мхи, лишайники и водоросли) были еще более дифференцированы. Из формаций и групп на изучаемой территории выделены горная тундра, лиственнично-кедровый таежный лес, лиственничный лес паркового типа, луга степные и горно-лесные, сосновые боры с травянистой растительностью и согры-еловые леса на торфянисто-болотной почве. Та же тема была продолжена в монографии Келлера «К вопросу классификации русских степей» (1916), где на основе экологического характера растительных сообществ рассмотрено, в частности, географическое распределение ковылей.
