С 17 июня 1925 г. по 15 октября 1928 г. Байков являлся ректором Ленинградского политехнического института. В 20–30-х гг. преподавал также в Военно-технической академии (1926–1930), в Артиллерийской академии (1930), в Электросварочном институте (1932–1934), в Ленинградском университете (1934–1941; был здесь заведующим кафедрой неорганической химии, а с 1933 – деканом химического факультета). В университете создал рентгенографическую лабораторию. В списке научных учреждений, с которыми он сотрудничал в 30-е гг., Институт сооружений и строительных материалов, Институт огнеупоров, Всесоюзный алюминиевый и магниевый институт.
Важнейшие достижения связаны с изучением превращений в металлах и разработкой актуальных вопросов теории металлургических процессов. С увлечением занимался металлографией. Изучал высокоуглеродистые фазы в сплавах системы железо–углерод, высказал ряд оригинальных идей в отношении графита и цементита. Им проведено более 40 фундаментальных исследований в области металлургии и металловедения. Эти работы имели многообразные практические приложения, в частности, в области разработки качественных сталей. В качестве работника высшей школы Байков сыграл важную роль в постановке в ней преподавания металловедения.
Для черной металлургии большое значение имеют работы А.А. Байкова, касающиеся физико-химических условий превращения оксидов железа, развитие им теории окислительных и восстановительных процессов; для цветной – разработка теории пиритной плавки.
Другая большая группа его работ посвящена вяжущим веществам. Байкову принадлежит разработка вопросов твердения (фактически – создания его теории) и коррозии вяжущих веществ. Он создал общую теорию твердения цементов, описывающую процессы в разных их видах. Он плодотворно изучал свойства пуццолановых портландцементов, являлся одним из первопроходцев в области поиска и изучения месторождений подобных материалов в России. Разрабатывал вопросы, связанные с производством огнеупорных материалов – изучал развивающиеся в его ходе физико-химические процессы, описанию которых посвятил изданную в 1931 г. монографию.
Последние 18 лет жизни Байкова тесно связаны с АН СССР. В 1928 г. его избрали членом-корреспондентом, а всего через 5 лет, в 1932 г., он стал действительным членом Академии наук СССР по Отделению физико-математических и естественных наук. В 1942 г. (по др. данным в 1941 г.) занял пост первого вице-президента АН СССР.
В начальные месяцы войны Байков оставался в Ленинграде, где возглавлял городскую комиссию помощи фронту. В декабре 1941 г. по настоянию руководства АН был эвакуирован и отправлен в Свердловск; здесь принимал участие в работе Комиссии по мобилизации ресурсов Сибири и Урала. В эвакуированном Ленинградском университете выполнял работы оборонного значения (зажигательные смеси, средства и способы тушения зажигательных бомб).
Байков возвратился из эвакуации летом 1943 г.; с этого времени жил в Москве. В 1943–1946 гг. являлся председателем Совета научно-технической экспертизы Госплана СССР. Входил в ряд других административных структур, связанных с функционированием науки и высшей школы: был членом президиума Комитета по делам высшей технической школы, членом Высшей аттестационной комиссии Комитета.