При образовании физико-механического факультета и в первые годы его жизни отделение механики возглавлял выдающийся ученый А.А.Фридман, затем – крупный ученый-механик Е.Л.Николаи. На факультете работал основоположник механики тел переменной массы, И.В.Мещерский, заведовавший кафедрой теоретической механики с 1902 по 1930 гг. (впоследствии этой кафедрой заведовали Е.Л.Николаи, А.И.Лурье, Г.И.Джанелидзе, В.К.Прокопов, П.А.Жилин). Факультет вобрал в себя и кафедру высшей математики. У ее истоков стоял профессор И.И.Иванов, в разные годы на кафедре работали академики АН СССР И.М.Виноградов, С.Н.Бернштейн, чл.-корр. Н.М.Гюнтер, Р.О.Кузьмин, профессора Н.Н.Гернет, М.М.Франк, Д.Л.Гавра, Г.И.Джанелидзе, Д.С.Горшков. Отделение механики окончили академики В.И.Кузнецов, В.В.Новожилов, М.И.Будыко и многие другие крупные ученые в области механики и смежных областях.
Ученики А.А.Фридмана – А.И.Лурье и Л.Г.Лойцянский создали широко известные, и поныне существующие научно-педагогические школы в области механики и гидроаэродинамики. А.И.Лурье – крупнейший ученый-механик, чл.-корр. АН СССР, автор фундаментальных трудов по теоретической и аналитической механике, теории колебаний, операционному исчислению и теории автоматического регулирования, теории оболочек, линейной и нелинейной теории упругости. Заведуя кафедрой механики и процессов управления более тридцати лет, А.И.Лурье сформировал научно-педагогическую школу, получившую всемирное признание как «школа Лурье». Передовые научные исследования по тематике кафедры связаны с именами профессоров И.А.Баргера, А.А.Первозванского, О.Ю.Кульчицкого, Н.О.Вильчевского, П.А.Жилина, В.А.Пальмова, Д.А.Индейцева, А.К.Беляева, Ю.Г.Исполова, С.Ф.Бурдакова. В последние два десятилетия, благодаря достижениям научного коллектива, возглавляемого профессором А.И.Боровковым, кафедра заняла также лидирующие позиции в стремительно развивающихся областях вычислительной механики.
Л.Г.Лойцянский – основатель кафедры гидроаэродинамики, автор многократно переизданного и сохраняющего свою актуальность учебника «Механика жидкости и газа», – получил признание как основоположник отечественной школы теории пограничного слоя. Научно-образовательная деятельность кафедры гидроаэродинамики охватывала и во многом продолжает охватывать такие разделы физической гидрогазодинамики как теория и модели турбулентности, пограничный слой в низкоскоростных и высокоскоростных потоках, динамика и теплообмен во внутренних течениях вязкой жидкости и газа, экспериментальная аэродинамика и газодинамика, вычислительная гидродинамика и теплообмен. Научное руководство исследованиями осуществляли профессора Л.Г.Лойцянский, М.А.Дементьев, И.Л.Повх, Л.Г.Степанянц, Н.И.Акатнов, Н.Д.Заблоцкий, Ю.В.Лапин, Ю.П.Лунькин, Е.М.Смирнов, М.Х.Стрелец, Ю.С.Чумаков. При образовании ИПММ к кафедре гидроаэродинамики присоединился коллектив кафедры теплофизики, включающий учеников и последователей школы профессора И.И.Палеева (профессора К.М.Арефьев, Е.Д.Федорович, В.А.Талалов, А.Ю.Снегирев), и научно-педагогическая деятельность кафедры стала охватывать еще более широкий круг вопросов тепломассообмена, а также теории и вычислительных моделей горения.
По поручению А.Ф.Иоффе основателем отечественной научной школы о прочности и пластичности твердых тел профессором Н.Н.Давиденковым была создана кафедра физического материаловедения (ныне входящая в состав кафедры механики и процессы управления). На кафедре учениками и последователями школы Н.Н.Давиденкова проводились исследования динамических свойств и прочности материалов, реальной структуры твердых тел, проблем хладоломкости, коррозионно-механической стойкости, жаропрочности, поведения материалов при фазовых превращениях (профессора Д.М.Васильев, Ю.Ф.Титовец, В.В.Рыбин, В.И.Бетехтин, Ф.Ф.Витман, В.И.Владимиров, С.А.Иванов, В.А.Степанов, С.О.Цобкалло, Ю.С.Терминасов, А.И.Мелькер, М.Ю.Гуткин).
В 1962 году на факультете была создана кафедра вычислительной математики, переименованная в 1989 году в кафедру прикладной математики. Организатор кафедры, и ее заведующий в течение двух десятилетий, профессор В.А.Троицкий известен как крупный специалист, создавший научную школу в области оптимального управления. Научно-образовательная деятельность кафедры охватывает такие разделы прикладной и фундаментальной математики и информатики как теория вероятностей и математическая статистика, методы решения краевых задач, оптимальное управление и оптимизация, математическая физика, механика сплошных сред и биомеханика, компьютерная алгебра, дискретная математика, системное программирование и компьютерная графика, биоинформатика. Актуальные исследования кафедры в этих областях связаны с именами профессоров А.А. Свешникова, А.Ю. Яковлева, Г.Л. Шевлякова, Л.В. Петухова, Б.С. Григорьева, Ю.Я. Болдырева, Е.Д. Викторова, Г.А. Серегина, С.И. Репина, В.А. Шолухи, А.М. Самсонова, В.Е. Клавдиева, И.В. Штурца, Ф.А. Новикова, М.Г. Самсоновой.
Кафедра теоретической механики, традиционно обеспечивающая преподавание базовой механической дисциплины, с 2009 года стала выпускающей. Задачи обеспечения магистерских образовательных программ, реализуемых под руководством профессора А.М.Кривцова, значительно расширили сферу научных интересов кафедры, охватывающую сегодня разработку механических моделей тел с микроструктурой, проблемы механики разрушений, биомеханические проблемы, математическое моделирование процессов нефтегазодобычи. В 2019 году кафедра была преобразована в Высшую школу теоретической механики и математической физики.
В 2013 году кафедрами механико-математического крыла физико-механического факультета образован Институт прикладной математики и механики. В 2021 году ему было возвращено его историческое название – Физико-механический институт – ФизМех.