Родился в городе Тарусе ныне Калужской области.
Михаил вначале работал подмастерьем на мануфактурной фабрике Рябова в Москве. Затем поступил учеником к мастерам-гравёрам, и спустя некоторое время - на Пречистенские рабочие курсы. Шестилетнее обучение на курсах совпало с событиями 1905-1907 годов, в которых он участия не принимал.
В русской императорской армии с сентября 1915 года. Вначале попал в 55-й запасной полк. Затем был откомандирован в город Телави (Грузия) в школу прапорщиков, которую окончил весной 1916 года и был направлен в действующую армию.
Воевал в рядах тяжёлого артиллерийского дивизиона на Юго-Западном фронте. В его составе участвовал в Брусиловском прорыве в Галиции.
В октябре 1917 года в составе 1-го Замоскворецкого красногвардейского отряда участвовал в вооруженном восстании в Москве.
Во время Гражданской войны командовал полком, отрядом бронепоездов. Именно Ефремову принадлежит авторство первого в мировой практике "глубокого" прорыва по рельсам. Это был 300-километровый внезапный бросок бронепоездов к Баку. В ходе, которого была парализована готовность 30-тысячной армии мусаватистов к сопротивлению.
В 1927 году в должности военного советника находился в командировке в Китае. Через год после возвращения из Китая в июле 1928 года назначен командиром 18-й Ярославской стрелковой дивизии. В 1928 году окончил курсы высшего начальствующего состава РККА, в 1930 году - особый факультет единоначальников Военно-политической академии имени М. Г. Толмачёва, а в 1933 году - Военную академию имени М. В. Фрунзе.
С марта 1931 года - командир и военком 3-го стрелкового корпуса, с декабря 1933 года - 12-го стрелкового корпуса Приволжского военного округа. В 1935 году получил звание комдива.
В 1937 избран депутатом Верховного Совета СССР первого созыва. С 1937 года по 1940 года командовал последовательно: Приволжским, Забайкальским, Орловским, Северо-Кавказским и Закавказским военными округами.
В 1938 году был срочно вызван в Москву, где был поселен в гостинице "Москва" и взят под домашний арест сотрудниками НКВД по подозрению в связях с врагом народа Тухачевским. 17 апреля 1938 года от безысходности написал письмо с просьбой о помощи Ворошилову, через месяц - А. И. Микояну, бывшему соратнику по рейду на бронепоездах в Баку. Наконец, после допроса в присутствии Сталина был освобождён.
Постановлением Совета Народных Комиссаров Союза ССР от 4 июня 1940 года М. Г. Ефремову присвоено воинское звание генерал-лейтенант. В январе 1941 года назначен 1-м заместителем генерал - инспектора пехоты Красной Армии.
Во время Великой Отечественной войны командующий войсками 21-й армии (июль - август 1941года), Центрального фронта и заместитель командующего войсками Брянского фронта (август - октябрь 1941года).
С октября 1941 года командовал 33-й армией.
Принимал активное участие в Московской битве 1941год - 42 год и в Вяземской операции 1942 год. В начале Великой Отечественной войны под Нарофоминском, куда Михаил Григорьевич прибыл 23 октября 1941 года он из разрозненных частей, в большинстве состоявших из обученных на скорую руку ополченцев, сформировал боеспособную 33-ю армию. Она заняла оборону на берегу реки Нарры, превратив этот участок в хорошо укреплённые рубежи.
В декабре 1941 года здесь на берегах Нары держали оборону войска 33-й армии под командованием генерала М. Г. Ефремова и 43-й армии генерал-майора К. Голубева. Они прикрывали стратегически важные Киевское и Варшавское шоссе. Совместно с частями 5-й армии 33-я сорвала вражеское наступление. На полях сражений остались 120 сожжёных фашистских танков.
17 января 1942 года из штаба фронта поступил приказ: 33-й армии наступать на Вязьму и овладеть этим важным стратегическим узлом. Вязьма находилась в глубоком тылу противника - в 150-ти километрах за линией фронта.
В результате этой операции, оказавшись с частью сил 33-й армии в окружении, руководил её боевыми действиями в тылу врага и выходом из окружения. В бою был тяжело ранен и, не желая попасть в плен, застрелился.
М. Г. Ефремов похоронен в Вязьме, где ему в 1946 году поставлен памятник работы Е. В. Вучетича. Отлит из переплавленных патронных гильз.

Награды: