Родился 5 мая 1910 года в селе Мегеб (ныне — Гунибский район Дагестана) в крестьянской семье. Аварец.
После окончания 7 классов неполной средней школы в 1932 году обучился на двухгодичных кооперативных курсах. В 1932 году Гамзатов был призван на службу в Рабоче-крестьянскую Красную Армию. В 1935 году он окончил Орджоникидзевское пехотное училище, а в 1936 году — Закавказскую объединённую военную школу. С октября 1941 года — на фронтах Великой Отечественной войны.
Участвовал в боях на Северо-Кавказском фронте, два раза был тяжело ранен и контужен. К ноябрю 1943 года гвардии майор Магомед Гамзатов командовал батальоном 6-го гвардейского стрелкового полка 2-й гвардейской стрелковой дивизии 56-й армии Северо-Кавказского фронта. Отличился во время освобождения Крыма.