Родился 4 июня (17 н.с.) в Екатеринославе в бедной еврейской семье. Окончил высшее начальное училище. Первая мировая война, Октябрьская революция, гражданская война не дали возможность продолжить образование. Светлов вступает в комсомол, идет на защиту своего города в составе 1-го Екатеринославского территориального пехотного полка и в течение нескольких месяцев участвует в боях. Затем переезжает в Харьков, где работает в отделе печати ЦК комсомола Украины. Здесь была издана первая книга его стихов "Рельсы" (1922). В 1922 вместе с поэтом М. Голодным приезжает в Москву, литературная жизнь которой захватывает молодых поэтов. В 1926 выходит книга стихотворений "Ночные встречи". В Москве он учится на рабфаке, затем на литературном факультете 1-го МГУ, в Высшем литературно-художественном институте им. В. Брюсова, где познакомился с Э. Багрицким, дружба с которым продолжалась долгие годы. Талант М. Светлова проявился в полную силу в стихах о гражданской войне. В 1926 была написана знаменитая "Гренада", которую Маяковский читал наизусть на своих концертах; в 1930-е был создан другой шедевр поэта - "Каховка". Оба стихотворения стали песнями и приобрели редкую популярность. Спустя годы "Песня о Каховке" прошла по дорогам Великой Отечественной. В середине 1930-х Светлов обращается к драматургии: "Глубокая провинция" (1935), "Сказка" (1939), "Двадцать лет спустя" (1940).Светлов помогал людям весело и празднично, как добрый волшебник, вспоминала Маргарита Алигер. Мог вдруг запросто, весело и естественно пригласить усталую от забот немолодую женщину, скромную сотрудницу издательства, кое-как сводящую концы с концами, пообедать с ней или сходить в кино. И ненароком затащить в обувной магазин и, словно играя, заставить купить новые туфли...
Михаил Аркадьевич Светлов был удивительным бессребреником. Все, что зарабатывал, тратил на друзей, на угощения, на подарки и очень мало на себя. Денег всегда почему-то не хватало. Однажды он пришел в издательство в день гонорара, но выяснилось, что его имени в ведомости нет. Другой бы расстроился, а Светлов лишь пошутил: "Давно не видел денег. Пришел посмотреть, как они выглядят".
В период борьбы с космополитизмом, когда зловеще звучало название организации "Джойнт" и многие подозревались в том, что они — "платные агенты", Светлов как-то засиделся в ресторане и, роясь в карманах, чтобы расплатиться, сказал на весь зал: "Не знаю, как и расплачусь... "Джойнт" мне давно не шлет". Это была смелая шутка!..
Лично на себя Светлов тратил мало, только что на выпивку. Зимой ходил в осеннем пальто, одежда всегда была в неряшливом виде, но поэта это не заботило, он жил исключительно поэзией. Однажды перед отъездом в Вильнюс, где готовились Дни русской поэзии, жена Светлова умоляла Льва Озерова: "Я не прошу вас следить за тем, чтобы Михаил Аркадьевич не курил. Не прошу вас следить за тем, чтобы не пил. Прошу вас следить только за тем, чтобы он не ложился спать в новом костюме". Ну, и, конечно, Светлов завалился спать именно в новом костюме, отчего утром пиджак стал мятым и жеванным. Живший с ним в одном номере Озеров сказал: "Надо погладить". Светлов ответил шуткой: "Пусть лучше меня погладят, это мне будет приятней".
Жестокая болезнь свалила Светлова. В один из дней в больнице поэт обратился к Лидии Либединской: "Старуха, привези мне пива!" — "Пива?!" — "Да, рак у меня, кажется, есть".
Михаил Светлов скончался 28 сентября 1964 года, в возрасте 61 года.