Родился 26 декабря 1912 (8 января 1913 по новому стилю) в Луцке в семье железнодорожного рабочего. Раннее детство прошло в деревне, где получил начальное образование, затем продолжил учение в московской семилетке. Рано начал писать стихи.
В 1931 окончил полиграфическую фабрично-заводскую школу, где публиковал свои стихи в цеховой стенгазете, писал обозрения для агитбригады. В это же время занимался в литературных кружках при Комсомольской правде и Огоньке, был замечен С ветловым и Багрицким.
В 1932 вышла первая книжка стихов Смелякова Работа и любовь, которую он сам же и набирал в типографии как профессиональный наборщик.
В 1934 по необоснованному обвинению Я. Смеляков был репрессирован, выйдя на свободу в 1937. Несколько лет работал в редакциях газет, был репортером, писал заметки и фельетоны.
В первые месяцы Отечественной войны рядовым солдатом воевал в Карелии, попав в окружение, до 1944 находился в финском плену.
В послевоенные годы вышла книга Кремлевские ели (1948), в которую вошли лучшие стихи Смелякова, написанные до и после войны.
В 1956 была опубликована повесть в стихах Строгая любовь, получившая широкое признание.
В 1959 появился поэтический сборник Разговор о главном; явлением в советской поэзии стала книга стихов День России (1967).
В 1968 была написана поэма о комсомоле Молодые люди.
В последние годы поэт все чаще обращался к дням, людям и событиям своей молодости. Много ездил по стране (цикл Дальняя поездка), бывал за рубежом, о чем поведал в книге Декабрь, в разделе Муза дальних странствий.
Переводил стихотворения с украинского, белорусского и других языков народов СССРАВНИТЕ ПО ТЕКСТУУмер Я. Смеляков в одна тысяча девятьсот семьдесят второй.
После смерти поэта вышли его книги Мое поколение (одна тысяча девятьсот семьдесят третий) и Служба времени (1975).
Использованы материалы из опубликованной книги: Русская литература. Мастера русского слова: великие поэты и писатели. Афоризмы, цитаты, мудрые высказывания, великие поэты и писатели. Издательство «Юниор» город Москва.