Родился 14 (27) сентября 1900 года в деревне Отрубниво Тверской губернии (ныне Кашинского района Тверской области) в семье рабочего. Русский. Член ВКП(б) с 1926 года.

В Красной Армии с мая 1918 года. Участвовать в Гражданской войне красноармеец Чистяков начал в составе Тульского рабочего отряда, участвовал в подавлении крестьянского восстания в Тульской губернии в июле 1918 года. Затем воевал против войск генерала П. Краснова на Дону, там был тяжело ранен. В 1920 году окончил пулемётную школу в Ростове-на-Дону и назначен старшим пулемётной команды стрелкового батальона на Северо-Кавказском фронте, воевал против массового политического бандитизма на Кубани, на Тереке и в Дагестане.

После окончания Гражданской войны в 1921 году служил в 124-м стрелковом полку 14-й стрелковой дивизии (помощник командира взвода, старшина взвода, командир взвода), с июня 1921 года - в 1-м стрелковом полку 13-й Дагестанской стрелковой дивизии (командир взвода), с июля 1922 по 1936 годы - в 37-м стрелковом полку 1-й стрелковой дивизии Северо-Кавказского военного округа. Командовал стрелковым взводом, пулеметной командой, пулеметной ротой, батальоном, был помощником командира полка. Много учился: в 1925 году окончил командирское отделение пехотной школы, в 1927 и в 1929 годах в Москве окончил разные факультеты Стрелково-тактических курсов усовершенствования комсостава РККА «Выстрел» имени Коминтерна. С 1932 года Чистяков служил помощником командира 37 стрелкового полка.

В июле 1936 году переведён на Дальний Восток и назначен начальником первой (оперативной) части штаба 92-й стрелковой дивизии. В конце 1936 года Чистяков был назначен командиром 275-го стрелкового полка, а в ноябре 1937 года — командиром 105-й стрелковой дивизии в 1-й Отдельной Краснознамённой армии. Полковник (1938). С июля 1939 года - помощник командира 39-го стрелкового корпуса в той же армии Дальневосточного фронта.

В феврале 1940 года произошло новое назначение – начальником Владивостокского пехотного училища.

С марта 1941 года - командир 39-го стрелкового корпуса в Отдельной Краснознамённой армии Дальневосточного фронта (Приморский край).

Начало фронтовой судьбы полковника И.М.Чистякова сложилось необычно. С августа по ноябрь 1941 года он учился на ускоренных курсах при Академии Генерального штаба. Затем опытному общевойсковику, более двух десятков лет прослужившему в пехоте, в первые числа декабря 1941 года поручили командование отдельной бригадой тихоокеанских моряков, прибывшей защищать столицу. 64-я отдельная морская стрелковая бригада входила в состав 20-й армии генерала Власова (будущего изменника Родины) и сосредоточилась к северу от столицы.

Белый Раст, Никольское, Солнечногорск, Волоколамск – таков был непродолжительный, но стремительный путь, пройденный 64-й морбригадой в пору контрнаступления войск Западного фронта. Чистяков как правило возглавлял её передовые лыжные отряды, участвовал в атаках, когда моряки танковым десантом врывались в расположение врага. За участие в битве под Москвой бригаду и её командира в январе 1942 года наградили орденами Красного Знамени. Генерал-майор (17.01.1942).

Историческое сражение в полях Подмосковья И.М.Чистяков завершил, командуя 8-й гвардейской Панфиловской стрелковой дивизией (январь-апрель 1942 г.) на Западном и Северо-Западном фронтах. С апреля 1942 года командовал 2-м гвардейским стрелковым корпусом, сражавшимся в районе города Холм в составе 3-й ударной армии Калининского фронта.

В сентябре 1942 года Ставка ВГК направила генерал-майора Чистякова на берега Дона, где он возглавил войска 1-й гвардейской армии. В октябре того же года его перевели на должность командующего войсками 21-й армии Донского фронта. Эта армия должна была играть важную роль в намеченной операции «Уран».

Утром 19 ноября 1942 года после продолжительной артиллерийской подготовки войска Юго-Западного и Донского фронтов перешли в наступление. На участке 21-й армии в районе станицы Клетской ранее намеченного срока Чистяков смог ввести в прорыв подвижную группу армии: танковый и кавалерийский корпуса. Они устремились в район города Калача-на-Дону, куда прорвались подвижные соединения Сталинградского фронта. Кольцо вокруг Сталинградской группировки врага замкнулось!

А тем временем другие подразделения 21-й армии охватили свой «котёл», в котором оказались 2 фашистских армейских корпуса – десятки тысяч солдат. Уничтожив и пленив его, 21-я армия генерала Чистякова заняла свои позиции на внутреннем кольце окружения Сталинградской группировки и упорно стала продвигаться к Сталинграду.

Кульминационным моментом для генерала Чистякова стал январский день 1943 года, когда его части вышли к посёлку Красный Октябрь, а затем и к Мамаеву кургану. Там произошла волнующая встреча с воинами 62-й армии, которые почти 200 дней и ночей героически сражались в самом Сталинграде.

21-я армия, отличившаяся в разгроме врага под Сталинградом, в апреле 1943 года была преобразована в 6-ю гвардейскую армию. Чистяков бессменно провёл её через многие важнейшие боевые операции. Первая из них – Харьковская оборонительная операция в марте 1943 года. Генерал-лейтенант (18.01.1943).

В полной мере мужество и талант молодого командарма раскрылись в пятидесятидневной битве на Курской дуге. Находясь на южном фасе Курского выступа, 6-я гвардейская армия в начале июля 1943 года приняла на себя главный удар крупных сил противника. Отборные танковые дивизии «Райх», Адольф Гитлер», «Мёртвая голова», «Викинг», поддержанные 4-м воздушным флотом врага обрушились на позиции 6-й гвардейской армии. Воины армии Чистякова стояли насмерть. Но фашистским полчищам в первые несколько дней удалось вклиниться в расположение армии на 20 – 25 километров. Не смотря на это, города Обояни – первого главного пункта на пути к Курску - они достичь так и не смогли. Во втором эшелоне стояли закопанные по башню танки 1-й танковой армии генерала М.Е.Катукова. Чистяков с Катуковым организовали прочную оборону, и враг дальше не прошёл. Тогда враг несколько изменил направление удара, и в полосе 6-й гвардейской армии под Прохоровкой произошло историческое встречное танковое сражение, в котором 5-я гвардейская танковая армия генерала П.А.Ротмистрова во взаимодействии с 6-й гвардейской армией Чистякова окончательно сломили бронированный хребет гитлеровских полчищ.

После этого пришло время операции «Румянцев». 6-я гвардейская армия вновь находилась на направлении главного удара войск Воронежского фронта. За 5 дней её части продвинулись на 100 километров, освободили город Богодухов. Чистяков сразу перенёс туда свой КП и двинул армию в обход Харькова. 23 августа 1943 года Харьков был освобождён.

С октября 1943 года 6-я гвардейская армия вошла в состав 2-го Прибалтийского фронта и участвовала в боях под Новосокольниками и Городком.

Особую роль 6-я гвардейская армия И.М.Чистякова сыграла в операции «Багратион» летом 1944 года. Она входила тогда в ударную группировку 1-го Прибалтийского фронта генерала И.Х.Баграмяна, наступавшую на витебско-лепельском направлении.

22 июня 1944 года 22-й стрелковый корпус 6-й гвардейской армии вклинился в фашистскую оборону на 9 километров. Это был первый результат начавшейся операции. Ночью в образовавшуюся брешь Чистяков ввёл и второй эшелон армии. Части 6-й гвардейской армии на лодках, плотах, бочках с ходу форсировали Западную Двину, овладели плацдармами на том берегу, повели дальнейшее наступление на Ушачи, Полоцк и далее в район Даугавпилса. 4 июля 1944 года после короткого штурма с ходу был освобождён Полоцк.

Указом Президиума Верховного Совета СССР от 22 июля 1944 года за образцовое выполнение боевых заданий командования на фронте борьбы с немецкими захватчиками и проявленные при этом отвагу и геройство генерал-полковнику Чистякову Ивану Михайловичу присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда» (№ 4159).

Далее генерал-полковник (воинское звание присвоено 28 июня 1944 года) Чистяков продолжал руководить 6-й гвардейской армией, которая во взаимодействии с другими армиями изгоняла фашистских оккупантов из многих городов и сёл Латвии и Литвы. Части армии умело действовали в Шауляйской и Прибалтийской нааступательных операциях, отличились в боях под Шяуляем, Тельшяем, Мемелем. С ноября 1944 года принимали участие в блокаде войск гитлеровской группы армий «Север» в Курляндии…

Весной 1945 года генерал И.М.Чистяков был назначен командиром 25-й армии 1-го Дальневосточного фронта. Согласно обязательствам, взятым на Ялтинской конференции, в ночь на 9 августа 1945 года советские войска, в том числе и 25-я армия Чистякова, перешли в наступление.

Скрытно обходя и надёжно блокируя опорные пункты Дуннинского и Дунсинчженского укреплённых районов, войска армии Чистякова уже в первый день углубилась во вражеское расположение на 12 километров. Южная группировка армии, также преодолев систему японских долговременных сооружений, форсировала две реки, заняла в Северной Корее город Кейко (Кёнхын).

Бойцы, преодолевая яростное сопротивление японцев, проявляли массовый героизм. Вскоре был взят Ванцин. Одновременно войска 25-й армии совместно с морскими десантами овладели портами Юкки и Расин, крупной военно-морской базой Сейсин.

Через 10 дней Квантунская армия под ударами наших 3-х фронтов капитулировала. Части армии Чистякова, продвигаясь вперёд, вышли к 38-й параллели…

После войны И.М.Чистяков несколько лет командовал армиями на дальнем Востоке (с 1945), в Белорусском военном округе (с 1947), в Группе советских войск в Германии (с 1949). В 1949 году он окончил Высшие академические курсы при Высшей военной академии имени Ворошилова (Военная академия Генерального штаба). С 1954 года - первый заместитель командующего войсками Закавказского военного округа. В 1957 году И.М.Чистяков был назначен генералом-инспектором инспекции Сухопутных войск Главной инспекции МО СССР.

С 1968 И.М.Чистяков - в отставке. Депутат Верховного Совета СССР 2-го (1946-1950) и 4-го (1954-1958) созывов. Автор сочинений: «По приказу Родины», Москва, 1971 год и «Служим Отчизне», Москва, 1985 год.

Иван Михайлович Чистяков скончался 7 марта 1979 года. Похоронен в Москве на Новодевичьем кладбище (участок 7).

Награждён 2 орденами Ленина, 5 орденами Красного Знамени, 2 орденами Суворова 1-й степени, 2 орденами Кутузова 1-й степени, орденом Суворова 2-й степени и медалями, а также иностранными орденами и медалями.[b]