Родился Иван Тимофеевич в Ростове-на-Дону. По окончании церковно-приходской школы начал свою трудовую деятельность слесарем, позже стал машинистом Главных железнодорожных мастерских во Владикавказе. В 1905 году стал членом РСДРП(б), за что его несколько раз арестовывали. В годы Гражданской войны Клименко был политкомиссаром Управления военных сообщений и воевал в составе 10-й армии РККА. Сражался против белоказачьих войск в районе Камышина и Царицына; получил ранение.
Особый отдел 10-й армии (РККА)
После Гражданской войны он вышел на пенсию по состоянию здоровья и поселился в Шахтах. Клименко активно участвовал в восстановлении города: руководил запуском трамвая и строительством войлочной фабрики. Оба его сына ушли воевать на фронт, как только началась Великая Отечественная война, и оба погибли. У Ивана Тимофеевича остались жена и дочь, которые вместе с ним летом 1942 года были отправлены в эвакуацию. Переправляясь через Дон, группа, с которой уезжал Иван Тимофеевич, подверглась обстрелу, сам он был контужен и вынужден вернуться в город, куда уже вошли вражеские войска.
Трамвай и дрезина. 1931–1932 гг.
Несмотря на риск, Клименко не мог оставаться в стороне и вскоре организовал подпольную группу. Её члены занимались диверсиями на вражеском транспорте, поджигали склады и цистерны с топливом, взрывали воинские эшелоны. Их действия наносили большой урон оккупантам и поддерживали моральный дух оставшихся в городе жителей.
Фашисты выявляли подпольщиков, используя любые методы. В начале октября 1942 года Иван Тимофеевич был схвачен гестапо. Его пытали, а через неделю тюремного заключения отправили на казнь. 11 октября группу из нескольких арестованных, включая 63-летнего подпольщика, привезли на одну из взорванных шахт, куда сбрасывали тела после казни. Но едва палач приблизился к нему, он выкрикнул: «Всё равно победа будет за Красной Армией!» − и прыгнул вниз, захватив палача с собой.
Подвиг Клименко. Художник Б. У. Акользин
Указом Президиума Верховного Совета СССР И. Т. Клименко был посмертно награждён орденом Отечественной войны II степени. Один из проспектов Шахт назван его именем в конце 1950-х годов.