4 Февраля юэ№ 001 был зачислен в инвентарный локомотивный парк. Эта дата считается началом тепловозной тяги. 30 декабря 1925 года в инвентарный парк был зачислен тепловоз щэл1.

Параллельно с Юэ001 на заводах Гогенцоллерн, Крупп и Магнетверке создавался первый в мире мощный тепловоз с механической передачей, вначале называвшийся Юм005 и позже переименованный в Эмх3. Этот тепловоз вначале проектировался как тепловоз с гидростатической передачей конструкции Ф. Х. Мейнеке, однако технический уровень того времени не позволил воплотить передачу, что называется, в металле. В итоге тепловоз получил трехступенчатую механическую коробку передач, изменявшую крутящий момент и ту же систему передачи на колесные пары с отбойным валом, что планировалась для работы с гидропередачей Мейнеке. Переключение передач в коробке осуществлялось электромагнитными муфтами под контролем специального прибора, показывавшего разницу оборотов ведущего и ведомого валов. Между дизелем и МКПП находились главная электромагнитная муфта, обеспечивавшая некоторое проскальзывание при включении и плавность соединения дизеля с передачей, и пара конических шестерен. Несмотря на принятые меры, переключение передач все-таки сопровождалось рывками, ломавшими зубья у конических шестерен и приводившими к разрыву поезда. Не спасло положение искусственное понижение мощности дизеля — такого же, как на Ээл, только с реверсом. Эмх3 стал единственным в мире мощным магистральным тепловозом с механической передачей, работавшим с поездами. Он же имел наивысший КПД — 30-31 %. На Эмх3 был достигнут физический предел возможностей механической трансмиссии, впоследствии даже автомобили с мощностью двигателя более 500—600 л. с. снабжались и снабжаются либо гидропередачей, либо электропередачей («Катерпиллер», «Юнит Риг», «БелАЗ»).

Любопытно отметить, что одним из первых машинистов, работавших на Эмх3, был В. А. Малышев, именем которого был назван впоследствии завод, развернувший в том числе и массовый выпуск отечественных тепловозов — ХЗТМ.

Помимо мощных магистральных тепловозов в СССР строились также и маневровые тепловозы. Первыми стали bмх1 и bмх2 типа 0-2о-0, заказанные в Германии у Круппа и прибывшие в 1931 году. Они имели дизель мощностью 300 л. с. и четырёхступенчатые коробки передач с пневмомуфтами. В 1933 году на Калужском заводе, где уже серийно строились мотовозы, строится маневровый тепловоз АА-1 типа 0-3о-0, также с 300-сильным дизелем и КПП с пневмомуфтами. В его проектировании принимал участие Я. М. Гаккель. С 1936 года Калужский завод строил мотовозы мощностью 140 л. с. МД2.

Помимо относительно маломощных тепловозов с механической передачей были построены мощые маневровые тепловозы с электропередачей — О^эл7, О^эл6 и О^эл10.

Первые тепловозы вначале базировались в Люблино (Московская область), а с 1931 года были переведены в Ашхабад.

В 1930 году тепловозы начал выпускать Коломенский завод; было построено три маневровых тепловоза (О^ЭЛ6, О^ЭЛ7 и О^ЭЛ10). В 1932 году на Коломенском заводе совместно с заводами «Динамо» и ХЭМЗ впервые в мире развертывается серийное производство магистральных тепловозов, продолжавшееся до Великой Отечественной войны. Эти тепловозы с экипажем 2-5о-1 развивали силу тяги около 21 000 кгс при скорости 11 км/ч; при 25 км/ч сила тяги составляла около 9000 кгс, а при наибольшей скорости 55 км/ч — около 1600 кгс.

В 1933 году Калужский завод построил маневровый тепловоз АА — 1 с механической передачей.

В 1934 году на Коломенском заводе был построен двухсекционный тепловоз ВМ20.

Тепловозы серий Э^эл № 12 — 27 были оборудованы тормозом Казанцева, а с № 28 — тормозом Матросова. Их передача регулировалась по схеме Варда Леонардо. С 1937 г. после выпуска тепловоза Э^эл37 все остальные тепловозы строились как передвижные электростанции, так как НКПС отказался от приема тепловозов в эксплуатацию.

Помимо собственно постройки тепловозов Коломнский завод стал советской «кузницей кадров» тепловозостроения. Именно здесь начинали творческий путь А. А. Кирнарский, Г. А. Жилин, М. М. Козловский, П. В. Якобзон, А. И. Козякин, А. М. Федоров, В. И. Беспяткин, А. С. Близнянский, Н. Г. Лугинин, Б. С. Поздняков и многие другие создатели советских локомотивов. Главным конструктором КПЗ много лет был блестящий инженер Лев Сергеевич Лебедянский, создавший множество локомотивов, многие из которых были новаторскими.

Окончательно постройка тепловозов Э^эл на Коломенском заводе была остановлена в связи с началом Великой Отечественной войны. До войны на Коломенском заводе построили 50 тепловозов, и когда в 1955 году ему поручили приступить к серийному выпуску ТЭЗ, это было воспринято как продолжение славного дела, 3 марта 1956 года, в праздничной обстановке, началась сборка первого дизеля 2Д100 для такого локомотива, а 29 июня с заводской территории, столь же торжественно, вывели головной тепловоз, секциям которого присвоили номера 0051 и 0052.(«Техника молодежи», 1994, № 8, с. 18, 19)

Эксплуатация тепловозов показала высокую эффективность их применения по сравнению с паровозами.