Рудольф Дизель родился 18 марта 1858 года в семье Теодора Дизеля и Элис Штробель — эмигрантов из Германии, осевших во Франции и владевших небольшой переплетной мастерской в Париже. С самого раннего детства у Рудольфа проявился интерес к разным машинам и механизмам: излюбленным времяпровождением умного, послушного, аккуратного и трудолюбивого мальчика было посещение парижского Музея искусств и ремесел.
В 1870 году началась Франко-прусская война, и из-за роста антинемецких настроений Дизелям пришлось перебраться в Англию, где вскоре они оказались в нищете. На семейном совете было принято решение отправить Рудольфа в Германию, в семью брата, любезно согласившуюся принять племянника. Дядя Дизеля был профессором и преподавал математику в Королевском земском училище, куда в 1871 году пристроил и Рудольфа, заметив у того склонность к технике, а уже в 1873-м юноша его успешно закончил, опередив по успеваемости всех остальных учеников.