디젤 기관은 실린더 안에 공기만을 흡입하여 압축한다. 압축된 공기는 고온 상태가 되는데, 여기에 연료 분사 펌프로 경유를 고압으로 분사하면 점화 플러그 없이도 자연 착화되어 연소 폭발되도록 구성되어 있다. 실린더, 피스톤 등 주요 부분은 가솔린 기관과 별로 차이가 없으나 착화 방식과 연료 공급 장치는 차이가 많다. 디젤 기관에도 4행정 사이클식과 2행정 사이클식이 있는데 주로 4행정 사이클 방식을 사용한다.

연료 분사 장치는 연료탱크, 연료 여과기, 연료 분사 펌프, 연료 분사 밸브 등으로 구성되며 연소실에서 분사되는 연료는 연소가 신속하게 이루어지도록 설계되어 있다. 특히 연료 분사 펌프는 기관이 고속으로 회전할 때에도 일정한 연료 공급량을 각각의 실린더에 정확하게 공급해야 하므로 디젤 기관에 있어서 매우 중요한 역할을 한다. 연료 분사 밸브는 연료 분사 펌프로부터 고압의 연료를 받아들여 노즐을 통하여 연료를 연소실 내에 분사하는 작용을 한다.

실린더 안에 많은 공기를 유입시키면 그만큼 많은 연료를 연소시킬 수 있어서 기관의 출력이 증가하게 된다.
디젤 기관에서 연소 효율을 높이기 위하여 실린더 내부에 공기를 압송하여 실린더 내부의 공기 밀도를 증가시키는 작용을 과급이라 하는데, 이 때 사용되는 압축기를 과급기라 한다.

가솔린 기관과 디젤 기관은 사용하는 연료가 다르고 착화 방식에 있어서 차이가 있다.

구 분	가솔린 기관	디젤 기관
점화방식	불꽃 점화 (점호 플러그 사용)	압축 착화
연료 공급 방식	공기와 연료의 혼합기 형태로 공급	실린더 내에 압송하여 분사
연료 공급 장치	기화기	연료 분사 펌프, 연료 분사 밸브
압축비	7 ~ 10	15 ~ 22
열효율(%)	23 ~ 28	30 ~ 34
토크 특성	회전 속도에 따라 변화	회전 속도에 대하여 안정
배기 가스	CO, 탄화수소, 질소 산화물 등	스모그, 입자성 물질, CO₂등
기관의 중량	가볍다.	무겁다.
제작비	싸다.	비싸다.