다음으로 산업별 노동생산성의 격차를 살펴보자. 재무성 자료(2012)를 중심으로 산업별 및 기업규모별 노동생산성을 살펴보면, 소매업, 숙박/음식서비스업, 생활관련 서비스업, 의료복지업이 낮은 수준으로, 일본 전체 노동생산성 저하의 원인이 서비스업에 있음을 알 수 있다(그림 4-3 참조). 또한 본 연구에서 초점을 둔 제조업을 보더라도 기업규모별로 노동생산성 격차가 심하게 나타나고 있음을 알 수 있다. 중소기업은 대기업에 비해서 절반 이하의 수준으로 나타났다. 이러한 산업별, 기업규모별 노동생산성 격차는 산업간 및 기업규모간 임금격차로 이어진다. 이에 관해서는 후술한다.
서비스업이 일본 전체 노동생산성을 저하시키고 있으며, 기업규모별로 노동생산성 양극화가 나타나고 있다. 이는 임금격차로 이어진다.