1884年在日本名古屋组建。日军常备师团建制编制有两个步兵旅团，共4个步兵联队及骑兵、炮兵、工兵、辎重联队等，全师团共2.2万余人，装备有
四一式山炮12门、三八式野炮36门，37毫米速射
反坦克炮12门、轻型装甲车12辆。因日本陆军实行地区后备役兵员征兵制，每个陆军师团平时戌守的地区，又是该师团官兵的家乡和补充兵源的地区。第三师团平时驻扎在日本名古屋、爱知、三重、静冈等地，该部官兵全部为上述地区人。因日本陆军称呼某师团名称常冠以地名或该师团主官名字，故第三师团又称“名古屋师团”。曾任该师团师团长的有藤田进中将、山胁正隆中将、丰岛房太郎中将、川岛义之中将、伊东正喜中将、山本三男中将、辰已荣一中将等。第三师团曾参加侵华战争诸战役。