日本第一条铁路——京滨铁路（新桥—横滨）于1872年建成，全长29公里。
日本铁路网由JRs线路和其他轨道交通方式线路（包括大型民铁、东京地铁、地方交通、公营）组成，其中JRs线路主要是横跨全国的干线铁路，后者则主要为城市或市郊轨道交通线路。截至2011年3月，日本铁路营业里程为27642.8公里，其中JRs线路20142.1公里，占总里程的72.9%。从路网质量来看，2010年日本铁路的电气化率为61.8%（JRs为55.9%），复线率为32.9%（JRs为38.2%）。
高速铁路方面，1964年10月1日，世界上第一条高速铁路——东海道新干线建成通车，在此后的40余年间，新干线线路不断发展，逐渐延伸至日本本州岛、九州岛的大部分地区。截至2013年3月，已有6条标准轨距的新干线全线或部分开通，线路总长达2388公里。所有新干线的最高运营速度均达250公里/小时以上，其中山阳新干线达300公里/小时，东北新干线达320公里/小时。当在建、计划建设及未来规划建设的高速铁路建成后，日本将形成较完整的新干线高速铁路网。
截至2011年7月1日，日本提供铁路（包括干线铁路、城轨地铁等）客货运输服务的企业有205家，其中客运公司193家、货运公司12家，客运公司中以原日本国铁民营化改革后成立的6家JR客运公司为主，货运主要是JR货运公司。
客运方面，2011年度日本铁路客运量为226.32亿人，其中JRs完成88.37亿人，其他铁路完成137.95亿人，分别占39.0%和61.0%；旅客周转量为3950.67亿人公里，其中JRs完成2469.37亿人公里，其他铁路完成1481.30亿人公里，分别占62.5%和37.5%。虽然JRs完成的客运量比重小于其他铁路，但由于运距较长，旅客周转量占总周转量的比重还是远远大于其他铁路。同年，新干线客运量达3.07亿人，旅客周转量为814.20亿人公里，分别占JRs铁路客运量和旅客周转量的3.5%和33.0%。
货运方面，2011年度日本铁路货运量为3988.6万吨，货物周转量为199.98亿吨公里，分别比上年度减少8.6%和2.4%。JR货运公司完成的货运量和货物周转量所占比重分别为70.5%和99.2%（2010年）。