En 1937, el ejército japonés se trasladó a Shanghai y Nanjing, y fue atacada la capital de la República de China. Chiang Kai-shek, quien fue el presidente de la República había ordenado a sus tropas de élite evacuar. El gobierno también pasó por el río Yangtze. Los líderes del ejército pensaron que era mejor librar una guerra de desgaste con las mejores tropas tierra adentro que el ejército pudiera ser destruido en Nanjing. Sin embargo, decenas de miles de tropas permanecieron para defender la ciudad. Se les ordenó defender la ciudad hasta la muerte. Los civiles trataron de huir, pero muchos quedaron atrapados en la ciudad por puentes, carreteras y transporte fuera de Nanjing fueron destruidos, tanto para frenar el avance japonés como para mantener las tropas y los civiles en la ciudad.
Los relatos de la toma de la ciudad por parte de los extranjeros que viven en la ciudad y los propios chinos son de forma generalizada violaciones y asesinatos sin sentido de civiles. Las estimaciones sobre el número de chinos muertos en el período de seis semanas después de que el ejército japonés tomase la ciudad varían mucho. Las estimaciones del número de muertos varían. Era difícil saberlo porque muchos cuerpos fueron quemados en la quema de casas y edificios, y muchos fueron arrojados a los ríos. Hubo saqueos y los actos delictivos tanto en contra tanto de los soldados como de los civiles. Tal vez hubiera sido mejor que el gobierno hubiera ayudado a los civiles huir y hubiese dejado el ejército con una ruta de escape. O tal vez la lucha a muerte que ocurrió en Shanghai y Nanjing sirvió para impresionar a los japoneses, quienes también eran conocidos por luchar hasta la muerte en la Segunda Guerra Mundial.
El mausoleo indica que 300.000 personas fueron asesinadas en la masacre. Otras estimaciones varían desde menos de 200.000 a más de 300.000 personas muertas. Tienen parte de la razón las distintas estimaciones ya que algunas estimaciones son para toda la región de Municipal Nanjing y algunos cálculos son sólo para el centro urbano principal.
El monumento fue construido por el Gobierno Municipal de Nanjing en 1985, y fue ampliado en 1995.
