創設
明治草創期の大阪には、大村益次郎の軍隊創設構想に基づき、兵部省（ひょうぶしょう）の中枢機関が設置されました。１８７１（明治４）年には辛未（しんび＝明治４年のこと）徴兵が実施されるなど、陸軍に関連する人員が数多くいる（数千人）状況となっていました。このため兵部省では埋葬地をつくる計画をたてます。墓地を設置する場所として宰相山の吉右衛門肝煎地、紀州藩陣屋地が選ばれ、１８７１（明治４）年４月１０日に日本最初の陸軍埋葬地が設置されました。同年８月四鎮台体制の成立に伴い、大阪鎮台の埋葬地となりました。同時に祭魂社（招魂社）も建立されています。また、１８７３年の埋葬規則により、墓標の形状と大きさも定められました。この時期の埋葬者は旧藩兵、辛未徴兵、徴兵令（明治６年制定）による徴兵など靖国神社の祭神とならない平時の死者となります。

西南戦争
１８７７年の西南戦争では、大阪は政府軍の後方拠点として、全国から部隊、弾丸・糧食などの軍需品が集められ、九州各地の戦場へ送られました。また、大阪陸軍臨時病院が設けられ、後送された兵が治療を受けました。真田山陸軍墓地には、治療をしたものの亡くなった兵などが葬られることになりました。このため墓碑に各鎮台や近衛さらには屯田兵など全国各地の部隊名あるいは臨時に編成された新選旅団などの名が刻まれています。この時期の埋葬者で目立つのは、戦争終結後凱旋中にコレラに感染して亡くなった者たちでした。コレラに罹患した兵が帰還した際は当初大阪陸軍臨時病院に専用病室を設け対応していましたが、数が多く対応しきれないため、真田山陸軍墓地の隣地にあった心眼寺境内に臨時の避病院が建てられました。

西南戦後～日清開戦（１８７８年～１８９４年）
この時期は士族反乱や対外出兵もなく、平時の死者が真田山陸軍墓地に葬られることになりました。葬られた者の死因としては、病死（脚気・伝染病など）・溺死（訓練中）・自殺・獄死など。これらの死因からは徴兵される民衆にとって訓練を中心とした軍隊生活が初めてのストレスだらけの体験であったことが窺われます。また、数多くの死者をだした脚気は、陸軍において脚気原因＝細菌説が支持されたほか、糧食白米主義が採られたことが原因と考えられます。

日清戦争
日清戦争では大阪の部隊は、下関条約締結後に大連に上陸したために戦闘を行うことはありませんでした。しかし、講和後の占領地警備及び台湾平定戦へ派兵されています。これらの警備及び台湾平定戦で戦死者、戦病死者を出しました。この時期の墓碑として当然将兵のものがあるのですが、それ以外に軍役夫をはじめとした軍属の墓碑もあります。軍役夫とは戦場にて輸送を担うために臨時に雇われた民間人で、義勇兵志願者や請負業者による募集に応募したものが軍役夫となっています。この他に大阪で亡くなった清国人捕虜の墓碑も６基現存しています。

日露戦争
日露戦争では、第四師団は１９０４年３月召集、４月戦地到着、金州・南山の戦い、遼陽会戦、沙河会戦、奉天会戦に参戦。後備歩兵第七旅団（大阪：後備歩兵第八聯隊・後備歩兵第三七聯隊）は旅順戦に参戦しました。いずれも多くの戦死者を出しています。多くの戦死者が出たことにより、真田山陸軍墓地に一人ひとりを埋葬することが埋葬の面積と費用の問題から難しくなり、解決策として、戦後階級別の合葬墓が４基設けられました。

青島出兵
第一次世界大戦に伴う青島出兵では、現地で捕虜となったドイツ人捕虜が日本に送られてきました。大阪にも日清戦争、日露戦争に続いて捕虜収容所が設置されました。真田山陸軍墓地にはドイツ人捕虜のうち大阪衛戍（えいじゅ）病院で亡くなった2名の墓碑が設けられました。設置当時には墓碑に「俘虜」と刻まれていましたが、１９３１年に俘虜の文字を削ることを決定しました（先述の日清戦争清国人捕虜の墓碑にも同様の処置が施されています）。

真田山小学校
大正後期の真田山陸軍墓地の周辺は人口が増加しており、新たな小学校の建設が求められていました。１９２８年に真田山小学校が設けられる際に、真田山陸軍墓地の南部分２,８００坪が小学校校地として譲渡されました。この譲渡に伴い墓域が縮小したため、墓碑が大規模に移転されました。このときまで墓碑１基分の面積は現在の４倍ぐらいはあったことが分かっています。

満洲事変から太平洋戦争
１９３１年の満洲事変では、大阪に拠点を置いた第４師団は動員がありませんでしたが、朝鮮軍に所属して戦闘に参加して戦没した大阪出身の兵士のうち、遺族が軍に願い出て建てることが認められた個人墓碑１３基と満洲事変合葬墓碑などが建てられました。１９３７年以後の日中戦争から太平洋戦争（１９４１～４５年）にかけては、１９４３年に大阪府佛教会により仮忠霊堂（納骨堂）が献納され、日中戦争から太平洋戦争の戦死者の分骨などが納められました。２０１０年度から２０１２年度の調査では８２４９基の骨壺（骨箱）が確認されています。ただし、戦況が厳しくなるのと比例するように１９４３年度以降は遺骨の還幸も減り、多数の死没者が出ているにもかかわらず、納められるべき遺骨は集まらず、その少なさの中にかえって戦争の悲惨さが浮き彫りになっています。

戦後の真田山陸軍墓地
１９４５年の敗戦に伴う陸軍の解体を受けて真田山陸軍墓地は、大蔵省所管の国有財産となりました。その後１９４７年に財団法人大阪靖国霊場維持会（現公益財団法人真田山陸軍墓地維持会）が成立し、１９５２年から慰霊祭が毎年実施されています。
１９４８年には大阪府南河内郡野田村遺族会が墓地内に１６９基の墓碑を建立しています。
また、現在は地域住民などにより隣にある三光神社とともに桜が植えられたほか、地域活動の場や散歩コースとしても利用されるようになっており、慰霊の場所であるとともに、地域住民に親しまれる場所となっています。

真田陸軍墓地を文化財として保存を
真田山陸軍墓地は、日本最古の陸軍墓地であるとともに戦前の陸軍墓地の姿を現在に残す数少ない軍事遺跡です。この陸軍墓地からは近代日本の軍隊や戦争のあり方について一人ひとりの葬られた人から知ることができます。また、軍隊や戦争と民衆が大阪という大都市でどのように関係を持ったのかも知ることもできます。現在の世界においても戦争・紛争が絶えることなく、戦争放棄を誓った日本においても外からの脅威への対応として日本政府により軍事費を増やす方向性が示されています。このような時代だからこそ軍隊や戦争を知ることは非常に大事なこととなっています。しかしながらアジア太平洋戦争の敗戦から８０年を過ぎ体験者からその経験を聞くことも難しくなりつつあります。今後戦争や軍隊の記憶を次の世代へ継承していくには真田山陸軍墓地のような軍事遺跡を文化財として公的機関が保存することが必要です。
では、陸軍墓地のような墓地はこれまで文化財として保存されていないのでしょうか。実は西南戦争の官軍墓地のように国史跡に指定されているものや地方公共団体の指定文化財、史跡となっているものもあります。このことから、真田山陸軍墓地も国や地方公共団体にその意思があれば文化財に指定して保存していくことも可能と考えられます。