生于美浓国 岩村藩（现
岐阜县恵那市），据
明治时期的历史学家
宫武外骨说，大岛一家是出身于
日本的部落贱民（
秽多），不知怎么在乱世中改换了门庭。1881年毕业于日本士官学校旧四期，1890年赴
德国学习，
甲午战争时任第一军
副官，1897年任
山县有朋元帅副官，成为准长州派，
日俄战争时期任大本营兵站总监部参谋长，1907年任少将，1908年任总参谋部总务部长兼第四部部长，1912年任
参谋本部次长，次年晋升中将，1914年为
陆军省次官，1916年接替
冈市之助任第二届
大隈重信内阁陆军大臣，后留任
寺内正毅内阁陆军大臣，1918年策划出兵
西伯利亚。1919年年满60岁编入预备役。后任就是
田中义一。当时的人事局长额田坦中将说如果他年龄如果再小半岁，就可以当大将了。1920年任贵族院议员，1940-1946年任枢密院顾问官。死于
日本战败后的1947年。他本人汉学修养深厚，雅号苏谷，留下的许多汉文
诗词。长子
陆军中将，驻德大使
大岛浩。