奥尔巴赫于1917年9月20日出生在美国纽约布鲁克林。高中毕业后，奥尔巴赫获得了一份运动奖学金，前往华盛顿的乔治华盛顿大学革命者队男子篮球队打球。大学期间的奥尔巴赫是一位杰出的篮球运动员，并于1941年获得硕士学位。在那些年里，奥尔巴赫开始认识到快攻的重要性，并意识到三名冲锋的进攻球员对抗两名后退防守球员的威力。

1946年到1949年，奥尔巴赫为华盛顿头领队工作。在他的带领下，头领队每年都进入季后赛，1948-49赛季甚至进入了决赛，后来败在明尼波利斯湖人队手下，随后，奥尔巴赫离开头领队，到杜克大学当助教。

1950年，奥尔巴赫接过了波士顿凯尔特人队的教鞭。在当年的选秀大会上，波士顿人倾向于选择本地人、6尺1寸高的库西，而奥尔巴赫觉得他不是自己想要的人，打球风格太随意了。最终，他选择了6尺11寸的夏尔。几年后，凯尔特人队又抓到了库西。奥尔巴赫决定为库西找个大中锋配对——比尔·拉塞尔。拉塞尔在1956年选秀大会上，是头号人选，可是凯尔特人排在第三位选人，排在他们前面的罗切斯特皇家以及圣路易斯老鹰都比他们更有优势选下圣弗朗西斯科大学的篮球明星拉塞尔。凯尔特人首先用麦考利和汉根作筹码，从老鹰换来了第二选秀权，然后老板布朗又用旗下的冰球卡佩德队与皇家队老板达成协议，这样拉塞尔从状元滑落到榜眼。

拉塞尔的加盟为凯尔特人队带来了立竿见影的效果，凯尔特人在1956-57赛季夺得了队史第一座总冠军奖杯，他们在总决赛击败的对手正是将拉塞尔拱手让给他们的老鹰。

如果拉塞尔没有在1957-58赛季的总决赛第四场受伤，绿军很有可能会完成卫冕，那么绿军有望打造更恐怖的十连冠。这个赛季的总决赛，绿军和老鹰前4场战成2比2，但拉塞尔因为脚踝受伤缺席剩余比赛，老鹰趁机连胜两场，毁掉了绿军的卫冕之梦。

随后，在奥尔巴赫的率领下，波士顿凯尔特人王朝之师逐渐形成，球队不仅有拉塞尔、库西和比尔-沙曼，还拥有海印索恩、萨姆-琼斯、K.C.琼斯和弗兰克-拉姆齐。在库西退役之后，绿军又补充进来了哈夫利切克。

从1958-59赛季到1965-66赛季，奥尔巴赫率领凯尔特人横扫联盟所有球队，完成八连冠。再算上1956-57赛季，凯尔特人在10年9次夺得NBA总冠军。

奥尔巴赫于1966年4月26日从主教练职位上退休，并改任总经理。在此之前，他将比尔·拉塞尔推上了主教练的岗位，这离后者退役还有3年时间。拉塞尔率队于1968年又赢得了1个总冠军。1970年拉塞尔夺得第11个总冠军后退役，此前，奥尔巴赫非常有预见性地于1969年选秀时选到了后卫怀特，再加上1970年选到的考恩斯及运动寿命超长的哈夫利切克，1974年和1976年凯尔特人队又拿到两个总冠军。

1970年代末是奥尔巴赫声誉最低的时期，人们普遍认为他老了，跟不上球员经纪人的节奏。事实却证明“红衣主教”依然宝刀不老，1978年他选定了“大鸟”伯德。伯德、麦克海尔以及“酋长”帕里什组成的凯尔特人“三叉戟”是联盟历史上最伟大的组合之一。但他们能走到一起却要归功于“红衣主教”奥尔巴赫。选定伯德后，奥尔巴赫用两个首轮选秀权从勇士队换来了帕里什，并用一个选秀权签到了麦克海尔。由于交易太成功，奥尔巴赫获得1980年度最佳经理的荣誉。而“三叉戟”也为了凯尔特人队在20世纪80年代带来了3座总冠军奖杯（1981年、1984年、1986年）。

奥尔巴赫总是叼着一根雪茄来庆祝比赛胜利，这已成为此后总冠军球队的一种约定俗成的习惯。

2006年10月28日，奥尔巴赫因心脏病逝世，享年89岁。

阿诺德-奥尔巴赫，可以说是美国体育史上最成功的领袖之一。几十年来，他作为凯尔特人的教练、总经理和总裁，他把自己的作风带进了球队，树立了胜负分明的文化。他的管理哲学以忠诚、骄傲、团队和纪律为基本价值，其实适合所有领域的管理层学习。他的哲学也让凯尔特人在球场上和商业上的表现都非常突出。（网易体育 评）

我并不认为自己会成为另一个奥尔巴赫，在我个人看来，奥尔巴赫就是篮球历史上最伟大的教练。很多年来，我听到很多教练和记者说你成为伟大教练的惟一原因就是比尔-拉塞尔，但那不是真的。纽约杨基队获得了25次冠军，可是他们用了多久。他们用了100年。奥尔巴赫在10年里获得了9个冠军。毫无疑问他是体育史上最成功的教练。（NBA巨星比尔·拉塞尔 评）