Александр Таубе родился в семье инженера-путейца. Образование получил в Михайловском артиллерийском училище (1881) и в Академии Генштаба (1891). С 1891 служил в штабах различных военных округов. В русско-японской войне 1904-1905 гг. командовал полком. Во время первой мировой войны 1914-1918 гг. исполнял обязанности начальника этапно-хозяйственного отделения армии, воевал в качестве начальника пехотной и стрелковой дивизий. В одном из боёв получил тяжёлую контузию. После излечения в госпитале, в мае 1916 года был назначен начальником штаба Омского военного округа. В дни Февральской революции 1917 года перешёл на сторону Советов. Поддержал предложение омских большевиков о передаче управления войсками военно-окружному комитету, а на местах – гарнизонным комитетам. После Октябрьской революции участвовал в создании Красной Армии в Сибири и в обучении её личного состава. Один из инициаторов организации первых курсов по подготовке инструкторов. 26 февраля 1918 года на втором съезде Советов Сибири был избран кандидатом в члены ЦИК Совета (Центросиб.). В апреле 1918 года был назначен начальником Главного штаба Сибвоенкомата (объединявшего Иркутский, Омский, Приамурский военные округа); с июня 1918 – начальник Главного штаба командования Красной Армии в Сибири. Под руководством Таубе был разработан план отпора войскам Японии, высадившимся 5 апреля 1918 года во Владивостоке, проводилась подготовка красных командиров, формировались регулярные красноармейские части и отправлялись подразделения на фронты. После падения советской власти в Сибири Александр Таубе в сентябре 1918 года был арестован белогвардейцами в Бодайбо и посажен в Иркутскую тюрьму. Отсюда его переправили на Урал и в Екатеринбурге военно-полевым судом приговорили к смертной казни. Умер в камере смертников. Именем Таубе названа одна из улиц Омска. На здании, в котором размещался штаб округа (ныне – Музей боевой славы омичей), установлена мемориальная доска.

В Омске есть улица, названная в честь «красного генерала» Александра Таубе.