Служить Александр Шабалин начал на Балтийском море в команде торпедных катеров. В марте 1938 года Александра перевели на Северный флот. Он получил назначение боцманом торпедного катера ТКА-161; с сентября 1938 года исполнял должность командира торпедного катера ТКА-112. Участник советско-финской войны 1939—1940 годов.
В ноябре 1940 года Шабалин был направлен на ремонт своего катера на Кронштадтский морской завод, где его застала весть о начале Великой Отечественной войны. В августе 1941 года он вернулся на Северный флот и получил в командование торпедный катер ТКА-12. Несмотря на суровые климатические условия советского Заполярья, а также достаточно сильное противодействие со стороны немцев, торпедные катера Северного флота раз за разом совершали смелые рейды на немецкие корабли и коммуникации, нанося ощутимые потери врагу.
В первом же боевом походе Александр Шабалин показал себя творчески мыслящим командиром: ночью атаковал немецкий конвой со стороны берега. Экипажи катеров ТКА-11 и ТКА-12 выпустили по торпеде и наблюдали 2 взрыва, доложив о потоплении транспорта и сторожевого корабля. Это была первая победа катерников-североморцев. С октября 1941 года Александр Шабалин командовал торпедным катером ТКА-13 и звеном торпедных катеров Охраны водного района. Боевой счёт Александра Шабалина продолжал расти. Немцы даже прозвали его «Морским дьяволом». Он поставил настоящий рекорд по количеству потопленных немецких кораблей.
Капитан-лейтенант Шабалин к началу 1944 года выполнил 86 боевых походов. В торпедных атаках потопил подводную лодку, 4 транспорта и 2 сторожевых корабля противника. Производил высадки 4-х разведгрупп на занятое противником побережье, выполнял охрану кораблей при постановке морских минных заграждений, выполнял поиск и спасение экипажей упавших в море самолётов (спасено 6 лётчиков). Экипаж его катера умело уклонялся от атак немецкой авиации и сбил при этом 1 самолёт. Неоднократно в море под огнём с риском для жизни прикрывал повреждённые в бою катера, спасал их экипажи.
Указом Президиума Верховного Совета СССР «О присвоении звания Героя Советского Союза офицерскому и сержантскому составу Военно-Морского флота» от 22 февраля 1944 года за «образцовое выполнение боевых заданий командования на фронте борьбы с немецкими захватчиками и проявленные при этом отвагу и геройство» капитан-лейтенанту Шабалину Александру Осиповичу присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда».
Исключительные героизм и воинское мастерство капитан-лейтенант А. О. Шабалин проявил в ходе Петсамо-Киркенесской наступательной операции. Получив приказ возглавить передовую группу прорыва при десанте в порт Лиинахамари, в тот момент находившийся на территории Финляндии.
В годы Советско-финской войны и Великой Отечественной войны порт Лиинахамари был главной базой для вывоза никеля из стратегически важных для Германии месторождений в районе посёлка Петсамо, а также одной из важнейших немецких военно-морских баз на побережье Баренцева моря. Эта база играла огромную роль в борьбе с советским Северным флотом и арктическими конвоями союзников СССР. Поэтому необходимо было взять над ней контроль.
Шабалин тщательно организовал операцию и лично возглавил прорыв в ночь с 12 на 13 октября 1944 года. Преодолев на максимальной скорости зону огня немецкой береговой артиллерии, катера под его командованием на полном ходу ворвались в узкий и извилистый фьорд (залив), установили дымовую завесу и, прорвавшись без потерь в гавань, высадили десантников под шквальным огнём врага, оказывая артиллерийско-пулемётным огнём им поддержку в ходе боя за захват плацдарма. Выведя затем свою группу из гавани, Шабалин в море принял на борт ещё один эшелон десанта и вновь произвёл под огнём прорыв в гавань, высадив подкрепление в назначенном пункте. Так же отважно действовали и его подчинённые командиры катеров, в итоге противнику не удалось потопить ни один из советских катеров. Десантная операция была проведена на высоком уровне и увенчалась полным успехом.
За этот подвиг Указом Президиума Верховного Совета СССР от 5 ноября 1944 года Шабалин был награждён второй медалью «Золотая Звезда».
После войны Александр Шабалин продолжил службу в ВМФ СССР. Продолжал командовать отрядом торпедных катеров в Балтийском море до ноября 1947 года. Затем его направили на учёбу. В 1951 году окончил Каспийское высшее военно-морское училища имени С. М. Кирова в Баку, в 1955 году — Академические курсы при Военно-морской академии имени К. Е. Ворошилова. С июня 1951 года — был командиром 164-й бригады торпедных катеров 8-го ВМФ, с ноября 1955 года — командовал 131-й бригадой торпедных катеров 4-го ВМФ. С декабря 1957 года находился на преподавательской работе в Высшем военно-морском училище имени М. В. Фрунзе в Ленинграде, где прошел путь от заместителя начальника факультета до заместителя начальника Высшего военно-морского училища имени М. В. Фрунзе по научной и учебной работе. В августе 1975 года, будучи в звании контр-адмирала, уволен в запас. Жил в Ленинграде. До последнего дня жизни продолжал работать в Высшем военно-морском училище имени М. В. Фрунзе доцентом кафедры тактики, затем доцентом кафедры морской практики. Ушёл из жизни 16 января 1982 года. Похоронен в Ленинграде на Серафимовском кладбище.
Память об Александре Шабалине и его подвигах была увековечена.
9 июля 1951 г. в саду у Дома культуры г. Онеги был открыт бюст дважды Герою Советского Союза капитану первого ранга Александру Осиповичу Шабалину.
8 ноября 2014 года в Санкт-Петербурге открыта памятная доска на доме, в котором в последние годы жил контр-адмирал А. О. Шабалин
В 2016 году школе № 4 города Онеги присвоено имя А. О. Шабалина.
В 2018 году в Мурманске на улице Шабалина был открыт новый сквер. Главное место в нём занимает мемориальная площадка: бюст дважды Героя Советского Союза контр-адмирала Александра Шабалина, гранитные плиты с надписями и два якоря с цепями, как символ подвига североморцев-катерников.
В Санкт-Петербурге в Центральном военно-морском музее установлен бронзовый бюст Шабалина.
Именем Шабалина названы улицы в Архангельске, Мурманске, Севастополе, п. Лиинахамари Печенгского района Мурманской области, площадь в Онеге.
В городе Североморске 31 июля 1983 года торпедный катер «ТКА-12» установлен на площади Мужества в составе Мемориала морякам торпедных катеров.
В честь дважды Героя назван большой десантный корабль проекта 775 «Александр Шабалин», с 1985 года несёт службу в составе Балтийского флота.
Большой морозильный рыболовный траулер «Адмирал Шабалин» входит в состав Мурманского тралового флота.
Пассажирский теплоход «Александр Шабалин» ранее принадлежал Онежскому морскому порту, в настоящее время находится в оперативном управлении Соловецкого музея-заповедника.
Почётный гражданин посёлка Лиинахамари (1968);
Почётный гражданин города Архангельска (1978);
Почётный гражданин города Онеги (1980)