В сентябре 1942 года призван в Красную Армию. Окончил школу младших командиров в городе Кулебаки Горьковской области, получил специальность командира расчёта тяжёлого пулемёта, но воевать в этой должности не пришлось.

В стрелковом полку, куда младший сержант А. И. Перегудин прибыл с маршевой ротой, он стал миномётчиком. В январе 1943 года принял боевое крещение, был контужен, но остался в строю. Затем был автоматчиком, командиром отделения, помощником командира взвода. В составе этого полка форсировал Днепр, в боях под Киевом был ранен. После госпиталя из запасного полка попал в 42-ю гвардейскую стрелковую дивизию, в дивизионную разведку.

В ночь на 16 марта 1944 года у населённого пункта Гриненки гвардии сержант А. И. Перегудин в составе разведывательной группы проник в тыл врага, захватил в плен начальника оперативного отдела 82-й пехотной дивизии вермахта, который дал ценные сведения. В дальнейшем участвовал в нескольких поисках, разведрейдах в тылу противника, доставляя ценные для командования сведения. Был представлен к награждению орденом Славы 3-й степени. Приказом по 42-й гвардейской стрелковой дивизии от 18 мая 1944 года гвардии сержант Перегудин Александр Иванович награждён орденом Славы 3-й степени.

В бою под населённым пунктом Змеица разведчики действовали в боевых порядках пехоты. Группа, в составе которой был гвардии сержант А. И. Перегудин, обошла противника и внезапным ударом в рукопашной схватке уничтожила три пулемётные точки, мешавшие продвижению пехоты. За этот бой награждён орденом Красной Звезды.

В ночь на 14 августа 1944 года близ населённого пункта Броштень (Румыния) гвардии сержант А. И. Перегудин с разведчиками форсировал реку Сирет. Группа незаметно приблизились к боевому охранению противника и внезапно атаковала его. Вынес в безопасное место раненого командира взвода. Действуя в тылу врага в том же районе, уничтожил пулемёт и его расчёт. Приказом от 21 сентября 1944 года гвардии сержант Перегудин Александр Иванович награждён орденом Славы 2-й степени.

3 сентября 1944 года в 40 км восточнее города Топлица (Румыния) гвардии сержант А. И. Перегудин с бойцами углубился во вражеский тыл, разведал систему укреплённых районов противника. Разведчики внезапно атаковали отряд врага и пленили свыше отделения солдат, захватив большое количество вооружения и боеприпасов. Указом Президиума Верховного Совета СССР от 28 апреля 1945 года за исключительное мужество, отвагу и бесстрашие в боях с вражескими захватчиками гвардии сержант Перегудин Александр Иванович награждён орденом Славы 1-й степени. Стал полным кавалером ордена Славы.

Войну разведчик закончил в Чехословакии. Участник парада Победы на Красной площади в июне 1945 года. В составе сводного полка 2-го Украинского фронта гвардии сержант А. И. Перегудин нёс знамя своей 42-й гвардейской стрелковой дивизии.

После войны продолжал службу в армии на Дальнем Востоке. Был старшиной роты, помощником начальника финансовой службы отдельного батальона связи. Член КПСС с 1953 года. С 1981 года прапорщик А. И. Перегудин в запасе.