Деревянная, однопрестольная церковь во имя святого благоверного великого князя Александра Невского была построена на станции Ртищево РУЖД в 1889 году на пожертвования железнодорожных служащих и частных лиц, в память чудесного избавления Августейшей семьи.
Торжественное освящение вновь построенной при железнодорожной школе домовой церкви на станции Ртищево состоялось 15 октября 1889 года. Освятил храм Преосвященнейший Павел, епископ Саратовский и Царицынский, который прибыл с духовенством в Ртищево экстренным поездом 14 октября. Церковь была небольшая деревянная, обложенная кирпичом и составляла одно здание со школой. Поднявшись на несколько ступеней, посетитель попадал в небольшую переднюю, в левой стороне которой стоял свечной ящик, по обеим сторонам были устроены вешалки. Из передней вели две двери, над той, которая вела в церковь, была помещена икона; другая дверь вела в помещение школы. Школа состояла из одной просторной комнаты одна из стен которой состояла из двухстворчатых дверей, ведущих в помещение церкви. Во время богослужения эти двери отворялись и комната школы составляла с церковью одно помещение.

Почти все вещи в церкви и иконы составляли частные пожертвования. Посередине церкви с потолка спускалась небольшая, изящной работы люстра, пожертвованная частным лицом. В иконостасе имелись четыре работы Императорской Академии художеств. В числе жертвователей были начальник Тамбово-Саратовской железной дороги А. Н. Измайлов, который первый сделал крупный вклад в 300 рублей, а затем пожертвовал несколько необходимых церковных принадлежностей; другим крупным жертвователем был начальник станции Ртищево А. П. Слепцов, которому принадлежала идея постройки церкви. Всего на возведение школы и церкви было собрано около 8 000 рублей. В 1911 году на средства Общества РУЖД, рядом с деревянной, построили каменную церковь, рассчитанную на 780 человек.

В декабре 1923 года с требованием закрыть церковь выступили ртищевские комсомольцы. В начале января 1924 года их требование было удовлетворено, церковь закрыли, а её здание Горсовет передал профсоюзным организациям железнодорожного транспорта под рабочий клуб имени В. И. Ленина и библиотеку. В клубе работало 10 кружков и самодеятельный театр. С постройкой в 1935 году в Ртищево Дворца культуры железнодорожников (ныне Городской культурный центр) клуб был закрыт, а здание незаконно заняли отдел тяги и отдел движения станции Ртищево, доведя здание практически до полного разрушения. В конце 1937 года, по решению Президиума Ртищевского райисполкома, бывшее здание церкви передали аэроклубу имени Героя Советского Союза М. В. Водопьянова и райсовету ОСОАВИАХИМа. Для своих занятий аэроклубовцы разместили в здании церкви учебный самолёт. В сентябре 1940 года здание было передано во временное пользование райкому и райисполкому под гараж, в марте 1941 года - под мастерские ртищевского райпромкомбината, затем под этапную комендатуру.

20 мая 1944 года распоряжением СНК СССР было утверждено разрешение Совета по делам Русской Православной Церкви при СНК СССР на открытие в городе Ртищево одной православной церкви. На основании этого документа 23 июня 1944 года Исполком ртищевского Горсовета принял решение о передаче бывшего церковного здания коллективу верующих. 30 июня был произведён осмотр и приёмка здания церкви, а также подписан типовой договор между коллективом верующих и Исполкомом ртищевского Горсовета о принятии его в бессрочное бесплатное пользование. 1 июля 1944 года в городе Ртищево вновь открылась православная церковь. Настоятелем церкви (иереем, или как записано в личном деле за 1946 год - «руководителем религиозной организации») с апреля 1944 года стал Иван Николаевич Варин, священником - Иван Петрович Кузнецов, протодьяконом (с апреля 1945 года) - Александр Васильевич Колчев. Несмотря на то, что по договору от 30 июня 1944 года верующим передавался весь комплекс построек на территории церкви, церковную сторожку до конца 1945 года занимал один из отделов Управления 2-го района строительства газопровода Саратов - Москва.

С 1955 по 1967 год настоятелем ртищевской церкви был протоиерей Савва Котляров, отец митрополита Санкт-Петербургского и Ладожского Владимира. Сам будущий глава Санкт-Петербургской митрополии, приезжая к отцу, служил в храме чтецом. В городе Ртищево похоронена мать митрополита.

В начале 1990-х годов были восстановлены главы храма (заменены в 2003 году), а в конце 1990-х - колокольня.

В наши дни здание церкви признано памятником архитектуры и искусства. С 2003 по 2005 год проводился капитальный ремонт храма. 21 февраля 2006 года из Александро-Невской лавры Санкт-Петербурга в Александро-Невскую церковь была доставлена икона с частицей мощей святого благоверного великого князя Александра Невского, покровителя храма.