В июле 1877 года в Смоленске по инициативе губернского земства было открыто реальное училище с двумя отделениями: основным и коммерческим. Подобные учебные заведения предназначались для молодежи, не имевшей возможности получить классическое образование. В реальных училищах почти все учебное время посвящалось изучению естественных наук: физики, математики, биологии и т. д.

Первоначально смоленское шестиклассное реальное училище располагалось на верхнем этаже дома Мертенса на Кирочной улице (ныне — улица Ленина). Но еще до его открытия губернское земство поставило вопрос о строительстве отдельного здания. Весной 1877 года земский деятель Пятницкий объехал несколько городов Орловской губернии, где реальные училища уже действовали в специально построенных для них зданиях.

За образец для строительства был взят корпус реального училища в г. Ливны. Построили здание по проекту архитекторов М. Ф. Мейшера и О. Ф. Хартена менее чем за два года: училище переехало в него в 1879 году. По сведениям дореволюционного краеведа И. И. Орловского, при строительстве использовался кирпич из разобранных участков смоленской крепостной стены.

В 1880 году, в честь 25-летия царствования императора Александра II, смоленскому реальному училищу было разрешено именоваться «Александровским». Мемориальные доски на стенах бывшего училища свидетельствуют, что здесь когда-то учились основоположник советской детской литературы И. С. Соколов-Микитов и один из первых генеральных секретарей ЦК ВЛКСМ Н. П. Чаплин. Кроме них смоленское реальное училище окончили такие известные люди, как первый на Смоленщине Герой Советского Союза Б. А. Туржанский, исследователь Центральной Азии академик П. К. Козлов, глава статистического отделения губернского земства и революционер-народник С. П. Середа и др. До революции в училище также преподавал известный русский авиатор Г. В. Алехнович.

В конце XIX столетия здание реального училища было частично перестроено под руководством инженера Е. Ф. Лыщинского. После 1917 года здесь расположилась губернская советско-партийная школа. Во время Великой Отечественной войны здание полностью выгорело внутри и было восстановлено в 1947 году по проекту архитектора Д. П. Коваленко. Затем, вплоть до середины 1980-х годов, в корпусе бывшего Александровского реального училища размещался смоленский строительный техникум. Затем в здании проходил затянувшийся ремонт, и в мае 2011 года свои двери для посетителей открыла разместившаяся здесь Художественная галерея.