25 октября 1864 года в Москве, в семье купца Тихона Гречанинова родился мальчик. Детские годы ребенка прошли в типичной для того времени купеческой среде, и если говорить о музыкальных впечатлениях этого времени, то они не богаты, и связаны в основном с церковным пением и народными городскими романсами. Мальчик любил петь дома церковные песни и был солистом гимназического церковного хора. Позднее он стал петь в церкви на клиросе. Впервые Саше пришлось увидеть фортепиано лишь в 14 лет.
В 1881 году, самостоятельно подготовившись, Гречанинов поступил в Московскую консерваторию. Он учился у Н.Д. Кашкина, В.И. Сафонова, Г.А. Лароша, Н.А. Губерта, А.С. Аренского и С.И. Танеева. В 1890 году он переезжает в Петербург и еще три года занимается в Петербургской консерватории в классе сочинения Римского-Корсакова. В годы затянувшейся учебы он вынужден был, преодолевая волю отца, который был против его занятия музыкой, самостоятельно обеспечивать себя, занимаясь уроками.
После окончания учебы Гречанинов сотрудничал с петербургским хором И.А. Мельникова и Ф.Ф. Беккера и создал несколько произведений для этого коллектива. Кроме того, он написал квартет № 1, получивший первую премию на конкурсе, объявленном М.П. Беляевым, несколько светских хоров и романсов. В 1896 году Гречанинов вновь приехал в Москву. Здесь он близко сошелся с С.В. Смоленским, профессором истории церковного пения Московской консерватории и одновременно директором Синодального училища церковного пения в Москве. Теперь Гречанинов стал много работать в области церковной музыки. Кроме этого писал музыку для спектаклей Московского художественного театра и сделал множество обработок песен разных народов России.
К этому времени относится и его работа в музыкальной школе сестер Гнесиных. Он преподавал здесь теорию музыки и в этот период сочинил немало замечательной фортепианной и хоровой музыки для детей. 14 октября 1903 года в Большом театре Москвы была поставлена опера Гречанинова «Добрыня Никитич». Премьера прошла довольно успешно и получила хороший отзыв Римского-Корсакова.
В 1911 году Гречанинов заканчивает свою новую оперу «Сестра Беатриса», созданную под впечатлением исполнения В.Ф. Комиссаржевской главной роли в одноименной пьесе М.Метерлинка. Несмотря на предварительную договоренность, опера, отправленная в Мариинский театр, поставлена не была из-за цензурных соображений. Тогда композитор предложил ее московской Опере Зимина. В октябре 1912 года состоялась премьера. Однако по настоянию Синода опера была снята после второго представления.
Два года подряд в 1914 и в 1915 Гречанинову были присуждены премии имени Глинки за Третий и Четвертый квартеты. Восторженно встретил Гречанинов Февральскую революцию в России. Так восторженно, что даже сочинил «Гимн Свободной России» в ее честь. Но произошедший затем октябрьский переворот быстро привел его в чувство. Наступившие, как говорил об этом времени И.А. Бунин, «окаянные дни», быстро раскрыли глаза композитору. Успенский собор с развороченным куполом, голод, холод и полное отсутствие духовной жизни в стране. Все это мало способствовало творчеству. Но все-таки Гречанинов продолжал работать, сочиняя музыку и концертируя, как дирижер и пианист. Много работал с детскими хорами и проводил лекции-концерты.