Астрономическая обсерватория была построена в 1831 году под руководством Дмитрия Матвеевича Перевощикова (1788-1880) - видного российского ученого-просветителя, ректора Московского университета, действительного члена Санкт-Петербургской академии наук. До создания этой обсерватории в университете существовала небольшая деревянная обсерватория, построенная в конце 1804 г. по распоряжению попечителя Московского учебного округа М.Н. Муравьева. К сожалению, эта обсерватория, располагавшаяся на крыше главного здания на Моховой, сгорела во время пожара 1812 года. Новую обсерваторию было решено построить на участке земли, который подарил университету купец-меценат Зой Павлович Зосима. Этот участок, располагавшийся на Трех горах у Пресненской заставы, был очень удобен для астрономических наблюдений, поэтому Перевощиков настоял на строительстве каменной обсерватории, пригодной не только для учебных, но и научно-исследовательских целей. Строительство обсерватории было начато весной 1830 года, а 15 (27) ноября 1831 года попечитель Московского учебного округа С.М. Голицын направил в Министерство народного просвещения отчет за 1831-й год, в котором сообщалось о том, что "здание обсерватории приведено к окончанию" и в ней начаты первые наблюдения. Отчет был утвержден Министерством 29 ноября (11 декабря) 1831 года. В соответствии с традицией считать датой основания астрономического учреждения зафиксированную дату начала наблюдений, этот день считается ныне днем основания ГАИШ. В 2002 году Приказом Директора ГАИШ был учрежден праздник День ГАИШ, который отмечается 11 декабря.

29 июня 1931 года Коллегия Наркомпроса РСФСР приняла решение, утвержденное СНК РСФСР 29 октября этого же года, о слиянии Астрономической обсерватории МГУ, Астрономо-геодезического института МГУ, учрежденного в 1922 году и располагавшегося в этой же обсерватории, и созданного в 1921 году Астрофизического института Наркомпроса. Институт, образованный путем слияния трех учреждений, получил название Объединенный государственный астрономический институт МГУ. Ему было присвоено имя одного из директоров университетской обсерватории, профессора-большевика Павла Карловича Штернберга (1865-1920), которое до этого носила обсерватория. С конца 1932 года институт стал называться ГАИШ МГУ. Головное здание института до переезда на Ленинские горы в 1954 году располагалось в здании Астрономической обсерватории на Пресне.

Астрономическая обсерватория Московского университета и созданный на ее основе ГАИШ сыграли фундаментальную роль в развитии отечественной и мировой астрономии. В настоящее время ГАИШ является крупнейшим центром астрономических исследований и подготовки научных кадров в России. Научные исследования, ведущиеся сотрудниками института, охватывают почти все направления современной астрономии. Среди воспитанников ГАИШ есть авторы фундаментальных открытий, лауреаты высших правительственных и научных премий и наград, академики и члены-корреспонденты, заслуженные деятели науки, почетные профессора, директора основных обсерваторий страны, руководители научных школ.