Музей начал создаваться еще в 1939-1940 гг. по инициативе крупнейшего минералога и кристаллографа, репрессированного профессора Ленинградского горного института А.К. Болдырева, работавшего в те годы в геологоразведочном управлении Дальстроя. Активное участие в его организации приняли геологи В.Ф. Алявдин, А.П. Васьковский, Е.К. Устиев, В.Н. Владимиров, И.М. Сперанская, ВТ. Матвиенко, П.И. Скорняков, братья Снятковы.
Первыми экспонатами коллекции музея были отдельные красивые образцы минералов, руд и горных пород. Позднее стали поступать научно обработанные коллекции различных типов руд и вмещающих пород, характеризующих месторождения полезных ископаемых Дальнего Востока. На их основе был сформирован первый отдел - отдел полезных ископаемых. В 1957 г. образован палеонтолого-стратиграфический, а в 1973 г. - петрографический отдел музея.
Первоначально музей размещался в двух небольших комнатах Геологоразведочного управления треста «Дальстрой». При строительстве нового здания Центральной комплексной тематической экспедиции в 1983 г. музею было отведено более 200 кв. м площади, где он располагается и в настоящее время. В хранилищах геологического музея насчитывается более 10 тысяч экспонатов. Имеется богатейший фонд каменного материала, собранного почти за весь период деятельности геологической службы на Северо-Востоке. Образцы руд собраны со всех колымских и чукотских месторождений: Наталкинского, Карамкенского, Школьного, Ветренского, Майского, и др.
Богатая коллекция самоцветов привлекает природным разнообразием и красотой, содержит уникальные пейзажные агаты. Гордостью музея считается «Золотая комната», экспонаты которой собираются с самого начала освоения Колымы. Это образцы золота, представляющие научный или декоративный интерес: самородки необычной формы, большие кристаллические сростки золота, встречающиеся достаточно редко. Самые большие самородки теперь являются частью Алмазного фонда в Москве.
В «Золотой комнате» хранится и эталонная коллекция россыпного золота Центральной Колымы и всего Дальнего Востока. Есть в музее и исторические экспонаты - фотографии, документы, отражающие историю геологического освоения Колымы, личные вещи известных геологов, начальников Дальстроя. В музее находится личная библиотека Ю.А. Билибина.
Долгие годы руководил музеем заслуженный геолог России ветеран северо-восточной геологоразведки М.Е. Городинский. Геологический музей является достопримечательностью Магадана и неизменно входит в программу знакомства гостей Колымы с ее богатствами.
