15 июня 1890 года основатель и попечитель Института принц Александр Петрович Ольденбургский пожертвовал из личной библиотеки около 500 томов по вопросам биологии и медицины, журналы и некоторые книги естественно-исторического характера, которые и легли в основу будущей библиотеки.

Весной 1891 г. директор ИЭМ Э-Л. Ф. Шперк предложил молодому врачу Василию Гавриловичу Ушакову (1865—1953), выпускнику Императорской Военно-медицинской академии (1889), заняться организацией библиотеки и принять на себя дальнейшее заведование ею.

В. Г. Ушаков, не связанный военной службой, стал с 1890 г. служить помощником заведующего Пастеровской станцией, а после реорганизации станции в Первое практическое отделение ИЭМ он в течение 62 лет работал в институте. В 1896 г. в Императорской Военно-медицинской академии В. Г. Ушаков под руководством И. П. Павлова защитил докторскую диссертацию на тему «К вопросу о влиянии блуждающего нерва на отделение желудочного сока у собаки». Позже работал в области эпидемиологии и был крупным специалистом по борьбе с бешенством. Ввиду небольшой численности первоначального состава ИЭМ (около 30 человек), заведование библиотекой в порядке совместительства поручили В. Г. Ушакову.

Благодаря инициативе В. Г. Ушакова организация библиотеки и комплектование ее фонда отличались продуманностью и широтой. Были приобретены комплекты основных журналов по биологии и экспериментальной медицине от начала их издания, налажена связь с отечественными и зарубежными издательствами и книготорговыми фирмами. Первая запись в инвентарной книге библиотеки была сделана 1 июля 1891 г.

В первые годы фонды библиотеки росли особенно быстро, благодаря поступлению всех значительных медицинских изданий, в том числе периодических, как русских, так и зарубежных; новых и закупавшихся у «антиквариев».

К январю 1913 года возникло ценнейшее собрание, насчитывавшее около 25 тысяч томов, которое размещалось по соседству с лабораториями в семи проходных комнатах и коридоре деревянного, отапливаемого печами здания.

Ежегодно В. Г. Ушаков подавал письменные рапорты руководству Института, обращая внимание на чрезвычайно стесненное положение библиотеки и необходимость обезопасить ее от пожара.

Это стало возможным лишь после того, как в 1910 г. директор института В. В. Подвысоцкий получил «на нужды ИЭМ» пожертвование действительного члена института С. Н. Виноградского в размере 40 тыс. рублей, которые решили потратить на возведение современного специализированного книгохранилища. Мало известен факт, что С. Н. Виноградский, занимающий пост директора в 1901—1905 гг., отказался от получения положенного ему денежного содержания с тем, чтобы накопленная сумма «была употреблена на строительство новых помещений института».

Летом 1911 г. был выполнен проект библиотеки, начата и в 1913 г. закончена постройка 4-этажного здания. Автором проекта стал Григорий Ипполитович Люцедарский (1870—?).

Люцедарский осуществлял архитектурный надзор за строительством библиотеки ИЭМ, планировка и оборудование которой были предварительно тщательно продуманы, с расчетом на постоянный рост книжного фонда в течение 25 лет. Здание построили из кирпича, перекрытия между этажами выполнили из железобетона, его конструкция была предусмотрительно рассчитана на большое количество книг. Через этажи хранилищ проходила шахта небольшого лифта для подъема книг.

Майоликовый портал и дубовые двери с латунными накладками, подаренные правительством, были привезены из Дрездена, где они украшали русский павильон на Международной гигиенической выставке (1911). Автором портала был архитектор В. А. Покровский, а изготовили его мастера петербургской фирмы Петра Кузьмича Ваулина.

Библиотека имела два каталога — алфавитный и систематический в комнате для выдачи книг. В читальном зале библиотеки регулярно выставлялись последние номера поступающих в библиотеку периодических изданий, которых в 1914 г. было более 200.

Во время наводнения 23 сентября 1924 г. часть книг пострадала, поэтому на старых изданиях можно увидеть штамп: «Повреждена при наводнении 1924 г.» В 1920-е гг. библиотека была методическим центром для медицинских библиотек Ленинграда.

В дни Ленинградской блокады во время войны 1941 — 1945 гг. окна первого этажа библиотеки были превращены в амбразуры. Во время обстрелов и бомбежек библиотека не пострадала. Библиотека не прекращала работы, в нее обращались научные сотрудники и врачи города.
В библиотеке хранятся редчайшие издания европейской медицинской литературы XVI-XVIII вв., собрания диссертаций отечественных и зарубежных университетов (Военно-медицинской академии 1851-1917 гг.; диссертации Гёттингенского университета 1702-1778 гг. на латыни; докторские и кандидатские диссертации, защищенные в ИЭМ и многие другие). Помимо научной литературы библиотека ИЭМ хранит важные исторические документы, такие как переписка видных отечественных ученых с их коллегами, а также правовые акты государственных лиц, касающихся деятельности Института.

В фонде библиотеки находятся такие редкие издания, как: пять книг Клавдия Галена (на латыни и греческом языке, 1538 года) , «Anatomia Deudsch» Андреаса Везалия (прижизненное немецкое издание 1551 г.), Афоризмы Гиппократа (на греческом и латыни, 1641 года), медицинские труды Гиппократа (на латыни, 1657 года), прижизненное издание «Критики чистого разума» Иммануила Канта (3-е издание, 1790 года), «Рассуждения о войне 1812 года» П. А. Чуйкевича (на немецком языке, 1813 года), диссертация И. П. Павлова (1883 года, с автографом автора).

Значительную часть фонда составляют периодические издания. Ряд медицинских журналов представлен полностью, начиная с первого выпуска.

В настоящее время фонд составляет около 500 000 экземпляров медицинской и естественно-научной литературы.

Современное комплектование фонда соответствует тематике проводимых в институте исследований. В библиотеку поступают книги по медико-биологическим дисциплинам, приобретается также художественная отечественная и зарубежная литература. Наличие такого богатого фонда определило включение научной библиотеки в перечень научных и научно-технических библиотек, имеющих исторически сложившиеся уникальные фонды большой научной и культурной ценности. Действительно, библиотека располагает крупнейшим отраслевым фондом среди библиотек нашего города.

В начале 2000-х гг. было выделено финансирование для строительства нового книгохранилища. В 2007 году строительство было завершено.  Параллельно готовился проект реставрации и переоснащения исторического здания научной библиотеки Императорского ИЭМ. В 2013 году реставрация научной библиотеки была завершена.