Сначала это была межкраевая школа Главного управления госбезопасности, организованная в 1935 году по приказу наркома внутренних дел Генриха Ягоды.
В 1940 году школа переехала в новое здание на Красном проспекте. В годы войны на базе школы были созданы краткосрочные курсы переподготовки оперативного состава для военной контрразведки. В 1943 году, после организации Управления контрразведки «СМЕРШ» курсы были реорганизованы в школу Главного управления контрразведки «СМЕРШ». Всего за годы войны в школе и на курсах прошли переподготовку около 4 тыс. военных контрразведчиков.
В годы войны школа получила еще один, неофициальный титул — «школа женихов». Когда все новосибирцы, бывшие в состоянии держать оружие, ушли на фронт, присутствие в городе (хоть и краткосрочное) бравых контрразведчиков вносило смятение в женские души. Попасть в школу на танцевальные вечера считалось большим счастьем. Эти же вечера были и большим стимулом для учащихся: две неудовлетворительные отметки на весь курс — и танцы отменялись.
В 1960 году вышел закон о значительном сокращении вооруженных сил, в результате которого школа
№311 перешла на годичный курс обучения, а из 144 выпускников 1960 года только 19 были направлены для дальнейшего прохождения службы в особые отделы, остальные же уволены по сокращению штатов.
В 1974 году школа была вновь преобразована — теперь в Высшие курсы военной контрразведки. Сюда стали принимать, как правило, офицеров с высшим военным образованием. С началом перестройки и демократических преобразований, когда слово «чекист» приобрело резко негативный оттенок, а в СМИ потоком шли статьи, разоблачающие происки КГБ, руководство Высших курсов военной контрразведки предприняло ряд нестандартных контрнаступательных действий. Например, в школу пригласили журналистов различных СМИ — как региональных, так и центральных. Состоялась бурная дискуссия. По свидетельству генерал-лейтенанта Юрия Степанова, бывшего в те годы начальником ВКВК, после этого поток негатива начал иссякать.
В 1995 году произошло еще одно знаковое событие: Высшие курсы были преобразованы в Институт переподготовки и повышения квалификации сотрудников ФСБ России — государственное военное образовательное учреждение высшего профессионального образования. Сегодня в стране существует всего четыре подобных учебных заведения, Новосибирский институт — самый старший и имеющий самую широкую специализацию, а также единственный награжденный Боевым Знаменем и орденом Красного Знамени.