Початкову освіту К.І.Рубинський отримав у Карачанській та Ніжинській гімназіях; у 1878 р. поступив до Ніжинського історико-філологічного інституту, звідки у 1883р. перевівся на останній курс історико-філологічного факультету Харківського університету, де його вчителями були 0.Потебня, М.Сумцов, Д.Багалій та ін. В університеті він був стипендіатом Міністерства освіти, що зобов'язувало його віддати отримані знання вчительській діяльності. Закінчивши університет у 1 885 р. зі ступенем кандидата наук та званням вчителя історії та географії,Костянтин Іванович Рубинський викладав у жіночій гімназії у Харкові, а потім у Пензенському реальному училищі та Пензенській гімназії,де він учителює, а вечорами допомагає у навчанні невстигаючим дітям бідняків. Його починання було підхоплене колегами, а в 1887 р. створюються і безплатні вечірні курси для малозабезпечених учнів. Педагогічна діяльність Рубинського зумовила його сталий інтерес до проблеми навчання дітей, дитячого читання, дитинства взагалі.
Наприкінці 1893 р. Костянтин Іванович Рубинський повернувся до Харкова, де працював на посаді спочатку помічника бібліотекаря Харківського університету, а з 1900 р. - бібліотекарем. Про авторитет Рубинського свідчить і той факт, щов 1897 р. указом імператора Миколи II його було нагороджено орденом Святого Станіслава III ступеня (7).
У 1902 р. Рада університету відрядила Костянтина Івановича Рубинського для вивчення досвіду роботи бібліотек Москви, Петербургу, Києва, Юр'єва /м.Тарту/, Варшави. Він ознайомився з діяльністю 25 бібліотек і перш за все університетських , ретельно вивчив їх досвід. Повернувшись до Харкова, він представив Раді звіт про відрядження і свій проект перенесення і розміщення фонду бібліотеки університету, який був прийнятий. У 1905р. /з 01.06. по 15.09/ Рада університету дозволила бібліотекарю Костянтину Івановичу Рубинському закордонну відпустку до Парижу /з прослуховуванням курсу французької мови для іноземців/ для огляду європейських бібліотек. Він відвідав великі наукові бібліотеки Парижу, Берліну, Мюнхену, Цюриха, Відня, Женеви, Берна та ін. "Благодаря письму к консулам, которым снабдил меня университет, двери всех библиотек гостеприимно открывались передо мною, библиотекари всюду охотно знакомили меня с устройством своих библиотек... Показать все достоинства иностранцу-библиотекарю, казалось, доставляло им большое удовольствие..." /4,с.13/. По поверненню Костянтин Іванович Рубинський виступив на засіданні бібліотечної комісії з доповіддю "Положение вопроса о библиотечном персонале в Западной Европе и у нас”).
Останні за часом відомі нам дані про дореволюційну діяльність Костянтина Івановича Рубинського залишив бібліотекар Новоросійського університету П.С.Шестериков у своїй книзі"Постановка библиотечного дела в університетахидругих библиотеках России"/Одесса,тип.Б.Й.Сапожникова, І9І5/. От що він писав про свій візит до Харкова у 1913 р.:"... Отправился в университет и застал библиотекаря Константина Ивановича Рубинского, который обстоятельно ознакомил меня с библиотекой. Благодаря его чрезвычайной любезности я получил ответы на вопросы ... столь обстоятельные, что все дело постановки рисуетея мне как на дадони.
Матеріалів про діяльність Костянтина Івановича Рубинського в останні, передреволюційні роки не збереглося, архів Харківського університету був знищений в роки Великої Вітчизняної війни; післяреволюційний період практично ніким не досліджений. Подальша бібліотечна діяльність Костянтина Івановича Рубинського відтворювалася співробітниками бібліотеки Харківського державного університету шляхом вивчення спеціальної, місцевої періодики, окремих документів з архіву бібліотеки університету, місцевих та державних архівів, його робіт цього періоду, спогадів дочки - Антоніни Костянтинівни, яка мешкає у Харкові.
Відомості про стан бібліотеки університету в 1917р. дуже обмежені. Бібліотекарі, що були налякані артобстрілами міста, погромами, залишили бібліотеку. Костянтин Іванович Рубинський, який володів багатьма іноземними мовами, міг неодноразово емігрувати, не залишив свою бібліотеку. Довгий час він залишався єдиним її штатним працівником, а у 1917 р. навіть мешкав у ній. Міська рада доручила йому очолити бібліотеку відновити її роботу. Він став першим директором бібліотеки Харківського університету у важкі, драматичні роки її існування (9).
У І9І7-І9І9 рр. бібліотека разом з університетом важко переживає зміну режимів на Україні, внаслідок чого університет залишився практично без фінансування. Але, незважаючи на голод та холод, до бібліотеки поступово повертались співробітники. В цей важкий час, в умовах масового знищення та розтягання фондів бібліотек, Костянтину Івановичу Рубинському вдалося не тільки зберегти фонд найстарішої вітчизняної університетської бібліотеки, але й примножити його. Розпорядженням місцевої влади у Харкові створена комісія по врятуванню бібліотек-емігрантів, до складу якої увійшов Костянтин Іванович Рубинський. Одночасно йому доручили завідування складом конфіскованих у емігрантів книг; він складав списки цих книг, розподіляв їх між районними, окружними, науковими бібліотеками; найцінніші видання передав до університетської бібліотеки та бібліотеки імені В.Г. Короленка (9).
Ця трудомістка та відповідальна робота пізніше стала предметом тяжких політичних звинувачень на його адресу. /Про те, що відбувалося насправді в бібліотеках, особливо наукових, у 1920-1930-х рр. відомо дуже мало. Історикам бібліотечної справи ще потрібно об’єктивно відновити цей період в бібліотеках, по яких також пройшла безжалісна репресивна машина. І доля Костянтина Івановича Рубинського - одна з багатьох, що потрапили до неї (30).
У 1920 р. в Україні розпочалася реформа вищої освіти: університети знищувалися як архаїчна академічна вища школа. Наприкінці 1920 р. Харківський університет вже не існував, замість нього створюється Академія теоретичних знань /через рік припинила своє існування/, а у травні 1921 р. Харківський інститут народної освіти /ХІНО/ з двома факультетами: соціального виховання та професійної освіти. Політосвітфакультет, що відкрився при ХІНО у 1925 р. й став прямим попередником майбутнього першого на Україні бібліотечного вузу(41).
З ліквідацією університету бібліотека залишилася без фінансування; Наркомосвіти перевів її під свою опіку. Бібліотека отримала статус публічної, загальнодоступної та нове приміщення - Центральна науково-навчальна бібліотека. У 20-і рр. перед науковими бібліотеками було поставлено завдання активної участі у політичному та економічному житті країни. І цей уклін бібліотечної роботи з притаманними йому формами визнавався чи не єдиним завданням академічних бібліотек, зруйновуючи їх функції. Мовчазно протидіє новим вимогам офіційних влад, Костянтин Іванович Рубинський, людина надзвичайно скромна та витримана, він не міг вписатися у "будни великих строек". Він стояв осторонь від ідеологічної боротьби, не брав участі у масових заідеологізованих заходах. Відомий бібліотекознавець не запрошувався для участі у спеціальних конференціях, нарадах, не брав участі в обговоренні питань бібліотекознавства та бібліографії, не друкувався. Його знання та досвід виявилися непотрібними (8).
У 1922 р. розпочалася чистка соціального складу наукових установ, їх пролетаризація. Безпартійна наукова інтелігенція на керівних посадах заміщувалася членами партії. З цим пов'язано звільнення Костянтина Івановича Рубинського з посади директора та переведення його на посаду старшого бібліотекаря.
На 1-й Всеукраїнській нараді працівників книги /Харків, листопад 1923 р./ ЦНУБ представляла вже О.Ольховська. Рубинський не опускає рук, і бібліотека продовжує працювати у майже звичному для себе ритмі.
Звільнившись від адміністративних обов'язків, Костянтин Іванович Рубинський зайнявся літературною роботою; у 1928-1930 рр. за його перекладом українською мовою було надруковано декілька романів Е.Золя (28).
Наприкінці 1919 р. вийшла постанова ЦК ВКП/б/ "Об улучшении библиотечной работы", яка відзначала незадовільний стан бібліотечної справи, проникнення до бібліотеки "классово-враждебных элементов". Для виконання постанови комісія політосвіти Харківської міської ради створила бригаду по перевірці Центральної науково-навчальної бібліотеки, до складу якої за рекомендацією Укрнауки було включено й Костянтина Івановича Рубинського. Але на заключному етапі її роботи було сфабриковано рішення місцевкому бібліотеки, яке ґрунтувалося на заяві співробітників бібліотеки /прізвища не вказані/, згідно з яким він був відізваний зі складу бригади, як такий, що проявив необ’єктивний підхід до її роботи.
За матеріалами, які були надані бригадою, комісія політосвітроботи міської ради 17.03.1930р.ухвалила резолюцію, яка звинувачувала бібліотеку у відірваності від завдань радянської науки,наявності у штаті класово-ворожих елементів, а її керівництво - у зберіганні незареєстрованих бібліотек емігрантської професури, приховуванні цінних рукописних фондів та документів, які розшукуються відповідними органами. Розцінювалося все це як політичне шкідництво,Комісія вимагала реорганізації ЦНУБ і створення"бібліотечного колгоспу", передачі на додаткове судове розслідування справи про приховування цінних документів і бібліотек емігрантської професури, негайного звільнення з роботи директора О.Ольховської і вченого секретаря /фактично заступника директора/ Рубинського та проведення дострокової чистки апарату бібліотеки.