Заслуга реформирования податной системы, проведенного Бунге, является тем более высокой, что нужна была особая смелость, и даже самоотверженность, чтобы решиться на отмену налогов в такое время, когда бюджет страдал ежегодными крупными дефицитами. Финансовые мероприятия, направленные на покровительство промышленности, заключались в повышении ставок таможенного тарифа. При современном финансовом и экономическом положении России Н.Х. Бунге видел в таможенных пошлинах не только источник доходов и охрану промышленности, но и средство упрочения денежной единицы, путем возможного улучшения в нашу пользу платежного баланса. Почти ежегодно повышались пошлины по различным предметам ввоза и вывоза; наш таможенный тариф, получивший уже с 1877 г., когда было установлено взимание пошлин золотом, высокопошлинный характер, мало-помалу по многим статьям сделался запретительным.
В области развития доступного населению кредита министерство Бунге осуществило два важных мероприятия - устройство Крестьянского Поземельного банка (в 1882 г.), целью которого было постановлено содействие крестьянам в покупке земель, и учреждение (в 1885 г.) Дворянского банка, для выдачи ссуд дворянам на льготных условиях. В области улучшения денежной системы Н.Х. Бунге сделал относительно немного. Важнейшей мерой было осуществление указа 1 января 1881 г. об уплате государственному банку долга за временно выпущенные кредитные билеты, с целью изъятия их из обращения, причем только часть этого долга была уплачена деньгами, а на остальную сумму сдана банку нереализованная рента. В 1883 г., в видах привлечения монеты в обращение, Бунге внес в Государственный совет представление о разрешении сделок на золото и обращения звонкой монеты по курсу в платежах между казной и частными лицами. В этом представлении, не имевшем успеха, выразилось изменение взглядов правительства на способ восстановления металлического обращения. До Русско-турецкой войны оно не могло отрешиться от мысли о необходимости восстановить ценность кредитного рубля до al-pari; представление 1883 г. свидетельствует о решимости отказаться от прежнего воззрения.
С осени 1884 г. Бунге стал стремиться к увеличению сосредоточенного в государственном банке запаса золота, посредством передачи ему поступающей в таможенные платежи звонкой монеты (к 1 января 1895 г. было таким путем собрано 30 миллионов рублей, к 1886 г. - 74,7 миллионов рублей, к 1887 г. - 88,4 миллиона рублей).
С именем Н.Х. Бунге связано и начало коренного переворота в железнодорожной политике. С 1882 г. учреждается казенное управление в Екатерининской, Ливенской и Баскунчакской железных дорогах. Эти первые зачатки казенной железнодорожной сети начинают быстро развиваться, как на счет переходящего в руки казны частных железных дорог, так и путем постройки новых рельсовых линий на средства казны. По справедливому замечанию В. Судейкина , "ни один из бывших в России министров финансов не начинал своей деятельности при столь благоприятных условиях, как И.А. Вышнеградский.
В 1887 г. был огромный, небывалый урожай в России и плохой в Европе. Вывоз хлеба достиг пределов, до тех пор неслыханных. Последствием огромного вывоза было усиление доверия к России и повышение ее кредита на иностранных рынках. Его предшественником был произведен ряд реформ, в корне изменивших всю финансовую систему, а урожай произвел такие результаты, достижение которых требует напряженных усилий многих лет". Главнейшей задачей Вышнеградского было восстановление металлического обращения. Согласно его представлению, комитет финансов, в заседании 28 июня 1887 г., признал желательным стремиться к упрочению ценности рубля посредством размена его на золото по курсу, близкому к современному (1 рубль 50 копеек кредит за 1 рубль металлический), в том убеждении, что "предметом всяких мероприятий в отношении денежного обращения, может быть не восстановление полной номинальной ценности кредитного рубля, а лишь установление этой ценности настолько прочно, чтобы был положен предел дальнейшим сколько-нибудь значительным колебаниям". Журнал этого заседания был Высочайше одобрен и таким образом является моментом окончательного решения совершить реформу денежной системы путем девальвации. Составленный на этом основании проект разрешения сделок на звонкую монету остался, однако, без последствий, и Вышнеградский должен был ограничиться теми же подготовительными работами, к которым приступил уже его предшественник, т. е. продолжением скопления золотых запасов, необходимых для покрытия размена. Решив приобретать золото не займами, а покупкой, правительство должно было всеми мерами стремиться к тому, чтобы в казне имелись для того широкие свободные ресурсы и чтобы установился возможно более благоприятный расчетный баланс, как средство привлечения и удержания золота в стране.
Работая над осуществлением этих необходимых условий, Вышнеградский держался крайней бережливости в ассигновании государственных средств и добился совершенного устранения сверхсметных кредитов. Усиленно взыскивались недоимки по отмененному подушному налогу, установлены новые акцизы на керосин и спички, повышены питейный, табачный, сахарный акцизы, гербовый сбор, поземельный и промысловый налоги. Той же цели - установлению равновесия в бюджете - соответствовали и совершенные Вышнеградским важные улучшения в кредитной системе и железнодорожном хозяйстве. Воспользовавшись общим понижением ссудного процента на денежных рынках, он провел конверсию большей части наших металлических займов, превратив их в 4-процентные и отсрочив уплату погашения по ним на более долгие сроки. Конверсии Вышнеградского уменьшили размер наших золотых платежей, перенесли значительную часть русских фондов на богатый французский денежный рынок, приучили владельцев наших государственных бумаг довольствоваться 4 процентами дохода и проложили путь последующим, более крупным конверсиям. В области отношений государства к железнодорожному хозяйству Вышнеградский произвел решительную реформу, подчинив железнодорожное тарифное дело правительственному руководству и создав для этого особые тарифные органы в составе министерства финансов.
Вместе с тем точнее были определены финансовые отношения между казной и частными железнодорожными обществами и произведен выкуп в казну огромной сети железных дорог, по преимуществу убыточных, так как нахождение таких линий в руках частных обществ, мало заинтересованных, в виду государственной гарантии дохода, в улучшении условий эксплуатации и содержавших дорогие центральные управления, причиняло большие расходы казне и служило одним из главных источников бюджетных дефицитов.
Благодаря указанным мероприятиям, направленным на увеличение государственных доходов и на возможное сокращение расходов по двум важным статьям расходного бюджета, при крайней бережливости по всем прочим, равновесие между доходами и расходами было, наконец, установлено, и впервые, после долгого дефицитного периода, наступило прочное превышение первых над последними: в 1888 г. - на 53,3 миллиона рублей, в 1889 г. - на 65,5 миллионов рублей, в 1890 г. - на 60,6 миллионов рублей, в 1891 г. - на 13,8 миллионов рублей.
Вторая цель - установление выгодного торгового баланса - достигалось двумя далеко не безопасными путями: во-первых, всевозможным поощрением к усилению хлебного вывоза, для чего правительство воспользовалось, между прочим, правом установления железнодорожных тарифов и чему косвенно способствовало усиленное взыскание недоимок и податей, вынуждавшее крестьян к спешной продаже хлебных запасов; во-вторых, постановлением препятствий к увеличению ввоза. В таможенной политике идеалом Вышнеградского был минимальный ввоз при возможно крупных размерах таможенного дохода, ради чего происходили ежегодные повышения тех или иных тарифных ставок, установлен с 1888 г. (под тем предлогом, что временное улучшение курса рубля ослабило тарифную охрану) общий дополнительный таможенный сбор в размере 20% и произведен общий пересмотр таможенных пошлин, закончившийся изданием нового таможенного тарифа (по европейской торговле) 14 июня 1891 г., проникнутого строго покровительственным характером.