В октябре 1867 года Вера Николаевна приняла от Городской думы попечительство над Пятницкой городской начальной женской школой – сначала из двух классов на 50 человек; вскоре число классов и учениц увеличилось. Из пятнадцати подобных школ Пятницкая стала лучшей.
Павел Михайлович был одним из попечителей Арнольдовского училища для глухонемых. В ответ на разговоры о своем богатстве он писал В.В. Стасову в 1879 году: "Я не располагаю такими средствами, какие некоторым могут казаться. Я не концессионер, не подрядчик, имею на своем попечении школу глухонемых [...]". В течение нескольких десятилетий он проявлял действенное внимание к училищу. Там занимались мальчики и девочки, осваивая не только грамоту и науки, но и ремесла. Третьяковы, посещая эти учебные заведения, в воспитательных целях брали с собой дочерей, а всех учащихся знали по именам.
Может создаться впечатление о жизни легкой, счастливой, беззаботной. Свободно ли дома распоряжались деньгами и были ли миллионершами выросшие дочери? В 1893 году Павел Михайлович пишет очень большое серьезное письмо дочери Александре, в котором объясняет свое представление о родительском долге: "Нехорошая вещь деньги, вызывающая ненормальные отношения. Для родителей обязательно дать детям воспитание и образование и вовсе не обязательно обеспечение". В том же письме несколько выше он пишет: "Моя идея была с самых юных лет наживать для того, чтобы нажитое от общества вернулось также обществу (народу) в каких-либо полезных учреждениях; мысль эта не покидала меня всю жизнь".
Купец первой гильдии, имеющий льнопрядильную фабрику в Костроме и магазин на Ильинке в Москве, Третьяков самым усердным образом занимался собирательством, отдавая этому занятию много времени и сил.
Павел Михайлович не пропускал ни одной значительной выставки, где мог увидеть интересные для собрания произведения. Подчас выставки демонстрировали уже купленные им картины, которые отбирались в мастерских художников до их открытия. Так произошло с некоторыми полотнами, украсившими дебют Товарищества передвижных художественных выставок в 1871 году. Он разделял веру членов ТПХВ в преобразующую роль искусства в жизни общества, а также стремление сделать его достоянием широкого круга зрителей. Соглашался с убеждением передвижников в гражданской миссии искусства, поддерживал их интерес к морально-этическим проблемам.
На I -й выставке ТПХВ, где было всего 47 работ, половину занимали пейзажи. Третьякова пленила переданная художником А.К. Саврасовым в картине "Грачи прилетели" (1871) скромная прелесть русской природы. Тогда же была приобретена картина Н.Н. Ге "Петр I допрашивает царевича Алексея в Петергофе" (1870). Собиратель оценил вполне новизну темы и пластического языка произведения. На 2-й передвижной выставке была представлена картина И.Н. Крамского "Христос в пустыне" (1872), купленная еще у него в мастерской. О ней Третьяков говорил, что "это самая лучшая картина в нашей школе за последнее время".
Замысел Павла Михайловича собрать галерею портретов людей, выдающихся в искусстве и науке, воплотился в заказах таких портретов многим художникам. В 1872 году к нему поступила целая серия написанных В.Г. Перовым портретов знаменитых писателей: А.Н. Островского (1871), Ф.М. Достоевского (1872), А.Н. Майкова (1872), М.П. Погодина (1872), В.И. Даля (1872), И.С. Тургенева. Позднее эти портреты демонстрировались на выставке ТПВХ в 1872–1873 годы.
Примечательна история создания И.Н. Крамским портрета Л.Н. Толстого (1873). Еще в 1869 году Павел Михайлович просил А.А. Фета походатайствовать, чтобы Толстой согласился позировать для портрета. Почти через полгода Фет известил Третьякова, что Толстой "положительно и определенно отказывается от этой мысли". Прошло четыре года. В августе 1873 года Крамской жил в пяти верстах от имения Л.Н. Толстого Ясная Поляна. По просьбе Третьякова он снова предпринял попытку встретиться с писателем и уговорить его позировать. На решительный отказ Толстого Крамской выдвинул веский аргумент: "[...] Я, разумеется, его /портрет/ не напишу и никто из моих современников, но лет через 30, 40, 50 он будет написан, и тогда останется только пожалеть, что портрет не был сделан своевременно". Л.Н. Толстой согласился позировать при условии, что художником будет написан и второй его портрет, который останется в семье. Крамской выполнил эту просьбу. Оба портрета вполне устроили заказчиков.
По просьбе Павла Михайловича Крамским был написан погрудный портрет поэта Н.А. Некрасова, который долго и мучительно болел. 11 апреля 1877 года художник пишет Третьякову: "Скажите мне, оставите ли Вы для себя другой портрет Некрасова, вся фигура на постели, когда он пишет стихи? [...] Я спрашиваю об этом потому, что у меня его возьмут другие [...]". Осторожный в решениях, Третьяков отвечает: "Относительно другого портрета Некрасова или, лучше сказать, картины, я могу сказать, только увидевши его, но до того ради Бог, не отдавайте его никому [...]". Некрасов умер в декабре 1877 года. Картина была окончена уже без него. Холст портрета составлен из нескольких кусков. Голова поэта написана на небольшом самостоятельном холсте и является той работой, которую И.Н. Крамской выполнил с натуры в период с 7 по 16 февраля 1877 года. Это изображение вклеено в холст портрета-картины "Н.А. Некрасов в период последних песен" (1878).
Через десять лет после женитьбы, в 1875 году, Павел Михайлович пожелал иметь портрет Веры Николаевны. Как всегда, предварительно велась длительная переписка с И.Н. Крамским. Художник задумал большой парадный портрет на фоне пейзажа; работа над ним затянулась на несколько лет. Начатый в сентябре 1875 года на даче в Кунцеве под Москвой, "Портрет Веры Николаевны Третьяковой" писался в зимние месяцы и весной 1876 года. Крамской считал, что "неудача портрета" во многом связана с работой без натуры и решил писать другой портрет Веры Николаевны, что и было сделано в 1879 году ("Портрет В.Н. Третьяковой").
В это же время Павел Михайлович, всегда категорически отказывавшийся позировать художникам, заболел. Болезнь была не опасная – то ли ревматизм, то ли подагра, но выходить из дома он не мог. Тогда-то и возникла мысль о создании его портрета (И.Н. Крамской. "Портрет П.М. Третьякова", 1876). Второй портрет Павла Михайловича написал И.Е. Репин ("Портрет П.М. Третьякова", 1883). Третьяков "не хотел его и не заказывал. Репин делал его для себя. Павел Михайлович дал уговорить себя тем охотнее, что любил Илью Ефимовича [...], и с удовольствием приезжал позировать по воскресеньям. Было это в зиму 1881/82 [...]", – вспоминает Александра Павловна.
Для произведений, которых к 1872 году насчитывалась более полутора сотен, уже не хватало места в гостиной дома в Толмачах. Тогда-то и стал вопрос о постройке специального помещения – галереи. Проект ее был заказан мужу сестры Софьи – А.С. Каминскому. Галерея должна была примыкать к южной стене дома и располагаться в сторону соседней с их участком ограды церкви Святого Николая в Толмачах. Галерею решили сделать двухэтажной. Строительство велось весь 1873 год. Наконец, в марте 1874 года началась развеска картин. На первом этаже на перегородках были помещены работы старых мастеров, на стене против окон – пейзажи С.Ф. Щедрина, Ф.М. Матвеева, М.И. Лебедева, М.Н. Воробьева. На втором этаже, где располагался высокий просторный зал, поместили работы современников – В.Г. Перова, В.И. Якоби, В.В. Пукирева, "Княжна Тараканова" К.Д. Флавицкого и другие.
Самым крупным приобретением Третьякова (92000 рублей) была серия работ В.В. Верещагина. В 1872 году в мюнхенской мастерской художника Павел Михайлович увидел его Туркестанскую серию. Она произвела на собирателя огромное впечатление. Масштабность замысла, новизна сюжетов и мастерство живописца – все вызывало глубокий интерес Павла Михайловича. Позднее, когда в 1874 году Верещагин решил показать в Петербурге все полотна, созданные по материалам Туркестанского похода, у собирателя возникла мысль приобрести эту серию картин и подарить ее МУЖВЗ. Однако совет училища не принял дара из-за отсутствия необходимого помещения и за неимением средств для постройки его.
Тогда Третьяков передал коллекцию Московскому обществу любителей художеств с условием, чтобы оно в течение трех ближайших лет нашло возможность для открытого показа ее. Общество не выполнило условия. Третьяков вернул в 1881 году этот свой первый дар городу Москве к себе в галерею. К этому времени в ней уже находилось 78 этюдов В.В. Верещагина, исполненных в Индии. Они были приобретены в 1880 году.
Приобретение в дальнейшем у В.В. Верещагина нескольких картин Балканской серии ("Шипка-Шейново. Скобелев под Шипкой", 1878–1879) явилось доказательством того, насколько важна была для Третьякова гражданская позиция художника. 12 апреля 1877 года, в день объявления русско-турецкой войны, Вера Николаевна "молилась за столь дорогое начатое дело – освобождение славян от угнетения турок". Третьяковы внимательно наблюдали за театром военных действий. Они восхищались В.В. Верещагиным и В.Д. Поленовым, работавшими военными корреспондентами. После возвращения Поленова в Россию, когда тот поселится в Москве, Третьяков станет пристально следить за его творчеством и приобретет написанный в 1878 году "Московский дворик".
Павел Михайлович имел безошибочное "чутье" в выборе картин. Но не упускал случая посоветоваться с близкими ему по духу художниками о покупке того или иного произведения. Так было с полотном В.М. Максимова "Приход колдуна на крестьянскую свадьбу" (1875), когда уже после приобретения картины коллекционер высказал живописцу ряд пожеланий. Позднее И.Н. Крамской писал о том, насколько лучше стала картина после доработки.