Знаменитый коллекционер родился в Валдае в обеспеченной купеческой семье. Однако его отроческие годы были полны трудностей. Отец Фёдора, Михаил Фёдорович, разорился потеряв богатый товар из-за кораблекрушения, а в 1848 году скончался от холеры. Мальчику пришлось работать на дядьёв (местных купцов), а затем он был отправлен в Москву к И. П. Бутикову — известному текстильному фабриканту и старообрядцу. Там он дослужился до приказчика и планировал жениться на хозяйской дочери, но вызвал недовольство Бутикова и получил расчёт.
Отправившись к дяде Ивану, который торговал в это время в Пскове, он поселился у него и вскоре открыл собственную галантерейную лавку. Здесь он остался на всю жизнь, завёл семью, а в 1870 году построил каменный дом.
Однако прославился Фёдор Михайлович не торговлей: его начитанность ещё в юные годы перешла в увлечение историей. Он нажил состояние в Пскове и стал страстным коллекционером. Плюшкин собирал самые разнообразные предметы старины: рукописные и печатные книги, иконы, картины, оружие и предметы роскоши быта. Особенно обширной было его собрание средневековых монет, по полноте соперничавшее с государственными музеями. К Фёдору Михайловичу охотно приносили находки окрестные крестьяне, потому что он всегда платил больше, чем конкуренты. Почётное место в его доме занимали такие реликвии, как чайник Суворова, кубок Наполеона и другие личные вещи великих людей. Плюшкин никогда не продавал свои предметы, лишь иногда обменивался дубликатами. За сорок лет коллекционер собрал около миллиона различных предметов.
Собрание Ф. М. Плюшкина уцелело, но, к сожалению, не сохранилось как единое целое. В 1909 году он попытался открыть частный музей, но закрыл его после пропажи ценных экспонатов. Фёдор Михайлович вёл переговоры с Русским музеем о продаже коллекции за 300 тысяч рублей, но договориться о цене не получилось. Плюшкин даже обвинял сотрудников музея в вымогательстве, но справедливо ли это — остаётся неизвестным. В 1911 году он скончался. Лишь через два года его сын передал коллекцию музею (втрое дешевле), но деньги получить не успел: началась Первая мировая война, а в Гражданскую войну Сергей Фёдорович погиб.
В советские годы собрание было разделено между Русским музеем, Эрмитажем, Этнографическим музеем в Ленинграде, Государственным историческим музеем в Москве и рядом других учреждений. Почти 300 рукописных книг хранится в Библиотеке Академии наук. На сегодняшний день опознана лишь десятая часть предметов Ф. М. Плюшкина, полная реконструкция собрания остаётся делом будущего. Тем не менее даже в разрозненном виде оно исправно служит учёным и сохраняет бесценные фрагменты ушедших эпох. Ф. М. Плюшкину посвящена одна из «исторических миниатюр» советского писателя В. С. Пикуля.