Полтавский краеведческий музей, как значительный научно-культурный центр, основан в 1891 году по инициативе выдающегося ученого профессора В. В. Докучаева, который передал более 4000 образцов почв, около 500 образцов горных пород, 862 гербарных листа. Среди меценатов и уроженка Полтавской губернии Екатерина Скаржинская, которая подарила более 20000 экспонатов и научную библиотеку. В дар музею на протяжении 1894–1913 годов передал ценные коллекции восточных древностей Павел Бобровский.
Сегодня фонды музея — уникальное собрание предметов старины, быта и народного искусства, в котором не только местный материал, но и древности разных частей света: Древнего Египта, Индии, Японии, Китая, Индонезии. Настоящая гордость музея — казацкие древности, в которых сохранился высокий дух свободы и независимости. А всего в музее около 300000 экспонатов.
Музей включает в себя 12 разделов, среди которых отделы природы, археологии, новой истории, новейшей истории, этнографии, народоведения, памятковедения, научной пропаганды, отдел фондов, краеведения, музееведения, реставрации и дизайна.
Отдел природы берёт начало с 1891 г., с времён организации естественноисторического музея Полтавского губернского земства. В основу отдела легли естественные коллекции, собранные участниками экспедиции В. В. Докучаева — образцы почв (свыше 4000), горных пород (около 500), гербариев растений (862 гербарных листа), палеонтологические сборы.
Археологический отдел музея был создан в мае 1912 г. В это время музей уже имел немалую археологическую коллекцию, которая была начата стараниями, прежде всего, И. А. Зарецкого. На время открытия музея он был уже достаточно известным исследователем-археологом и владельцем внушительной коллекции древностей.
Среди документального и вещевого фонда исторической коллекции Полтавского краеведческого музея есть уникальные экспонаты, мемории. Среди них личные вещи представителей казацкой старшины, писателей, врачей, выдающихся деятелей Полтавщины, универсал Мазепы, грамота с подписью К. Разумовского и т. д., много изделий из металла, глины, дерева, стекла, тканей, кожи. Представлены скульптурные работы, произведения живописи. Исторические экспонаты размещены в экспозиции музея, представлены на выставках.
Основу этнографического отдела, организованного в музее в 1900 году, составили собрания местных кустарных изделий.
Научно-исследовательский отдел народоведения заведует Сокровищницей уникальных экспонатов, среди которых археологические находки из собрания музея — Восточные древности ХVIII в; Памятники искусства и реликвии XVII в. – начало ХХ в.
Здание музея, которое не без основания причисляют к шедеврам украинского барокко, было возведено в 1903–1908 годах по проекту архитектора Василия Григорьевича Кричевского, и предназначалось для Полтавского губернского земства.
Керамические украшения на фасаде здания изображающие гербы всех уездных городов полтавской губернии того времени, а так же внутренний интерьер на растительную тематику были изготовлены в Миргороде и Опошне. Говорят, что настолько ярко выраженное украинское убранство здания даже рассердило Императора Николая ІІ, перебывавшего в 1909 году в Полтаве с визитом.
В 1920 году новая власть создаёт в Полтаве Центральный пролетарский музей, под нужды которого и было предоставлено бывшее здание Полтавского земства.
Здание сильно пострадало во время Великой Отечественной войны от огня немецких войск, сжигающих за собой «мосты» при отступлении, но уже в 1950-х годах силами полтавских специалистов началась реставрация и в 1964 году восстановленная экспозиция распахнула свои двери.