Невдовзі після Полтавської битви, в ознакування перемоги, Петро І видав наказ про спорудження на полі Полтавської битви Петропавлівського монастиря з нижньою церквою на честь Сампсона Прочанолюбця (оскільки битва відбулася 27 червня, в день преподобного Сампсона). Незважаючи на наказ Птера І про невідкладність будівництва монастиря та монумента, а також виділення коштів на будівництво, справа просувалася дуже повільно.
В 1840 році, за ініціативи генерал-губернатора графа Строганова, провели конкурс проєктів на будівництво церкви. Із представлених проєктів перевагу віддали проєкту ахітектора Ж.-Ж. (Йосима Івановича) Шарлеманя (1782 – 1861). Фундамент церкви заклали 27 червня 1852 року. ЇЇ будівництво, велося під керівництвом місцевого архітектора Хорунжеко, закінчилося в 1856 році.
Сампсоніївська церква, зведена за зразком старослов’янських візантійських храмів, була невеликою, цегляною, прямокутною у плані, з п’ятьма главами (центральною банею та чотирма маленькими декоративними главками на кутах), простої архітектури.
Наприкінці ХІХ століття в Полтаві було створено окрему комісію, яка визнала необхідним розширити Сампсоніївську церкву. 1890 року архітектор М. Ніконов виконав проєкт реконструкції храму. Роботи розпочали під наглядом губернського архітектора І. Неймана. Усі чотири стіни, крім кутів, було розібрано і перероблено на напівкруглі склепіння (арки), які з’єднували середню частину з боковими прибудовами, внаслідок чого оновлена церква набула форми хреста. Зовні цоколь обличкували гранітними плитами. Із західного боку прибудували великий ґанок на стовпах. Підлога в храмі виконана із різнокольорових плиток. Дубовий різьблений іконостас створений за проектом М. Ніконова в московській майстерні Астаф’єва, ікони написані в майстерні художника Малишева. Розписи стін та куполів виконав маляр Малашечкін. Наприкінці вересня 1895 року роботи з реконструкції храму були завершені, і 1 жовтня 1895 року його заново освятили.
Під час підготовки до 200-річного ювілею Полтавської битви Сампсоніївська церква зазнала нових змін. За проектом полтавського єпархіального архітектора С. Носова із західного боку до неї була добудована вхідна частина із дзвіницею. Під час останньої реконструкції суттєво змінився не тільки екстер’єр, але й інтер’єр приміщення. Стіни, склепіння стелі та внутрішні поверхні центрального барабану бані було вкрито суцільним шаром високохудожніх декоративно-рослинних та сюжетних розписів, виконаних у стилі В. Васнецова. Дерев’яний іконостас замінено на мармуровий, одноярусний. Його колони виготовлені з оніксу та прикрашені нефритовими кільцями. Смуга карнизного завершення декорована візантійською мозаїкою. Після останньої реконструкції всередині праворуч та ліворуч на стінах нартексу встановлено мармурові дошки з написами, на яких зазначено, що проєкт іконостасу та розпису храму виконав художник О. Сокіл, а мармурові роботи Е. Менціоне.
Художньо-образні характеристики розписів та іконостасу Сампсоніївського храму дають всі підстави класифікувати їх як унікальний високохудожній зразок храмового монументального мистецтва.
Церква була діючою до 1930 року (із 1925 року УАПЦ). Після припинення в ній богослужінь розібрали надбрамну дзвіницю. У роки нацистської окупації Полтави церкву знову відкрили, але вже 1949 року її зняли з реєстрації. Приміщення передали музею «для влаштування панорами Полтавської битви», але тривалий час тут розташовувався склад управління кінофікації. На початку 90-х років ХХ століття Сампсоніївську церкву повернули православній громаді.
