Фрагмент Харлампіївського собору є однім з наглядних підтверджень існування в Маріуполі найбільшого у місті православного храму.

Перша церква, заснована митрополитом Ігнатієм на честь святого Харлампія, з’явилася в Маріуполі в 1782 році. Але вже на початку 1840-х років стара Харлампіївська церква занепала і стала непридатною для богослужіння.

Питання про будівництво нової церкви почало вирішуватися з 1820-х років і було вирішено в 1845 році, коли було збудовано нову будівлю храму у візантійському стилі.

Пізніше до храму прибудували дзвіницю, але й цієї площі виявилося замало – спорудили на початку 1890-х років нову дзвіницю, яку з’єднали із храмом. Цей храм став найбільшим у місті, що вміщає понад п’ять тисяч людей.

Особливо шанувалася в Харлампіївській соборній церкві ікона св. Георгія, що нарівні з іконою Божої Матері вважалася історичною реліквією маріупольських греків.

Під час активної боротьби радяньської влади з релігією, у 1930-х роках храм було зруйновано.