Археологічні дослідження в Костянтинівському районі показали, що заселення краю почалося в епоху раннього палеоліту, 150 000—100 000 років тому.
З часів набігу кримських татар 1769 року з’являється згадка, що на території Костянтинівського району перебувало Військо Запорозьке.
Найстаріший район міста — Новоселівка, колишнє селище, що існувало задовго до заснування Костянтинівки.
На карті Катеринославського намісництва 1792 року видання нанесена поштова станція з назвою Торецька (при річці Кривий Торець), яка була розташована в районі нинішнього південного шляхопроводу.
На території сучасної Костянтинівки в 1812 році на землі придбаній у бахмутського купця Четверикова поміщик Пантелеймон Номікосов заснував село Сантуринівку. Ця земля була заселена двадцятьма родинами кріпаків купленими в Корочанському уїзді, Курської губернії. У середині XIX століття на успадкованій сином поміщика землі виникло село Костянтинівка, назване по імені власника. До 1859 року в Костянтинівці проживало 29 осіб, в Сантуринівці — 280, в Новоселівці (старовинне селище, приєднане до сучасної Костянтинівки) — 456.
У 1926 році Костянтинівка набула статусу селища міського типу. З 1932 року стала містом обласного підпорядкування.
З 1931 по 2016 рік у місті працював трамвай.
З 28-29 жовтня 1941 до 6 вересня 1943 місто було під контролем Німеччини.
У 1967 році було відкрито міський краєзнавчий музей.
В ході подій Російсько-української війни, з 28 квітня 2014 по 5 липня 2014 року озброєний терористичний підрозділ російських найманців «Славянский батальон» захопив адміністративні будівлі міста і утримував Костянтинівку під своєю окупацією.
5 липня 2014 року в ході проведення Антитерористичної операції сили Національної гвардії України та військові підрозділи Збройних сил України звільнили місто від російських найманців та їх місцевих колаборантів. 21 липня 2014-го при обстрілі терористами Костянтинівки на блокпосту загинув старший лейтенант Григорій Терехов.
У середині вересня 2014 року у місті було повалено пам’ятник Леніну.
14 жовтня 2015-го на Пресвяту Покрову в Костянтинівці у храмі УПЦ КП відбулася перша святкова літургія.
У вересні 2016 р. російськомовна гімназія у Костянтинівці перейшла на українську мову навчання.
