Eski çağlarda ptototürklerin iz buraktığı, sonra ise zaman zaman büyük Türk İmparatorların kurduğu Türk devletlerin günümüze kadar arazisi olan Mardin ve çevresi çeşitli medeniyetler ile zengindir. Bu çeşitli medeniyetlerin günümüze kadar yaşaması ise Türk devletçiliğinde hoşgörünün korunmasıdır.

Anadolu yaylasının güneydoğu ve doğu sınırları içinde yer almış Diyarbakır’a yakın olan Mardin ve çevresi, Avrupa ile Asya’nın doğal geçidi olduğu için Diyarbakır’dan da fazla jeopolitik önemi bir arazidir. Bu sebepten de birçok devletleri içine almış ve toplumları çeşitli olmuştur. Yaşamış her toplumsa, kendi medeniyetini kurarak Mardin’i açık müze şehrine çevirmişlerdir.

En eski çağlardan bu günümüze kadar Mardin ve onun çevresinde birçok devletlerin kurulması korunup saklanmış medeniyetlerden belli olmaktadır. Açık müze halinde korunup saklanmış medeniyetler bu şehri üçüncü tarihi şehir yapmaktadır. Eski Doğu tarihine göre ilk Mardin ve çevre medeniyetinin M.Ö. 4500–3500 yıllarda Subariler zamanında yapıldığı ve Subarilerin Mezopotamya’da yaşadıkları bilinmektedir. Bu kanaati 1911–1929 yıllarda o arazide kazıntı yapan Alman arkeologu Baron Marvan Oppenheim de tastik etmiştir. Lakin ondan önceki tarihin olmaması da mutlak değildir ve ondan sonraki tarihi, kurulmuş devletleri ve medeniyeti de çok zengindir. Mardin ve çevresinin tarihi kültürünü: Subariler, Hurriler, Sümerler, Akadlar, Mitanniler, Hititler, Asur Aramiler, İskitler, Kimmer, Medler, Babiller, Persler, Büyük İskender, Abgarlar(Dikranlar), Romalılar, Sasaniler, Araplar, Emeviler, Abbasiler, Hamdaniler, Mervaniler, Selcuklular, Artuklular, Moğollar, Karakoyunlular, Akkoyunlular, Safeviler, Osmanlılar kimi devlet kültürleri olmuş ve günümüzde de, Türkiye Cumhuriyetine mahsus Türk kültürünü yaşamaktadır.

M.Ö. 2850 yılından başlayarak Sümerlerin hakimiyeti altında olan Mardin ve çevresi M.Ö. 2820 yılından Akadlara, M.Ö. 2500 yıllardan Akad-Sümer Devletine ait olmuştur. Prof. Dr. Ekrem Memiş Akadların bulunmuş vesikalarına istinaden M.Ö. 3000 sonlarında Mardin merkez olmak üzere Güneydoğu Anadolu Bölgesi ile Kuzey Mezopotamya’daki Musul ve Kerkük’te Hurrilerin oturduklarını yazmıştır (Prof.Dr. Ekrem Memiş. Eski Çağ Türkiye Tarihi).

Eski Mezopotomya’da insanlar dizler karınlarına çekik olarak yatırılmıştır. Mezar içinde şahsi eşya olarak metal silahlar, eşyalar seramik kaplar koyulmuştur. Bu tür mezarlar Mardin’de bulunduğu gibi Anadolu’nun diğer yerlerinde ve Azerbaycan arazisinde de rastlanan ölü gömme adetleri ile aynılık teşkil eder. Böyle mezarlar Azerbaycan arazilerinde şimdiye kadar da bulunmaktadır. Mardin ve çevresine ait arkelojik kazılara göre bu arazide birçok toplumun yaşadıkları belli olmuştur ki, onların içinde İskidler de vardır. Bu toplumların birçoğunun da prototürk olduğu günümüze kadar olan araştırmalardan bize bellidir. Hatta iskid-işğuz adlanan toplumun da Oğuz Türkleri oldukları hatta tarihçilerin tatkikatları vardır.

Mardin tarihini sayfalarken M.Ö. 2200–1925 Mardin’in Babil Devletinin içine alındığı, Hititlerin M.Ö. 1925 yıllarında Mardin’e girdiği ve bir yıl sonra şehri şimdiki İran arazilerinden gelen Midilerin eline geçtiği ve böylece Midilerin 500 yıl hüküm sürdüğü görünmektedir.

Mardin ve çevresi, 692’de Emevilerin, 824’te Halife Memnun zamanında Abbasilerin hakimiyetine girmiştir. 885–978 yılları arasında buralarda hüküm süren Hamdanilerin kaleyi kesin olarak zaptedişleri 895 yılına rastlanır. Doğal olan kalenin bazı yerlerine surlar yaptırarak bazı yerlerini de onararak günümüze kadar dimdik kalmasını sağladılar. 990 yılında Mervaniler, Mardini zapt ederler. Mardin ve çarşılar, camiler yaparak İpek Yolu üzerinde bulunan bu önemli şehri ticari acıdan canlandırırlar. 1089 da Mervaniler Devleti Nusaybin’de Selcuklulara yenilerek onların hakimiyeti altına girer. Büyük Selçuklu Devletine tabi olan ve Üç kol halinde: Hısnkeyfa (Hasankeyf)- Amid (Diyarbekir), Mardin -e Meyyafarikin (Silvan) -Harputta hüküm süren bir Türkmen hanedanı olan Artuklulardan İl Gazi Bey Mardin’i 1105‘ te ele geçirerek devletin başkenti yapar. Halebi aldığı gibi Haçlıları da alır. Artukluların hakim oldukları bölgelerde Türklerden başka Arap, Süryani, Rum, Ermeni ve bir miktar da Yahudi vardı. Her millet, kendi lisanını konuşurdu. Türkler ve Araplar Müslüman, Ermeni ve Rumlar Hıristiyan, Süryaniler kendi mezheplerinde idiler.

Böylece Artuklular Diyarbakır, Harput Kalesi ve civarına hakim olup, Haçlıları, Frankları, Urfa Kontunu, Bilecik Haclı Senyörünü ve Kudüs Kralı Bodveni yenerek bölgede büyük devlet kurarlar. Bu devletin 304 yıllık egemenliği olmuş Amir Timur 1393’te Mardin Kalesini kuşatıp işgal etmeye çalışsa da başarılı olamamıştır. Yine Artuklular döneminde 1395 yılının ramazan ayında Amir Timur, Mardini almak için yeniden Kızıltepe’de çadır kursa da başarılı olmamıştır. Lakin bazı manbelerde Amir Timur’un bu şehre dövüşsüz girmesi de yazılıyor.

Karakoyunluların Artuklular devletinin üzerine gelirken Mardin’e 2 yıl girememiş 1409 Mardin Karakoyunluların egemenliğine girmiş ve 61 yıl kalmıştır. Karakoyunluların da 1462 yılında Akkoyunlulara yenilmesinden sonra Mardin kalesinin egemenliği de Akkoyunluların eline geçmiştir. Bu dönemde Mardin’e Paşa olarak gelen Kasım Bey, Mardin’de tarihe meydan okuyan Kasım Paşa Medresesini yaptırmıştır. 16.yüzyılın başında Akkoyunluların egemenliğini alan Akkoyunlu Hükümdarı Uzun Hasanın torunu Şah İsmail Hatayi güclü bir Şii- Saf evi devleti kurarken Mardin hakimi kan dökmeden şehri Şah İsmail’e teslim etmiştir.

Mardin’in Osmanlıların eline geçmesi Mısır seferini düzenleyen Yavuz Sultan Selim döneminde gerçekleşmiştir. 7 Nisan 1517’de Mardin’e girilmiş ve çevresi ile birge 1518’de Mardin Sancağı yaratılmıştır. Merkez kazası ile Savur ve Nusaybin nahiyelerinden oluşan Mardin, uzun müddet Diyarbakır-Bağdat ve Musul’un Sancağı durumunda kalmıştır. Osmanlı zamanında da halk inançları mühtelif olmuş ve Yahudiler, Hıristiyanlar (Ermeniler, Süryaniler ve Keldaniler), Müslümanlar ve bir kısım Şemsilerden (Güneşe tapanlar) oluşuyordu.

Kurtuluş savaşında Mardin Türkiye Cumhuriyetinin arazisi olarak kalmış ve Atatürk general müjdesinin Mardin’de almıştır.