Irak Savaşı'nın ilk yıllarında kuruldu, 2004 yılında El Kaide'ye bağlılığını ilan etti. Mücahidin Şûra Konseyi, el-Kaide, Jaysh el-Fatiheen, Jund el-Sahaba, Katbiyan Ansar el-Tevhid vel Sunnah, Jeish el-Taiifa el-Mansoura gibi farklı isyancı gruplardan oluşan silahlı grup Sünni nüfusun yoğun olduğu bölgelerde halifeliği kurmayı hedefliyor.
Irak Savaşı'nın yoğun olarak yaşandığı dönemlerde Irak'ın Anbar, Nineve, Diyala, Babil, Kerkük ve Selahaddin illerinde çok büyük etkinlik gösterdi Örgüt. Bakuba'yı başkent ilan ederken El-Kaide lideri Aymen el Zevahiri kendilerine bağlı bu grubu 2 yıl önce tasfiye ettiğini açıkladı. Fakat IŞİD emiri Ebu Bekir Bağdadi bu tasfiye kararını reddetiğini ve grubun Suriye'deki operasyonlarına devam edeceğini açıkladı. Nisan 2013 ile birlikte IŞİD Suriye'nin kuzeyinde hızlı bir şekilde askeri güç kazanmaya başladı. Suriye'nin kuzeyindeki en güçlü gruplardan biri oldu. Grup Suriye'de etkin olduğu bölgelerde şeriat kanunlarını icraya başladı ve rakip gördükleri askerleri, yabancı gazetecileri, yardım kuruluşlarına üye insanları sürgüne gönderdiler veya hapsetti.
Irak’taki Bölgesel Kürt Yönetimi, Suriye’de PYD ile çatışan IŞİD sızmalarını önlemek amacıyla Suriye sınırına hendek kazmış tepkilere neden olmuştu.