2014. aastal lahkus al-Hashimi ametlikult al-Qaedast, kinnitades oma lojaalsust ISILile (mis oli varem tegutsenud al-Qaeda Iraagi haru all). Ta mängis olulist rolli Mosuli vallutamisel ISIL-i poolt.
2014. aasta juunis. Ta oli üks peamistest ISIL-i juhtidest, kes korraldas selle aasta augustis toimunud Sinjari massimõrva ajal jesidiide genotsiidilisi massimõrvu. Sel hetkel oli ta tõusnud Abu Bakr al-Baghdadi asetäitjaks.