ב–2003 פלש צבא הקואליציה בראשות ארה"ב לעיראק, ותוך שלושה שבועות הכריע את צבאה, ביטל את משטרו של סדאם חוסיין והשתלט על המדינה. במהלך, שעליו יש חילוקי דעות קשים, ריסקו האמריקאים את כל הממסד העיראקי, לרבות את מערכת הביטחון ואת הצבא שהיו מורכבים בעיקר מאנשי המיעוט הסוני, והשליטו עליה את הרוב השיעי. עם מערכת ביטחון מרוסקת לא היה סיכוי לשיעים לשלוט בעיראק. במקביל, מצאו את עצמם אנשי הצבא שרוסק זרוקים ברחוב, מבוזים וחסרי פרנסה.
לאחר השתלטות האמריקאים על עיראק עבר הארגון לבצע פיגועים שם - בצבא הכיבוש, בממסד השיעי החדש, ובאזרחים השיעים. שילוב של אנשי צבא סונים מבוזים ואסלאמיסטים קיצוניים הפך את הארגון ליעיל מאוד, אף שמייסדו נהרג ב–2006. ארגונו של זרקאווי הוביל במלחמת טרור וגרילה, יחד עם ארגונים אחרים, לבריחת האמריקאים ובני בריתם מעיראק, לאחר תשע שנות מלחמה שבה היו לקואליציה 4,800 הרוגים, רובם אמריקאים, ולמעלה מ–100 אלף פצועים.