לוי כיהן בשורה של תפקידים פוליטיים. את דרכו הפוליטית התחיל לוי ב-1961, כאשר נרשם כחבר בסניף המקומי של מפלגת הימין "תנועת החרות" בבית שאן. בשנת 1964 נבחר לאגודת פועלי הבניין מטעם מפא"י ורשימתו זכתה לרוב גדול, אולם לאחר מכן החל להיות פעיל בתנועת החרות ובסיעת תכלת לבן בהסתדרות.
"אני דואב עמוקות עם כל אזרחי ישראל על פטירתו של דוד לוי ז''ל – משרת ציבור מסור במשך עשרות שנים, שר בממשלות ישראל וסגן ראש הממשלה. דוד, יליד מרוקו, סלל את דרכו בחיים בעשר אצבעותיו. במישור המקומי הוא תרם להתפתחות העיר בית שאן, ונעשה סמל לצמיחת ערי הפיתוח בפריפריה.
"במישור הלאומי הוא הטביע חותם אישי על החיים הפוליטיים, תוך שהוא דואג לאוכלוסיות חלשות שידעו מצוקה. כשר החוץ וכסגן ראש הממשלה סייע דוד לכינון קשרים דיפלומטיים עם מדינות שנמנעו מלעשות זאת בשנות 'המלחמה הקרה'. ביקוריו בבירות תבל התאפיינו בזקיפות-קומה על היותו נציג נאמן של מדינת ישראל.
"שיתפתי פעולה עם דוד בממשלות 'הליכוד', וכך גם עם ילדיו שהשתלבו כמוהו בהצלחה בפוליטיקה הארצית. לא תמיד הסכמנו על הכל, אבל תמיד הערכתי את תודעת השליחות שלו".
לוי החל את דרכו הפוליטית בבחירות למועצת בית שאן ב-1965, אז הוא נבחר למועצה מטעם רשימת גח"ל ומונה לסגן ראש המועצה המקומית. כשנה לאחר מכן, ב-1966, נבחר למרכז תנועת החרות, מאוחר יותר נבחר להנהלת סיעת תכלת לבן בהסתדרות. במסגרת תפקידו במועצת בית שאן, עמד החל משנת 1968 בראש ועדת ביטחון של המועצה.
בבחירות לכנסת השביעית בשנת 1969, הוצב לוי במקום ה-24 ברשימת גח"ל. המפלגה זכתה ב-26 מנדטים ולוי נבחר לראשונה לכנסת ה-7, והפך לחבר הכנסת הצעיר ביותר. אחרי המהפך בבחירות לכנסת התשיעית בשנת 1977 הפקיד בידיו ראש הממשלה מנחם בגין את תיק הקליטה. החל מ-15 בינואר 1979 הפקיד בידיו ראש הממשלה גם את תיק הבינוי והשיכון.
לוי היה סמל לבני עדות המזרח החפצים בשותפות מלאה בממסד, ומוחים כנגד נורמות של קיפוח שהשתרשו. הוא הצליח ללכד סביבו תמיכה גדולה במרוץ הפוליטי אך לא די כדי שיתמנה לראש תנועת הליכוד לאחר פרישת מנחם בגין ב-1983. יצחק שמיר ניצח בהתמודדות מולו במרכז הליכוד.
הוא כיהן כסגן ראש הממשלה ושר הבינוי והשיכון בכל ממשלות ישראל בין השנים 1979–1990. בהצבעה בממשלת האחדות הלאומית ב-1985 על הנסיגה מלבנון היה השר היחיד מהליכוד שהצביע בעד הנסיגה, החלטה שעברה על חודו של קול בממשלה. לאחר "התרגיל המסריח" בשנת 1990, מונה דוד לוי לשר החוץ בממשלת שמיר. במהלך כהונתו חודשו הקשרים עם רוב מדינות אפריקה ועם מדינות מזרח אירופה.
דוד לוי פרש מהליכוד ביוני 1995 והקים את תנועת גשר. לקראת הבחירות לכנסת הארבע עשרה בשנת 1996 שב והתאחד עם הליכוד. בינואר 1998 ערך לוי מסיבת עיתונאים שבה הודיע על התפטרותו ולקראת הבחירות לכנסת ה-15 חבר למפלגת העבודה. אחר ניצחונו של ברק בבחירות קיבל לוי את תפקיד שר החוץ בפעם השלישית בחייו.
לקראת הבחירות לכנסת ה-16, פרש דוד לוי מראשות המפלגה ועבר לליכוד. עם ההכרזה על הבחירות לכנסת השמונה עשרה בחר לוי לא להתמודד על מקום ברשימת הליכוד, והוא הוצב במקום האחרון הסמלי ברשימתה לכנסת. בדצמבר 2016 קיבל את פרס בגין לשנת ה'תשע"ז, כאות הוקרה על מפעל חייו למען חיזוק החברה הישראלית ומדינת ישראל. ב-2018 זכה בפרס ישראל על מפעל חיים – תרומה מיוחדת לחברה ולמדינה.
התרעות פיקוד העורף