ידלין הוצב במקום ה-48 ברשימת מפא"י לכנסת הרביעית. בבחירות אלו זכתה מפא"י ב-47 מנדטים וידלין נכנס לכנסת חצי שנה לאחר הבחירות לאחר שאהרן בקר התפטר מהכנסת. באותה כנסת היה חבר ועדת החינוך וועדת הכלכלה. באוקטובר 1960 נבחר להנהלת בית ברל. ידלין המשיך לכהן בכנסת עד שנת 1979 ובממשלת ישראל השבע עשרה, שהרכיב יצחק רבין, הפך להיות שר החינוך. לאחר הבחירות ב-1977, שימש כיו"ר ועדת החינוך, התרבות והספורט של הכנסת, עד לפרישתו מהכנסת בתחילת שנת 1979.
לאחר פרישתו מהכנסת, שימש ידלין בתפקידים ציבוריים רבים, בהם מזכיר התק"ם, בין השנים 1985 עד 1989, היה יו"ר תנועת העבודה הציונית העולמית במשך עשור, בין השנים 2002-1992, יו"ר מוסד ביאליק, יו"ר יד טבנקין, יו"ר בית יציב, סגן יושב-ראש הוועד המנהל של אוניברסיטת בן-גוריון בבאר שבע ויו"ר הנאמנים של קרן ראש הממשלה לסופרים. ביום העצמאות 2008 שימש כיושב-ראש חבר השופטים של חידון התנ"ך העולמי לנוער יהודי.
בנו של אהרן, עמוס, ספד לאביו: "אבא שלנו האהוב, אהרן ידלין, הלך לעולמו. מנהיג בכח אישיותו וערכיו, מחלוצי ההתיישבות בנגב, ממובילי תנועת העבודה, דבק בשוויון, בציונות ובערך האדם. מחנך ומורה, איש חכם וצנוע שפיו וליבו שווים. בן 96, צלול וחד, נפרד מאיתנו בשנתו. הלוויתו תתקיים בקיבוצו חצרים ביום ראשון בשעה 17:30".
ראש הממשלה החליפי, נפתלי בנט, ספד: "הצטערתי לשמוע על פטירתו של שר החינוך לשעבר וחתן פרס ישראל, אהרון ידלין ז"ל. אהרון ידלין היה איש עם לב רחב וציוני גדול. חשיבות חינוך הדור הצעיר בערה בו. כשר החינוך זכיתי לפגוש אותו מספר פעמים. עצותיו העיקריות היו: לחנך על המורשת הציונית-יהודית בעבר, על חשיבות התרומה למדינה, הגיוס לצה"ל בהווה, להעניק כלים לנוער ולנווט את עתידם. הוא גם הדגיש פעם אחר פעם, שעל שר החינוך לדאוג לכלל ילדי ישראל, מכל הסוגים ומכל הזרמים. יהי זיכרו ברוך".
"אהרן ידלין היה מזכיר ממשלה בממשלת גולדה ואחד האנשים שידעו לספר את הסיפורים הכי מופלאים על גדולתה של גולדה כראש ממשלה ועל התפקוד החיובי שהיה אז לממשלות ישראל. הוא היה שותף של המפלגה לאורך כל הדרך ואני זוכרת איך בפריימריז הראשונים כשאני הגעתי ב- 2012, הוא היה באירוע ההכרזה של הבחירות, וכבר אז הוא היה כמובן מבכירי המפלגה ואחד האחרונים שנשארו עם המפלגה. אהרן נשאר איתנו לאורך כל הדרך. חלקנו היינו באירוע לכבודו ממש לפני שנה ואני מאושרת שהספיקו לעשות לו המון המון כבוד. אפשר היה לראות את הנחת שזה גורם לו, ההכרה בתרומה הכל כך משמעותית שלו למדינת ישראל ולחברה הישראלית. יהי זכרו ברוך", הוסיפה.
התרעות פיקוד העורף