חזקיהו טען בפני השר כי עזיבתו מגיעה על רקע תחושת מיצוי מהתפקיד, כמו גם הרצון לפנות את הדרך לבעלי תפקיד חדשים. מאז תחילת ינואר ניהל חזקיהו את התקציב ההמשכי, מכיוון שהממשלה טרם אישרה את תקציב 2020.
החשב הכללי אחראי על ביצוע תקציב המדינה, ולפיכך כל הוצאה כספית של משרד ממשלתי מחייבת את אישור חשב המשרד. משמעות ההודעה היא כי במידה ולא יאושר תקציב המדינה החדש חזקיהו יפרוש מתפקידו תוך כדי ניהול המדינה בתקציב המשכי.
חזקיהו נכנס למשרד החשב הכללי בשנת 2017 כאשר החליף את מיכל עבאדי-בויאנג'ו, לפני כן כיהן כיו"ר דירקטוריון הבנק הבינלאומי. הוא כיהן בתפקיד המפקח על הבנקים בזמן המשבר הכלכלי העולמי בשנת 2008, והשכיל להתמודד בהצלחה רבה עם השלכותיו, תוך שהוא שומר על יציבותה ואיתנותה של המערכת הבנקאית בישראל.