לדבריו, "אם נתניהו היה רציני הוא יכול היה להיכנס לעניין הזה בכל הכוח, ולכנס את הוועדה שהוקמה לעניין המאבק ביוקר המחיה. גם שר האוצר הזניח את הנושא, אף שהיה צריך להיות עמוק בעניין, וחבל שזה לא נעשה".
בנוסף, הוא איים כי אם התקצוב לגננות חרדיות בהיקף של 40 מיליון שקל לא יועבר, הוא לא יתמוך בחוק להחלשת היועצת המשפטית לממשלה. "הצרות הכי גדולות שלנו מגיעות מחובשי הכיפות הסרוגות, לא אשתוק על הדבר הזה", הטיח גפני בשר האוצר.
על הסיבות לכישלון במאבק ביוקר המחיה הוא אומר: "את זה תצטרך לשאול את ראש הממשלה. בוועדת הכספים בראשותי היו כל הזמן דיונים ואינסוף מלחמות ביני לבין האוצר על ההתנהלות הנכונה. התוצאה הסופית הייתה כישלון. התפטרתי מהוועדה בגלל הוראת הרבנים. אני לא מצטער לרגע על כך, כי זה היה הדבר הנכון לעשות. בדיעבד עשינו טעות כשנכנסנו לקואליציה הזאת. הלוואי שלא היינו מצטרפים לקואליציית נתניהו, כי ההתנהלות מאז כניסתנו הייתה נוראה".