כספי נולד בירושלים בשנת 1939. אביו, מיכאל כספי, היה ממייסדי משרד עורכי הדין כספי ושות' ויועצו המשפטי של בן-גוריון. בילדותו נשלח ללימודים באנגליה, ובשובו התגייס לחיל המודיעין. בהמשך סיים בהצטיינות תואר במשפטים באוניברסיטה העברית.
מאז שנות ה-80 שימש דמות מפתח במערכת המשפטית והפוליטית, לעיתים כיועץ לא רשמי לראשי ממשלה. גם בעשור האחרון המשיך להיות מעורב בתיקים מרכזיים, וב-2019 צורף לצוות ההגנה של ראש הממשלה נתניהו.