כשהיה בן 17, עלה לישראל מפולין בשם ילדותו, יפים שמוקלר, והחליט לעברת את שמו לאפרים שמיר. שנה לאחר הגעתו ארצה, התגייס לצה"ל ושירת בלהקת הנח"ל. במהלך שירותו הכיר שמיר את דני סנדרסון, גידי גוב ומאיר פניגשטיין, שלימים הקימו יחד עם שמיר את הלהקה המיתולוגית כוורת.
במקביל לחברותו בכוורת, שמיר לקח חלק בפרוייקטים נוספים ושיתף פעולה עם אמנים רבים. בשנת 1975 התחתן שמיר עם בחירת ליבו אסתר, והפיק את שיריה הראשונים. שנה לאחר מכן התפרקה הלהקה האהובה, מה שהוביל את שמיר להצטרף, יחד עם בת זוגו, למופעו של אריק איינשטיין 'אנשים אוהבים לשיר'.
בהמשך, הוציאו הזוג שמיר אלבום בכורה משותף 'אפרים ואסתר שמיר' בו אפרים היה אחראי על הלחנת ועיבוד כמעט כל השירים, ממנו זכורים בעיקר השירים 'ערב של יום בהיר' ו'עברתי רק כדי לראות'. בשנת 1980 הקים את ההרכב חמסין. אלבומה של הלהקה זכה לביקורות טובות, אך הוא וההופעות שבאו בעקבותיו, לא זכו להצלחה מסחרית. בסוף שנת 1982 חבר שמיר למזי כהן, שם טוב לוי ודפנה ארמוני ובמסגרת תכנית הרדיו ׳ארץ שמש (שיצא כאלבום) הלחין וביצע מספר שירים, בהם המוכר ביותר - ׳הידעת את הדרך׳.
בשנת 1983 הוציא שמיר את אלבומו הראשון 'רוקד לקול הבנות' כסולן עצמאי, וכמעט עשור לאחר אלבום הבכורה, הוציא שמיר אלבום נוסף 'סוף סוף גשם'. בשנת 2003 הוציא שמיר אלבום אולפן רביעי כסולן 'ים הבטון', זאת בנוסף לאלבום ההופעה 'ערב של יום בהיר' משנת 1995. את אלבומו הרביעי כסולן, בו כתב, הלחין ועיבד את כל השירים. אלבומו האחרון 'אפרים שמיר וגנבי זמן' פורסם בשנת 2011 וכלל עיבודים חדשים בהפקה אלקטרונית לשיריו המוכרים. החידוש לשירו 'היא כל כך יפה' עוד מימי כוורת זכה להצלחה רבה.
לרגל יום הולדתו ה־70 של שמיר, ערך יואב חנני, עורך 'שבת עברית', את מיטב השירים מהקריירה המוסיקלית העניפה של שמיר. האזנה נעימה, ויום הולדת שמח!
רשימת השירים:
התרעות פיקוד העורף