ברקוביץ' נולד בקרקוב בפולין. שרד את גטו קראקוב ומחנות פלאשוב, אושוויץ, מאוטהאוזן ומחנות עבודה נוספים. הוא היחיד ששרד מכל בני משפחתו. לאחר המלחמה סייע ברקוביץ' לרב יצחק הרצוג בחילוץ ילדים יהודים ממנזרים ברחבי פולין והפך לצייד נאצים. בין היתר לכד את מפקד המחנה בפלאשוב, אמון גת.
את רוב חייו הבוגרים עשה יוסף בקנדה, משם עשה עלייה לישראל אחרי שהתאלמן ב־2014, כשהוא כבר בן 88, כדי להשתקע בירושלים. ברקוביץ', שעסק ביזמות נדל"ן, מתגורר באחד הבניינים שבנה בעיר והשנה מלאו לו 97.
כיזם נדל"ן בעל קשר חם לישראל, ברקוביץ' היה מעורב בהקמת מבנים רבים בארץ ובירושלים, במיוחד לאחר איחוד העיר במלחמת ששת הימים: "לאחר המלחמה הקמתי בניינים בשכונת שמואל הנביא בירושלים, שבאחד מהם אני מתגורר בעצמי. אני שמח לחיות היום במקום שבו אני מרגיש קרבה לאלוהים", סיפר הקשיש, אב לשלושה ילדים, סב לתשעה נכדים וסבא רבא ל־15 נינים.
התרעות פיקוד העורף