הרב קנייבסקי נולד בפינסק, אז בפולין, בנם הבכור של הרב יעקב ישראל קניבסקי ("הסטייפלר") ופעשא מרים, אחותו של החזון איש. אביו שימש סנדק בברית המילה שלו וקרא את שמו שמריהו יוסף חיים, על שם שני סביו, הרב שמריהו יוסף קרליץ רבה של קוסובה והרב חיים פרץ קנייבסקי. בא' בניסן תרצ"ד (1934) עלה עם משפחתו לארץ ישראל והם התיישבו בבני ברק. בתחילה התגורר עם משפחתו בבית דודו החזון איש. מאוחר יותר עברו לדירה סמוכה בשכונת גבעת רוקח. כאשר עבר החזון איש לשכונת זיכרון מאיר עברה אף משפחתו להתגורר בסמיכות אליו.
כ'פוסק' היה מקפיד להתבסס על דברי קודמיו ואינו מכריע בשאלות חדשות. הוא ענה על שאלות רבות, בעיקר בתחומי אורח חיים, קונטרסים ובהם תשובות שלו בהלכה, היו קצרות מאוד בדרך כלל, הודפסו בספרי הלכה ואף לוקטו בספרים ייעודיים.
לאחר פטירת חמיו הרב יוסף שלום אלישיב ב-2012 תמך הרב קניבסקי במעמדו של הרב אהרן יהודה ליב שטינמן כמנהיג הציבור החרדי-ליטאי. מאז פטירת הרב שטינמן ב-2017 הוא נחשב לאחד משני מנהיגי הציבור הליטאי לצד הרב גרשון אדלשטיין, ראש ישיבת פוניבז'.
הרב קניבסקי היה נחשב כבקיא בספרות התורנית, ובייחוד בספרות חז"ל, כולל מדרשים קטנים שהעיסוק בהם אינו רווח. דרך לימודו מבוססת על בקיאות רחבה, השוואת המקורות וביאורם זה על פי זה. בקיאותו הקנתה לו בציבור החרדי את התואר "מרן שר התורה".
התרעות פיקוד העורף