רק לאחר שירותו בנח"ל השלים את בחינות הבגרות, החל ללמוד באוניברסיטה העברית בירושלים, ובשנת 1956, בעודו סטודנט צעיר, התקבל לקול ישראל כמגיש חדשות - ובהמשך גם כמגיש תוכניות מוזיקה ובידור.
כבר בראשית דרכו בלט יבין כמי שלא הסתפק בהגשת חדשות בלבד. בשנת 1962 היה שותף להקמת "הגל הקל", שלימים הפך לרשת ב', ובהמשך שימש עורך, מפיק ומגיש של תוכניות אקטואליה ותעודה. עם הקמת הטלוויזיה הישראלית הוא נמנה עם צוות המייסדים, וב-1 באוגוסט 1968 הגיש את המהדורה הראשונה של "מבט לחדשות" - רגע שהפך לנקודת הפתיחה של אחת הקריירות הארוכות והמשפיעות בתולדות התקשורת בישראל.
במשך ארבעה עשורים היה יבין מזוהה יותר מכל אדם אחר עם הערוץ הראשון. הוא הגיש את "מבט לחדשות", "יומן השבוע" ו"מבט שני", שימש כתב בארה"ב, עורך, מנהל מחלקת החדשות, ובהמשך גם מנהל הטלוויזיה הישראלית.
"במוצאי יום הבוחר אני מקבל את התוצאות ורואה כי לראשונה מנחם בגין הולך להיות ראש ממשלה בישראל", סיפר לימים. "מהפכה. אבל אני מהסס לכנות זאת כך. 'מהפכה' נשמעת לי מילה פרועה, אולי אלימה, שאינה מתאימה לחילופי שלטון דמוקרטיים במדינה מסודרת. המילה 'שינוי' נראית לי חלשה מדי, אנמית. ואז אני שולף מילה אחרת, 'מהפך', והשאר היסטוריה".
במקביל לעבודתו בטלוויזיה טיפח יבין גם את הדור הבא של אנשי התקשורת, כאשר הנחה במשך שנים קורסים לעיתונות ולטלוויזיה במוסדות אקדמיים שונים. ב-1997 ניסה את כוחו גם בטלוויזיה המסחרית, כשיצר והגיש את תוכנית התחקירים "הערב החמישי" בערוץ 2, אך כעבור עונה אחת בלבד שב לביתו המקצועי - הערוץ הראשון ומהדורת "מבט", שאיתה היה מזוהה יותר מכל.
פחות מוכר הוא שיבין פנה גם לקהל הצעיר, כשהקליט בשנות ה-70 שורה של תקליטי סיפורים לילדים, ובהם "צ'יטי צ'יטי בנג בנג", "סיפורי באבאר הפילון", "אלאדין" ו"ג'ק ושיח האפונים", שבהם לא הסתפק בקריינות בלבד, אלא גם גילם דמויות וביצע שירים.
בשנת 2005 ביים את סדרת התעודה "ארץ המתנחלים" בערוץ 2, שעסקה במציאות בשטחי יהודה ושומרון ערב תוכנית ההתנתקות מרצועת עזה. הסדרה זכתה להכרה מקצועית ונבחרה לסדרת התעודה הטובה ביותר בטקס פרסי הקולנוע הדוקומנטרי הישראלי בשנת 2006.
בשנת 2011 ביים את הסדרה הדוקומנטרית "צבא העם", בת שלושה חלקים, שבחנה את מקומו של צה"ל בחברה הישראלית ואת השפעת המחלוקות הפוליטיות על האתוס הצבאי. בשנת 2016 יצר את הסרט התיעודי "ירושלים - עיר של חלומות שבורים", שעסק בבירה הישראלית ובמורכבויות החברתיות והלאומיות שבה.
"הדוקו אפשר לי לפשוט את החליפה הממלכתית המעיקה ולצאת אל השטח, אל האנשים", סיפר. "שם, מאחורי המצלמה התיעודית, לא הייתי צריך עוד להחביא את דעותיי או להנהן באובייקטיביות מאולצת. הסרטים התיעודיים היו המקום שבו יכולתי לראשונה לשאול את השאלות הקשות באמת, מתוך עמדה אישית ומפוכחת".
על תרומתו רבת-השנים לתקשורת הישראלית זכה יבין בשורה של פרסים ואותות הוקרה, בראשם פרס ישראל לתקשורת ופרס מפעל חיים מטעם האקדמיה הישראלית לקולנוע ולטלוויזיה.