גבאי החל את הקריירה שלו במחלקת הנוער של מכבי נתניה, וב-1983 עלה לקבוצה הבוגרת ולאחר מספר חודשים הושאל למכבי הרצליה לעונה אחת ואחריה למכבי יפו לעונה אחת, עד שחזר למכבי נתניה והפך לחלק מרכזי בקבוצה, ושם בילה את רוב הקריירה שלו ואף כיהן כקפטן. לקראת סוף הקריירה שיחק בהפועל תל אביב והפועל חדרה.
גבאי החל את קריירת האימון שלו ב-2006 במחלקת הנוער של בית"ר טוברוק, שם היה עד דצמבר 2014 כאשר חתם כמאמן מכבי יפו מליגה א',[1] אך לאחר מספר שבועות עזב את הקבוצה והצטרף כעוזר מאמן מכבי נתניה לצידו של רוני לוי.[2] חצי שנה לאחר מכן, לקראת עונת 2015/2016, עבר גבאי עם רוני לוי למכבי חיפה כעוזר מאמן.[3] בתום העונה עזב גבאי את מכבי חיפה, וחזר לבית"ר טוברוק כמנהל מקצועי במחלקת הנוער. ב-2017 חתם כמאמן הנוער של מכבי נתניה עד שעזב לאחר שנה וחצי.[4]
