Józef Grabowski swoją służbę rozpoczął w listopadzie 1812 r., pod koniec kampanii rosyjskiej Napoleona. Był on wtedy adiutantem generała Michała Sokolnickiego. Wtedy został porucznikiem. W maju 1813 roku dostał się do sztabu Napoleona, a po bitwie pod Lützen (2 maja 1813) awansował na kapitana. W bitwie pod Budziszynem odznaczył się dostarczeniem, pod mocnym ostrzałem, wiadomości od Napoleona do ks. Józefa Poniatowskiego. W bitwie pod Dreznem, pomimo dużego ostrzału i niebezpieczeństwa, doniósł rozkaz Napoleona do marszałka Murata o uderzeniu wszystkimi siłami kawalerii na wroga, co zakończyło się wielkim zwycięstwem. Uczestniczył w bitwie pod Lipskiem. Po przejściu Renu przez Napoleona został kawalerem Legii Honorowej oraz awansował na szefa szwadronu. Po abdykacji Bonapartego opuścił służbę wojskową w stopniu majora.

W 1845 roku wybrany został na marszałka sejmu prowincjonalnego. Wyczuwając nadejście Wiosny Ludów, wycofał się z życia publicznego i wyjechał do Włoch. Tam spędził lata 1848-1849, następnie wrócił do kraju. Został wybrany do Izby Wyższej (później Izba Panów) w 1852 roku, ale nie odegrał ważnej roli politycznej. Po minięciu kadencji, sprzedał swe dobra w Poznańskim i przeniósł się do Rachowa w lubelskim w Królestwie Kongresowym.

Po powrocie do kraju zajął się działalnością publiczną w Wielkim Księstwie Poznańskim. W 1822 został wybrany na radcę Ziemstwa Kredytowego w Pile. W 1826 obrany został radcą generalnej Dyrekcji Ziemstwa Kredytowego, a dwa lata później dyrektorem prowincjonalnym. W latach 1829–1830 powierzono mu zastępstwo deputowanego na sejm prowincjonalny księcia Thurn und Taxis i odznaczono Orderem Orła Czerwonego.