Urodzony w rodzinie stolarskiej w 1842 roku w Kuzynie Małej koło Ulanowa w powiecie niżańskim. Przed powstaniem był czeladnikiem stolarskim. Gdy w zaborze rosyjskim rozpoczęły się walki, zaciągnął się do oddziału Kajetana Karola Cieszkowskiego „Ćwieka”. Tworzył swój oddział wraz z żoną Emilią w maju i czerwcu 1863 roku na terenie ówczesnej guberni lubelskiej. Stosunkowo dobrze uzbrojona i wyposażona jednostka liczyła początkowo około 250 ludzi, powszechnie nazywanych „Ćwiekami” (od pseudonimu swojego dowódcy). Józef Baranowski, przydzielony do oddziału kawalerii, pierwszą potyczkę z Rosjanami stoczył pod Iłżą. Później powstańcy przeszli do guberni radomskiej, staczając m.in. walną bitwę pod Kowalą-Stępociną (21 sierpnia 1863). Liczące około 1000 ludzi polskie zgrupowanie odparło skutecznie atak Rosjan, którzy po wycofaniu się powstańców dokonali pacyfikacji wsi. Oddział skierował się następnie w lasy janowskie. 2 września 1863 roku starł się z Rosjanami pod Biłgorajem, zaś następnego dnia, po połączeniu z operującymi w pobliżu siłami Marcina Borelowskiego „Lelewela”, powstańcy w bitwie pod Panasówką przedarli się przez trzy, czterokrotnie liczniejsze oddziały rosyjskie. Ostatecznie ludzie „Ćwieka” pod naciskiem wroga przeszli granicę galicyjską i otoczeni przez Austriaków złożyli broń.
Dalsze losy Baranowskiego są słabo znane. Zapewne, jak wielu powstańców, był represjonowany przez władze austriackie. W 1923 roku został awansowany do stopnia podporucznika. Ze skąpych informacji wynika, że zmarł prawdopodobnie już w czasie okupacji niemieckiej, późną jesienią 1939 roku, w wieku 97 lat. Dotychczas nie udało się niestety odnaleźć jego grobu, trwają poszukiwania.