Golubović is een jeugdproduct van Rode Ster Belgrado. Via een selectiewedstrijd van Nike versierde hij een profcontract bij OFK Beograd. Op 3 april 2013 maakte hij op achttienjarige leeftijd zijn officiële debuut voor de club tegen FK Vojvodina. In totaal speelde hij 20 competitiewedstrijden voor OFK Beograd.
Op 31 januari 2014 werd bekend dat AS Roma één miljoen euro betaalde voor de diensten van de Servische rechtsback. Golubović werd meteen voor zes maanden uitgeleend aan Novara Calcio, op dat moment actief in de Serie B. Nadien volgden ook uitleenbeurten aan AC Pistoiese en AC Pisa. In 2016 promoveerde hij met Pisa naar de Serie B. In 2017 verliet hij Roma definitief voor zijn ex-club Novara Calcio. Na één seizoen maakte hij de overstap naar KV Kortrijk.