Gustav Rivinus je prvi i jedini njemački glazbenik koji je osvojio prvu nagradu na Međunarodnom natjecanju „Čajkovski” u Moskvi. Također, osvojio je posebnu nagradu za interpretaciju kompozicija Čajkovskog. Od tada je nastupao s vodećim svjetskim glazbenicima, orkestrima i dirigentima diljem svijeta.
Jedan od vrhunaca karijere svakako su nastupi sa Simfonijskim orkestrom Bavarskog radija, pod dirigentskim vodstvom Lorina Maazela (Varijacije Čajkovskog na temu rokokoa), Inga Metzmachera (Koncert za violončelo BA Zimmermanna, „pas de trois”) te izvedba Zenderovog koncerta za violončelo „Bardo” kojeg jepremijerno izveo po palicom Hansa Zendera. Na proslavi povodom ponovnog otvaranja španjolske dvorane u Praškom dvorcu, pridružio se Češkoj filharmoniji pod ravnanjem Vaclava Neumanna, izvodeći Dvořákov koncert za violončelo. Na gala svečanosti povodom 50. godišnjice Bambergovog simfonijskog orkestra, izveo je Beethovenov trostruki koncert u pratnji Antjea Weithaasa i Lars Vogta, pod vodstvom Horsta Steina. Često je nastupao kao solist s ovim orkestrom i gostovao diljem Njemačke.
U SAD-u je nastupio s Pitsburškim simfonijskim orkestrom, te s orkestrima u Saint Luisu Cincinnatiju, Washingtonu i Hustonskom simfonijom. Nastupao je i diljem Kanade, te u Tokiju s Moskovskom filharmonijom, u Seulu s KBS simfonijskim orkestrom, u Pekingu s Nacionalnim baletnim orkestrom. Nastupao je i u Lisabonu, Touluseu, Lyonu, Helsinkiju, Zürichu i brojnim drugim gradovima s velikim orkestrima.
Uz svoj solo rad, razvio je i strast prema komornoj glazbi. Uz svoju veliku glazbenu obitelj redovito svira sa svojom braćom u kvartetu Rivinius.
Također je dugogodišnji sudionik festivala u Heimbachu Spannungen. Kao rezultat nastupa na tom festivalu nastali su i brojni nosači zvuka.
Rivinus je osnovao i Gasparo da Saló Trio, Arkas trio, Bartholdy gudački kvintet i Tammuzov klavirski kvartet, s kojim je snimio i nosač zvuka za diskografsku kuću CEO.
Profesor je na Muzičkom sveučilištu HFM u Saarbruckenu, gdje oblikuje i stvara vrlo uspješnu klasu violončelista. Od 2014. godine predaje i u Konzervatoriju Maastricht (Nizozemska), kao i na brojnim majstorskim tečajevima, uključujući na glazbenom festivalu u Schleswigu Holstein. Osim toga, traženi je sudac na velikim glazbenim natjecanjima te je bio dijelom žirija na Međunarodnom natjecanju „Čajkovski” u Moskvi 2011. godine.