Ο Σλάβα, όπως ήταν το υποκοριστικό του γεννήθηκε σαν σήμερα 27 Μαρτίου 1927 στο Μπακού. Σπούδασε στο Ωδείο της Μόσχας. Ήδη από την ηλικία των 16 ετών έπαιζε πιάνο και τσέλο, διηύθυνε ορχήστρες και συνέθετε τα δικά του έργα. Το ταλέντο του αναδείχτηκε εξαιρετικά γρήγορα και βραβεύτηκε σε πολλούς μουσικούς διαγωνισμούς στη Μόσχα (1945), την Πράγα (1947 και 1950) και τη Βουδαπέστη (1949).

Σε ηλικία μόλις 23 ετών διακρίθηκε με το σημαντικότερο βραβείο που μπορούσε κανείς να δεχτεί στη Σοβιετική Ένωση, το βραβείο Στάλιν. Δάσκαλοί του υπήρξαν ο Προκόβιεφ και ο Σοστακόβιτς. Η διεθνής του καριέρα άρχισε το 1964 από την τότε Δυτική Γερμανία. Θιασώτης της μουσικής δωματίου, ο Ροστροπόβιτς έπαιξε με τον Γκίλελς, τον Χόροβιτς, τον Μενουχίν και τον Ρίχτερ, ενώ διακρίθηκε επίσης ως διευθυντής ορχήστρας και όπερας.

Τα περισσότερα σημαντικά έργα που γράφτηκαν για βιολοντσέλο στο δεύτερο μισό του 20ού αιώνα γράφτηκαν γι’ αυτόν. Ανάμεσά τους, η «Συμφωνία Κοντσερτάντε» του φίλου και δασκάλου του Προκόβιεφ και τα δύο Κοντσέρτα για βιολοντσέλο του επίσης φίλου και δασκάλου του Σοστακόβιτς – η παρουσίαση του πρώτου από αυτά στη Φιλαδέλφεια υπήρξε μέγα πολιτικό γεγονός στην καρδιά του Ψυχρού Πολέμου.

Τέσσερα χρόνια αργότερα και σπρωγμένος από πολιτικούς λόγους θα ταξιδέψει στη Δύση ενώ σε μία ακόμή τετραετία θα του αφαιρεθεί η σοβιετική υπηκοότητα. Θα επιστρέψει το 1990 όταν θα αποκατασταθεί από το διάταγμα του Μιχαήλ Γκορμπατσόφ.

Δεν θα επιστρέψει μόνος αλλά με τη Συμφωνική Ορχήστρα της Ουάσινγκτον, την οποία διηύθυνε από το 1977 μέχρι το 1994. Ο Ροστροπόβιτς θα χάσει τη μάχη με τον καρκίνο στις 27 Απριλίου του 2007. Μέχρι τότε δεν σταμάτησε στιγμή να παίζει μουσική και αυτή είναι που άφησε πίσω του.