Δημιουργήθηκε από τον Γάλλο σεφ Lucien Olivier, ο οποίος το 1860 άνοιξε στη Μόσχα ένα πολυτελές εστιατόριο, το «Ερμιτάζ». Από όλα τα φαγητά που σέρβιρε εκεί, ο κόσμος λάτρεψε τη σαλάτα του, η οποία ήταν ένα μείγμα από ακριβά υλικά, όπως κρεατικά, κυνήγι, αστακός, χαβιάρι και λαχανικά, ανακατεμένα με μια ακαταμάχητη σάλτσα που έμοιαζε με μαγιονέζα. Τόσο διάσημη έγινε αυτή η σαλάτα, ώστε το 1883 ο ίδιος ο τσάρος Αλέξανδρος B ́ πήγε στο εστιατόριο για να τη δοκιμάσει. Όμως η συνταγή της σάλτσας ήταν μυστική – ο Ολιβιέ την ετοίμαζε μόνος του σε ένα δωμάτιο, μακριά από τα μάτια όλων. Το 1883, ο Ολιβιέ πέθανε, παίρνοντας τη συνταγή μαζί του στον τάφο, αφού δεν την είχε γράψει ποτέ. Το μόνο που ξέρουμε είναι πως η σάλτσα έμοιαζε με μαγιονέζα και είχε μεταξύ άλλων γαλλικό κρασί, ξίδι, μουστάρδα και ελαιόλαδο από την Προβηγκία. Λεπτομέρειες και αναλογίες, όμως, δεν έμαθε ποτέ κανείς. Το «Ερμιτάζ» τελικά έκλεισε το 1905. Τότε η σαλάτα πήρε το όνομα του δημιουργού της και μέχρι σήμερα οι Ρώσοι την αποκαλούν «σαλάτα Ολιβιέ».
