언론의 주목을 추구하지 않으면서도 올리비에 샤를리에는 동시대 가장 중요한 바이올리니스트 중 한 사람으로 자리매김하였다. 온화하고 겸손한 인상과는 달리 그의 경력은 모범적이다. 14세에 파리 국립고등음악원(CNSM)에서 최연소로 1등상을 수상하였고, 이후 뮌헨, 몬트리올, 시벨리우스, 자크 티보, 인디애나폴리스, 뉴욕 영 콘서트 아티스트 등 세계적인 국제 콩쿠르에서 수상하였다. 나디아 불랑제, 예후디 메뉴인, 헨리크 셰링과 같은 거장들의 후원을 받아 일찍이 국제적인 성공을 거두었다.

그는 자크 티보, 지네트 뇌브, 크리스티앙 페라스에 이르는 프랑스 바이올린 악파의 정통 계승자임을 자부하며, 그 전통을 전 세계 무대에서 빛내고 있다. 프랑스 내에서는 파리의 주요 오케스트라들을 비롯해 리옹, 보르도, 툴루즈, 릴, 스트라스부르, 몽펠리에, 니스 등 지역 오케스트라와도 협연하였다.

국제적으로는 런던 필하모닉, BBC 필하모닉, 할레 오케스트라, 버밍엄 시립 교향악단, 베를린 교향악단, 함부르크 방송 오케스트라, 바이에른 방송 교향악단, 취리히 톤할레 오케스트라, 네덜란드 필하모닉, 몬테카를로, 프라하, 자그레브, 뉴욕, 피츠버그, 몬트리올, 퀘벡, 멕시코, 도쿄, 시드니 등의 오케스트라와 정기적으로 협연하고 있다.

그의 음반 활동은 폭넓은 레퍼토리를 반영하며, 뒤티외 《꿈의 나무》, 라로, 에드워드 그렉슨, 제라르 쉬르만, 로베르토 헤라르드, 멘델스존, 생상스의 협주곡 등을 포함한다. 실내악에서는 장 위보와 함께 프랑크, 드뷔시, 생상스, 피에르네, 비에른 작품을 녹음하였고, 브리지트 앙제레르와의 듀오로 슈만, 그리그, 베토벤 작품을 발표하였다.

올리비에 샤를리에는 1992년부터 파리 국립고등음악원 교수로 재직하며, 스승 피에르 두캉의 뒤를 이었다. 또한 뮌헨, 하노버, 인디애나폴리스, 자크 티보 국제 콩쿠르의 심사위원으로 자주 초청되고 있다.