Karyo Isztambulban született Baruh Djaki Karyo néven. Gyerek volt még, amikor családja Franciaországba költözött, ott változtatott nevet, és a hetvenes évektől kezdve játszott a párizsi színpadokon. Filmekben viszonylag későn, harmincéves kora körül kezdett szerepelni, de a nyolcvanas években már folyamatosan kapott szerepeket.

1990-ben mutatták be Luc Besson nagy sikerű akciófilmjét, a Nikitát, amelyben Anne Parillaud oldalán játszott. Ezután a tengerentúlon is felfedezték, folyamatosan hívták hollywoodi filmekbe, főleg, ha francia gonosztevőket kellett eljátszani. Így tűnt fel az 1492 – A Paradicsom meghódításában, a Bad Boys – Mire jók a rosszfiúk?-ban, az Aranyszem című James Bond-filmben és a Mel Gibson-féle A hazafiban is.

Eközben Franciaországban is rendszeresen dolgozott: Magyarországon is sokan látták egyik leghíresebb szerepében: Nostradamusként, Luc Bessonnal pedig a Jeanne d’Arc – Az orléans-i szűzben forgatott újra.

Az utóbbi években is folyamatosan játszott filmekben és tévésorozatokban, idén is mutatták be filmjét.