Mad Sheer Khan nació en Argel en 1955, en el seno de una familia mixta de origen persa y árabe. Estudió en Francia, donde ahora vive. Su experiencia con tres culturas diferentes le ha permitido desarrollar relaciones fructíferas entre estas influencias variadas. Sus raíces orientales son claras en los ritmos, colores, escalas y fuentes de inspiración de su música. Su objetivo es ir más allá de la imagen desgastada del exótico Oriente y para conseguirlo busca puntos de contacto entre una cultura oriental inspirada por Occidente y su contrapunto, una cultura occidental inspirada por Oriente. Mad Sheer Khan se esfuerza en darle una gama amplia a su música al asociar ideas de la música clásica y folclórica, desarrollándolas en composiciones en el que los estilos clásico urbano y rural conviven juntos. 

Mad Sheer Khan formó su primer grupo en 1975. En 1981 formó un dúo y adoptó una imagen que resultaba bastante rara en aquel momento: se pasó los años de la década de 1980 vestido con un turbante, llevando deliberadamente la contraria a lo que entonces era la práctica normal. Su apariencia poco convencional no detuvo a los críticos, que respondieron entusiasmados a su forma de tocar. En 1982 la conocida revista inglesa New Musical Express lo listó entre los diez guitarristas mejores del mundo. Durante este período Mad Sheer Khan vivía de hecho en Londres, en donde trabajó con Nico, la musa de Velvet Underground en los discos Drama of Exile 1& 2, y se le aclamó por su virtuosismo.

Cuando regresó a Francia, todavía bajo la influencia de su experiencia de Londres, Mad Sheer Khan compuso música con mayor dureza y formó el grupo Harem (Harén), con el que interpretó una mezcla de música electrónica y acústica. En 1994 decidió seguir en solitario y volvió a un estilo étnico más acústico.

Ha colaborado con con muchos otro músicos, como Nina Hagen, Michael Hutchence, Keziah