Nace el 2 de febrero de 1875 en Viena y inicia los estudios de violín en 1879 con su padre, violinista aficionado y médico de profesión, perfeccionando su técnica aún en edad infantil con Jacques Auber.

En 1882 ingresa en el Conservatorio de Viena siendo el alumno más joven de la historia de esta institución.

Allí estudia violín con Joseph Hellmesberger (hijo) y composición con Anton Bruckner.

Dos años más tarde debuta como violinista en Viena; tenía entonces 9 años de edad.

A los 10 años estudia en el Conservatorio de París con Joseph Lambert Massart y Delibes, iniciando en 1888 una gira de conciertos en USA.

A pesar del éxito, decide abandonar el violín y dedicarse a la medicina, pero en 1899 retorna a la escena musical, ganando rápida reputación como el más grande violinista de su época.

En 1924 se instala en Berlín, posteriormente en París y en 1939, huyendo de la amenaza nazi, se refugia en los Estados Unidos.

Muere en Nueva York el 29 de enero de 1962.