Koji Toyoda ha iniziato gli studi di violino con Shinichi Suzuki all'età di tre anni e mezzo, proseguendo poi gli studi al Conservatorio Nazionale Superiore di Parigi. In seguito si è perfezionato con Georges Enescu e Arthur Grumiaux. Ha ricevuto la medaglia Bach dell'Harriet Cohen Music Awards di Londra e premi in concorsi internazionali a Parigi, Ginevra e Bruxelles.

Dal 1962 al 1979 è stato concertatore della Radio-Symphony-Orchestra di Berlino. Dal 1979 al 2000 è stato professore alla Hochschule der Kunste di Berlino. È stato uno dei fondatori e il primo direttore artistico della Kusatsu International Summer Music Academy and Festival e direttore della Gunma Symphony Orchestra.

Ha assunto la presidenza dell'Istituto di Ricerca sull'Educazione al Talento dopo la scomparsa di Shinichi Suzuki nel 1998 ed è anche presidente dell'Associazione Internazionale Suzuki. Alcune delle sue composizioni sono state pubblicate dalla Zen-On Music Publishing Co.