Nasceu na Suiça, onde estudou temporariamente mecânica aeronáutica. Demonstrou desde cedo um forte interesse pela pintura e pela música. Em 1964 entrou para a Escola Profissional de Basileia, uma das mais importantes na área das artes aplicadas. Aqui estabeleceu contacto com grandes nomes da arte moderna como El Lissitzky, Barnett Newman, Clyford Still, Mark Rothko e Paul Klee. Entre 1968 e 1969 visita regularmente o Kunstmuseum em Basileia, onde se interessa cada vez mais pela pintura americana do pós-guerra. Em 1973 expõe uma série de quadros de tendência abstraccionista na Galeria Pablo Staehli de Lucerna. Em 1979 mudou-se para Nova Iorque onde encontra novos estímulos para a sua produção artística. Entre 1983 e 1984 vive em Zurique e publica o seu segundo livro. Em 1985 o Museu de Arte Moderna de Basileia organiza uma grande exposição individual de Federle e este inicia uma nova série de obras composta por quadros de grande formato vertical em branco e negro onde é visível uma forte influência da arte chinesa. Los Angeles, Chicago e Nova Iorque s‹o algumas das cidades onde, entre 1986 e 1988, o seu trabalho é apresentado. Outras importantes apresentações foram na Galerie Nationale du Jeu de Paume em Paris (1995) e no Kunstmuseum de Bona (1995-96). Em 1997 é convidado para ser o representante suíço na Bienal de Veneza. Em 1998 expõe na Galeria Peter Blum de Nova Iorque e ainda nesse mesmo ano tem a sua primeira mostra de carácter museológico no IVAM Centre Julio González, em Valência.