Va néixer a Berna el 1924. De 1947 a 1949 va estudiar violí en el Conservatori de Zuric i, de 1947 a 1955, sempre a Zuric, va estudiar teoria i composició amb Stefi Geyer (fins a 1949) i després amb Willy Burkhard. De 1950 a 1960 ensenyà violí en el Conservatori de Zuric i, de 1955 a 1956 va estudiar en la Staatliche Hochschule für Musik de Berlín amb Boris Blacher.

De 1960 a 1963 Huber va ensenyar teoria de la música, composició i instrumentació en el Conservatori a Lucània i, a partir de 1964, a l’Acadèmia de música de Basilea. A partir de 1973 i fins a 1990 va ser finalment professor de composició a la Universitat de Freiburg. Entre els alumnes de Huber es troben, entre d’altres, Brian Ferneyhough, Wolfgang Rihm, Daniel Glaus, André Richard, Ulrich Gasser, Michael Jarrell, Younghi Pagh Paan, Kaija Saariaho i Hans Wüthrich.

El 1970 Huber va ser distingit amb el Beethovenpreis de la ciutat Bonn i l’any 2007 amb el premi de música europea d’església.