Der Ingenieurssohn (August) Albert Müller wuchs zunächst in Schaffhausen, ab 1862 in Zürich auf. 1863 trat er dort in die Bauschule des Eidgenössischen Polytechnikums ein und studierte bei Gottfried Semper, der ihn auch als Mitarbeiter bei Bauprojekten in Anspruch nahm, unter anderem für seinen Entwurf des Stadthauses in Winterthur oder für ein Festspielhaus in München. Nach Abschluss seines Studiums 1868 arbeitete Müller in Wien zunächst bei Karl Tietz, später für Semper und Carl Hasenauer im Baubüro für die kaiserlichen Museen (bis 1874). Einer Studienreise nach Italien folgte die dauerhafte Niederlassung in Zürich im Jahr 1875. Hier hatte Müller auf Anhieb Erfolg: Im 1876 durchgeführten Wettbewerb für das erste Zürcher Börsengebäude an der Bahnhofstrasse – Gottfried Semper war Mitglied der Jury – gewann er den 1. Preis (Ausführung zusammen mit Caspar Conrad Ulrich 1877–1880). Im Kuppelsaal dieses Gebäudes war von 1880 bis 1884 das Semper-Museum untergebracht, an dessen Gründung Müller als Kommissionspräsident wesentlichen Anteil hatte. In der Folge realisierte er einige Villen in den Kantonen Aargau und Schaffhausen, in Zürich das Wohn- und Geschäftshaus für Adolf Guyer-Zeller («Zum Gryffenberg», Bahnhof-/Börsenstrasse, 1883–1885) und die «Villa zum Felsen» für Cäsar Schoeller (1884–1885) sowie ein Bankgebäude in Schaffhausen (fertiggestellt 1891). In dieser Zeit unternahm er ausserdem viele Reisen in Europa und im Mittelmehrraum (u. a. Ägypten).
Mit seinem zweiten grossen Wettbewerbserfolg 1897 für den Bau der evangelisch-reformierten Kirche Rorschach (1902–1904) setzte Müller sich von Sempers Neurenaissance ab. Ist der Innenraum an einen regionalen Barock angelehnt, zeigen sich aussen Bezüge zur mittelalterlichen Burgenarchitektur. Die von 1897 bis 1898 für den Bierbrauer Albert Heinrich Hürlimann errichtete Villa Sihlberg in Zürich wiederum orientiert sich stilistisch an der französischen Frührenaissance. Zahlreiche weitere Wohnbauten, aber auch ein Krankenasyl in Thalwil und ein Hotel in St. Blasien (Schwarzwald), Gartenanlagen und Denkmäler folgten.
1878 übernahm Müller den Aufbau von Zürichs (Kunst-)Gewerbemuseum und Kunstgewerbeschule (bis 1896). Gottfried Sempers Assistent und Nachfolger am Polytechnikum Julius Stadler hatte diese Institutionen in den 1870er Jahren initiiert. Dies führte Müller mit den Förderern eines Museums für «vaterländische Altertümer» (darunter Salomon Vögelin, Johann Rudolf Rahn und Heinrich Angst) zusammen und mündete in den Bau des Schweizerischen Landesmuseums mit einem angeschlossenen Kunstgewerbeflügel (1890–1898 durch Gustav Gull projektiert und ausgeführt). Müller beteiligte sich 1888 an Standort- und Projektstudien, hielt jedoch das schliesslich gewählte Platzspitzareal für ungeeignet und reichte dafür keinen Entwurf ein (Gutbrod 2009, S. 104 sowie Anm. 132).
Albert Müller war in Kommissionen und Verbänden (Zürcher Baukollegium, Universitätsbaukommission, Vorstand des Schweizerischen Gewerbeverbands, der Zürcher Kunstgesellschaft sowie zahlreiche Preisgerichte) in der Zeit vor und nach 1900 allgegenwärtig. Dazu gehörte auch seine gesellschaftliche Verankerung im Milieu der Architekten und Künstler wie beispielsweise im Rahmen der «Dienstagsgesellschaft» um den Maler Rudolf Koller.