现代加州理工是自1891年由地方商人和政治家Amos G. Throop在帕萨蒂纳创建的一所职业学校发展而来。在1920年该校获得现在这个名字以前，该校以Throop大学、Throop工艺学院、和Throop技术学院而知名。
    驱动加州理工从一所艺术和手艺的学校成为世界级科学中心的力量源自天文学家乔治·埃勒里·海耳的先见之明。海耳在于1907年来到巴沙迪那后加入了Throop的校董会，作为威尔逊山天文台的首任台长。当时美国的科学研究还处于婴儿期，海耳看到了在巴沙迪那创建一个正式的工程和自然科学教育的学院的机会。海耳成功的吸引到私人的土地和资金赞助，使得他能够给学校建立装备良好的现代实验室设施。然后他说服了实验物理学家密立根加入加州理工学院，为将来把学校建设成为科学技术的中心奠定了基础。
    1917年，海耳雇了建筑设计师Bertram Goodhue来制作一个22英亩(89,000 m²)的校园的总设计图。Goodhue构想了校园的整体布置并设计了物理楼，Dabney厅，和其他一些建筑，他在其中寻求和当地气候、学校的特色、以及海耳的教育哲学的一致性。Goodhue为加州理工作的设计也受到南加州传统的西班牙使团建筑结构的影响。
    在海耳、 Noyes、和密立根的带领下，（并在南加州经济繁荣的促进下），加州理工学院的声誉在1920年代得以迅速提升。1923年，密立根荣获诺贝尔物理学奖。1925年，学校设立地质学系并雇了William Bennett Munro——哈佛大学的历史、政治、和经济学学院的主席，来创立加州理工的人文和社会科学学院。1928年，生物学院在托马斯·亨特·摩尔根的领导下创立，他是美国最出色的生物学家，并是染色体的发现者之一。1926年，航空术研究生院创立，它最后吸引到了冯·卡门，他后来为喷气推进实验室的创立作出了贡献，并且奠定了加州理工作为火箭科学的前沿中心之一的地位。1928年，帕洛玛天文台开始建造。
    密立根在1921年到1945年担任"执行委员会主席"（相当于加州理工校长），其影响力之大以至于学校有时被称为"密立根的学校"。在1950年代，1960年代，和1970年代，加州理工以两名很可能称得上当时最伟大的理论粒子物理学家所在的学校而闻名：盖尔曼和费曼。盖尔曼和费曼都因他们的工作荣获诺贝尔奖，该工作对于粒子物理所谓 "标准模型"的建立有主要贡献。费曼也在物理圈子外作为一个出色的教师和一个富于反传统色彩的人物而出名。