在20世纪初到50年代，硅谷一带主要以农业为主，仅有的一点制造业，就是附近的食品加工厂。当地的斯坦福大学以电子领域研究而闻名。1937年两个斯坦福的研究生在一间车库创办惠普公司，成为硅谷发展的里程碑。斯坦福大学建立起自身和当地企业之间的合作纽带，成立斯坦福大学研究所（SRI） ，从事研究的同时并帮助学生创立发展公司，大大促进了斯坦福大学周边企业的发展。斯坦福大学周围的各种企业活动快速增长，众多老牌公司如西屋、瑞森、IBM都在该地区建立研究中心。到50年代，高技术产业发展的雏形逐渐在斯坦福一带形成。
自20世纪60年代，硅谷正式得名，成为美国领先的半导体发明和生产基地。当时，硅谷被公认为航天工业和电子工业的中心，其超速发展是得力于半导体工业的发展，以致于在1970年时半导体工业是当地经济最大也是最有活力的一部分。因为硅是半导体的主要原料，从此这个地区得名“硅谷”，开始引领美国IT科技的发展。
20世纪70年代，微型机时代的到来，半导体制造商的发展突飞猛进。硅谷每隔两周就产生一家新公司，并且75%以上的公司寿命在六年以上，其存活率大大高于美国所有公司的平均寿命，在1970年该地区已经成为加利福尼亚州中等家庭收入最高的地区，也是美国收入最高的地区之一。20世纪70年代初风险投资取代军费而成为硅谷创业者的主要经济来源，硅谷自己的社会网络创就了自我支持的金融系统，以他们所积财富的再投资部分去培育了下一批企业家。
20世纪80年代，PC掀开了信息时代的帷幕，硅谷的产业结构国际化和高新技术企业进一步得到发展。1981年IBM公司推出了个人电脑，硅谷地区出现新的包括软件和硬件在内的计算机公司以及计算机维修服务业。据统计，在80年代，硅谷集中了大约3000家电子制造公司，其中85%的公司内工人少于50名。该地区另外3000家公司是为生产者提供服务的，还有2000家公司从事高技术活动。美国的信息高速公路，迅速的铺设到全世界。
硅谷发展兴旺的历史，堪称美国精神在20世纪新的精彩再现。正如一部片名叫《硅谷——百年文艺复兴》的专题片所描述，从1970年代到1990年代，在硅谷，创造性的反叛文化和对约束性商业传统的逃离，让那些梦想家和发明者们承担起巨大的风险，把硅谷变成高科技的同义词。
物极必反。巅峰的背后往往就是深谷。经过 1个世纪逐渐发展起来的硅谷，在最近10年达到了最高峰。与此同时，硅谷急速发展的若干后遗症也开始呈现。
主要表现有三方面：
其一，生活成本昂贵。由于大批人才拥入，硅谷的办公、住宅等生活成本急剧上升，交通状况日趋恶化，学校教育也难以跟上。许多人发现硅谷的收入差距的鸿沟越来越大，生活费用已经攀升到了一个无法忍受的地步。这样，除了那些暴富的网络精英，许多人的生活水平不升反降，度日愈发艰难。强大的工作压力使得很多硅谷人难以顾及个人生活和家庭生活，处于一种在“高压锅状态”下挣扎的状态。成功的代价往往是必须与家人的疏离、与子女陌生。统计表明，硅谷的离婚率高达80％，生育率则在不断下降。很多人认为家庭是工作的负担。
第二，高科技污染严重。在硅谷巨大的成功后面，存在着鲜为人知的问题：那就是高技术污染。一份报告表明，硅谷地区的污染状况是：①高度危险的废溶剂等化学物质正从约80%的地下储罐向外泄漏；②地下水中发现了大约100种化学物质；③圣克拉拉郡发现了150多处地下储罐有泄漏，并且有200口公共水井和私人水井被污染；④圣克拉拉郡每年产生有毒废物10万吨，其中3860吨危险废物被排入环境；⑤每年约有3万～12万吨的重金属（包括镉和镍等）从硅谷通过下水道排入旧金山湾，正在使附近的湿地蒙受严重的环境危害。硅谷的大气污染也相当严重，白天参观硅谷的人会不理解硅谷为什么被称为“谷”，因为到了傍晚烟雾变薄，周围的群山才能够辨认。硅谷的大气质量状况可见一斑。
第三，创新力量受阻。四十多年来，硅谷一直是世界最大高科技创新实验基地，如今，身临其中的创新者们却感觉硅谷乃至全美的高科技行业正处在危险中。金融危机爆发后，随着硅谷不少公司的破产，人们开始意识到这一创新之都正在变得保守：风险投资如今早已没有10几年前的胆魄，它们甚至对于行业老手都心存怀疑，资本密集型企业已寿终正寝。风投资本家对于风险的识别发生变化基于众多原因，包括高科技公司难以上市和顺利出手等。如此一来，风投公司投向互联网公司的创业启动资金越来越少，甚至对于像Facebook这样风头正劲的WEB2.0时代社交网络也颇为吝啬，因硅谷的风投专家并不看好此类公司未来的成长性。不仅是创业与风投环境出现重大变化，如今硅谷也很难获得来自美国政府的更多联邦基金支持。
事实上，已经有很多公司因为忍受不了硅谷而迁居外地。
一份报道指出，硅谷有眼光的业界“英雄”越来越少。英特尔公司前首席执行官安迪·格罗夫说，今天的新公司都在做“修修补补”的工作，没有“突破性”可言。而且，现在很多新兴公司实行的是“离开战略”，即新兴公司的创立者做出一些计划，将公司卖给开价最高的竞标者而不是想方设法将公司做大做强。格罗夫认为：今天的新兴公司根本不能与硅谷巨头们相提并论，他们不会变成下一个英特尔、思科、甲骨文、惠普、苹果、谷歌。诸如Facebook等新兴Web2.0公司，“都只是在冲旧浪而已，他们不可能成长为下一个巨人。” 格罗夫指出，当今硅谷的一些企业经营者目光短浅、胸无大志。他说，一些人在没有资本、没有技术的情况下，拼凑出个东西，便去吸引眼球、卖广告，最终目的只是将公司卖个好价钱，而不是想着通过长期努力来打造真正具有价值的企业。
美国媒体认为，当今硅谷创新能力衰退与美国科研界的浮躁气氛有关。20世纪90年代后期以来，美国联邦政府对尖端计算机科学和电子工程研发的投入锐减，计算机领域的美国学生人数下降，美国一些大型高技术企业更注重能够快速盈利的项目，相对忽视基础研究。
大公司对于基础研究的投入也不断下滑。以惠普公司为例，最近几年里，惠普的研究预算一直停滞不前，其专利获得数的排名由2006年的第5位下滑到2007年的第10位。而另一方面，来自海外的创新力量在不断壮大，基础学科的创新正在以前所未有的广泛性在世界各地遍地开花。2007年，只有7家美国公司跻身专利持有数量最多的25强企业。欧洲和亚洲继续在移动通信方面保持领先地位，日本则在显示器与纳米技术领域独占鳌头，而中国和印度分别在计算机基础研究及软件开发方面占据优势。
当然，硅谷确有一些重要的技术创新还正在研究中，但这些技术创新，并不是像过去一样发生在新兴公司和创业公司中，而是在一些巨头公司的研究中心。例如IBM公司的阿尔马登研究中心。1954年，IBM公司的科学家们已发明了一种信息电子化存储装置———磁盘驱动器。当时，只能存储两首歌。这一技术发展到今天，苹果的iPod已能存储3万首歌。现在，阿尔马登研究中心的科学家们正在努力研究新的存储方法，以更好的满足市场的需要。
大企业才创新是有局限性的。管理大亨克莱顿·克里斯滕森在代表作《创新者的困境》中指出，著名的大企业在出售其产品时有一个既定的利益准则，它们往往不愿意推出颠覆现有产品的技术。而斗志旺盛的新兴企业则通常能够创造技术突破，并促使业界巨头推陈出新。
一旦硅谷出现大问题，则会连带影响美国的制造力、就业增长甚至是国家竞争力。这些潜在问题早在多年前就已出现，但直至近期的经济衰退，问题才逐渐凸显出来。一些有识之士已经清醒的看到这点。思科公司前首席技术官埃斯特林警告说，由于浮躁思维，美国在技术创新方面有“翻船危险”。格罗夫认为：“事实上，美国当前整个技术界的创新能力都岌岌可危，这种局面可能会给美国未来的生产力、就业增长及国家竞争力带来严重的不良影响。” 可以说，如果硅谷企业家和风险投资者不调整重点，树立更远大的目标，在投资方面更勇于承担风险，那么硅谷和整个高技术行业对美国经济的贡献可能就会大大削弱。
