1874年2月17日出生于美国纽约。毕业于美国埃尔米拉商业学校。1896年进入美国“全国收款机公司”担任推销员。1914年进入计算制表记录公司（CTR）任公司经理。1924年改计算制表记录公司（CTR）为IBM公司，成为 IBM的创始人。1956年去世。

1939年公司国外销售总额达到4100万美元，老沃森年收入居全国首位。40年代后期，老沃森率领公司率先进入计算机领域，被称为“计算机之父”。

1956年老沃森去世后，小托马斯·沃森接替了父亲的职务，使IBM继续迅猛发展，1965年跻身全美十大企业，并成为世界上最大的计算机公司。

光辉岁月

老沃森是20世纪前半叶伟大的企业家之一。作为一名销售天才，他说服商家们放弃分类帐簿，而使用穿孔卡这种原始的会计机器来计帐。他使 IBM 闻名遐迩。他给世界留下了一句箴言──“思考”。但是，把 IBM 推进计算机行业的，是他的长子小沃森。1956 年取代父亲成为首席执行官后，他领导公司度过了一个前所未有的长期的、惊人的迅猛增长时期。他塑造的 IBM 是美国战后繁荣时期最脍炙人口的成功故事──每当人们谈到美国公司和“组织人”的话题的时候，他们的脑海里就会涌现出这家公司。到 1971 年小沃森离开 IBM 的时候，公司已经彻底击败了通用电气公司（General Electric）、美国无线电公司（RCA）和斯佩里－通用自动计算机公司（Sperry-Univac）这些计算机行业的竞争对手。无论是规模还是地位，它都超过了这些曾一度主宰美国商界的老牌大公司。在他任职期间，IBM 为股东创造的财富超过了商业史上任何一家公司──这一成就一直延续到 90 年代的牛市，《财富》杂志因此在 1987 年宣布沃森“或许是当代最伟大的资本家”。