1930年5月到上海中央特科学习无线电通信技术。11月任中共中央秘密电台报务员。

1931年被派往江西中央革命根据地，担任报务员，实现了中央红军与在上海的党中央的第一次无线电联系。从此，在毛泽东、朱德等的领导下，曾三及其战友开创中国工农红军的无线电通信事业。曾三先后任苏区中央局电台政委、台长，并兼任红军通信学校政委。参加了第二、三、四、五次反“围剿”和红军二万五千里长征。

1936年西安事变后，曾三赴西安，任红军联络处电台台长。1936年12月至1937年7月任中华苏维埃人民共和国中央革命军事委员会通信局副局长。参与开创党的无线电通信事业，培养机要人员。1937年初入抗大、马列学院学习。

全国抗日战争爆发后，担任与友军联络的工作。1937年9月至1939年7月任第二战区战动总会晋西北特派员。

1938年赴新疆任西路军“新兵营”政治教员、党委宣传委员、政治处副主任。

1940年3月到西安做秘密情报工作。11月返回延安，先后任中共中央敌区工作委员会委员、秘书处处长，第二室副主任兼政治处主任，中央办公厅秘书处机要科政治协理员，被选为党的七大代表。1945年4月至6月作为华中代表团成员出席中共七大。同年8月至1949年任中共中央办公厅秘书处处长。1945年9月任中共中央书记处办公厅行政委员会主任。

1946年冬和中央秘书处部分人员带着一大批核心机密档案，东渡黄河到晋绥,1948年5月到达河北平山西柏坡，完成中央档案的安全转移任务。6月起任中央直属机关党委副书记。

1949年2月参加七届二中全会的记录工作。

中华人民共和国成立后，曾三历任中共中央办公厅秘书处处长、秘书局局长。1949年10月至1950年2月，1951年5月至1957年12月任中央直属机关党委副书记，1957年12月至1961年11月任中直机关党委书记处书记。1954年11月至“文化大革命”初期任国家档案局局长。

1955年2月至1966年5月任中共中央办公厅副主任，1959年10月至“文化大革命”初期任中央档案馆馆长。

1962年起先后担任全国地方志小组组长，中国地方志指导小组组长、名誉会长等职，在坚持马列主任、毛泽东思想为指导，继承民族优秀文化传统，组织编纂全国新的地方志方面做了大量开拓性的工作。

“文化大革命”中，曾三遭受迫害，身心受到严重摧残，但他坚贞不渝，与林彪、“四人帮”一伙进行坚决斗争。党的十一届三中全会后，他的冤案得到彻底平反，恢复了原职务。1979年6月至1981年7月任中共中央办公厅副主任，兼任中央档案馆馆长（至1982年6月）。1981年起任中央办公厅顾问。第一届全国人大代表。中共八大代表，十二大候补代表，十三大特邀代表。

1978年12月至1982年9月任中共中央纪律检查委员会委员。1982年9月至1987年11月任中共中央顾问委员会委员。

1990年11月28日曾三因病医治无效在北京逝世。

曾三致力于中共党和国家档案事业的开创、建设和发展。他提出了关于中国档案工作管理体制、基本原则和方针任务的意见，主持制定了一系列适合中国国情的档案工作规章制度，创办了档案干部专修班、档案工作刊物和档案科研机构。他致力于在全国党、政、军机关建立档案室和文书立卷归档制度，为建立全国有系统的档案管理打下坚固基础；积极倡导、组建各级各类档案馆，形成一个门类齐全、初具规模的档案馆网；主持建立了科学技术档案管理工作和城市建设档案管理工作。在档案的管理上，他始终坚持全宗原则，强调档案的完整性；要求积极开展档案提供利用工作，并于1978年起草《关于开放历史档案的意见》。他还先后担任全国地方志小组组长、中国地方志指导小组组长等职，在组织编募地方志方面做了大量开拓性工作。他的一系列思想、理论和观点，对档案事业建设和档案学研究起了重要推动作用，1990年4月中国档案学会第三次会员代表大会授予他档案学研究荣誉奖，以表彰其特殊贡献，同年7月国家档案局汇集他的论著，由档案出版社出版了《曾三档案工作文集》。

“文化大革命”中曾三遭受迫害，身心受到严重摧残，但他坚贞不渝，刚直不阿，与林彪、“四人帮”集团进行了坚决的斗争。中共十一届三中全会后，曾三的冤案得以彻底平反，恢复工作，当选为中共中央纪律检查委员会委员、“十二大”候补代表、中共中央顾部委员会委员和“十三大”特邀代表。曾三坚决贯彻执行中共十一届三中全会以来的路线方针政策，积极领导档案工作的恢复和整顿；为适应中共工作重心转移的需要，及时向中央提出了开放历史档案的意见。在退居二线后，曾三一如既往地关心党务和国家大事，关心党风建设，关心档案事业的建设和发展，为共产主义事业奉献了毕生精力，为新中国的档案事业、档案工作、档案学理论的开创和发展做出了巨大贡献。

1906年7月21日生于湖南省益阳县新市渡。

1913年入私塾读书。

1919年考入益阳县立第二高小（原箴言书院）学习。

1922年考入长沙长郡中学学习，参加进步学生运动。

1924年上半年，将宋希濂等人创办的进步刊物“雷声社”改名为“新雷声社”，任社长，并办《新雷声》。

10月，加入中国社会主义青年团。

1925年担任湖南青沪惨案后援会理事。

春加入中国共产党。

11月，任中国共产主义青年团湖南区执行委员会执行委员，开始了职业革命者的战斗生涯。

1926年1月，担任中共湘区委员会农委秘书。

8月，到骑兵团政治部做宣传和组织工作。 1927初任中共湖南区执行委员会秘书。

1928年化名曾攻玉赴武汉。

1930年5月，赴上海参加中央特科第一期无线电培训班，学习无线电通信技术。

11月，任中共中央秘密电台报务员。

1931年受中共中央委派，赴江西瑞金建立红军第一个无线电台，任苏区中央局电台报务员、政治委员、台长，实现了中央红军与在上海的中共中央的第一次无线电联系。

参加中央苏区第二、第三次反“围剿”。

1933年兼任红军无线电通信学校校长、政治委员。

参加中央苏区第四、第五次反“围剿”。

1934年参加中央红军长征。

1936年西安事变后，赴西安任红军联络处电台台长。

12月，任中华苏维埃人民共和国中央革命军事委员会通信局副局长。

1937年3月，回到延安，入抗大、马列学院学习。

9月，任第二战区战动总会晋西北特派员。

1938年2月，赴新疆任西路军“新兵营”政治教员、党委宣传委员、政治处副主任。

1940年3月，赴西安做秘密情报工作。 11月，奉调回延安先后任中共中央敌区工作委员会委员、秘书处处长、中央社会部第二室副主任兼政治处主任。

1945年调任中央机要科政治协理员。

8月，任中共中央书记处办公厅秘书处处长，当选为“七大”代表。

9月，任中共中央书记处办公厅行政委员会主任。

1947年组织领导中央档案材料的疏散和转移工作。

1948年5月，率中央材料委员会携带档案到达西柏坡，任中共中央办公厅秘书处处长。

6月，任中共中央直属机关党委副书记。

1949年2月，作为工作人员参加中国共产党七届二中全会并负责记录。