嘉庆朝初为翰林院侍读，功臣馆提调，国史馆纂修，参与撰写《清实录乾隆朝实录》。嘉庆九年为日讲起居注官，记录皇帝每天起居言行。嘉庆十二年，稽查西四旗觉罗学，礼部侍郎衔(内阁学士兼)，嘉庆十三年文渊阁直阁事，嘉庆十四年会试副考官，正红旗汉军副都统。十五年列九卿。嘉庆十六年武殿试读卷官、大理寺卿。嘉庆二十年镶黄旗满洲副都统、理藩院右侍郎(署)、刑部侍郎、礼部侍郎，负责盛京宗室移居事务，随同贝子奕绍、盛京将军晋昌、侍郎果齐斯欢前往宗室营。至嘉庆朝已官至正二品，不久因罪被降为正三品奉天府尹，嘉庆二十三年贵庆擅行御道，被修道防御海昌拦阻，贵庆亲自殴打缚拴海昌于马项，率行二十里，帝怒将其流放到齐齐哈尔军台效力，嘉庆二十五年帝崩，加恩释回。道光朝初，相国曹振镛赏识，留其参与《清实录嘉庆朝实录》撰写立功，开复原职，为道光帝所重用。道光五年任兵部侍郎（今国防部副部长）。道光六年以吏部右侍郎贵庆为翻译会试知贡举，大学士托津为满洲翻译会试正考官，户部左侍郎博启图为副考官。道光七年任查库大臣、八旗军政大臣，同年孝穆成皇后梓宫奉移时，帝派贵庆管正黄护军统领事，署步军统领衙门总兵。道光八年帝派卢荫溥、那清安、王宗诚、王引之、贵庆、裕恩、白镕、耆英，兴修西直门至圆明园及阜成门、西便门、福园门、西南门、扇子河南岸并佟府栅栏内外石道、桥座、涵洞等项工程。道光九年署左翼前锋统领，署镶白旗汉军都统。道光十年奉旨勘查修理孝东陵，国史馆清文总校，署管理咸安宫官学事。道光十一年任泰陵镇总兵兼总管内务府大臣，为道光皇帝在龙泉峪吉地开建皇陵，署户部右侍郎兼管钱法堂事务。道光十二年任仓场侍郎，奏修直隶通惠河二闸，帝从贵庆请也。道光十三年升漕运总督，赴江淮一带，时陶澍任两江总督，林则徐任江苏巡抚。不久迁热河都统，盛京刑部侍郎兼帮办参务管理移居宗室事务，将北京宗室皇族部分移回东北沈阳，并会同礼部尚书奕灏、盛京将军宝兴、工部左侍郎裕诚修缮盛京永陵福陵殿座。道光十五年回京任刑部侍郎、正红旗蒙古副都统。道光十六年七月壬寅，接替恩铭，担任清朝礼部尚书，赐紫禁城骑马，后病免。由宗室奕纪接任。道光十六年十二月，帝命礼部尚书贵庆为正使，内阁学士倭什讷为副使，册封贵人郭佳氏为佳嫔。道光十七年上元节，贵庆负责皇家廷宴于西苑，道光帝赏其蟒袍、御用缎、白玉香灯、乾隆朝御墨等。御墨上有：“内殿轻煤”，贵庆忆起四十年前其师戴均元曾提及此墨乃乾隆朝御用。