安史之乱后，地方割据兴起，道成为事实上的地方行政机构，并伴随各地节度使，成为藩镇割据的开始。

唐贞观元年（627年），置十道，河南道属其一，辖境在黄河之南，故名，东尽海，西距函谷，南滨淮水，北临黄河。领虢、陕、汝、郑、滑、汴、许、陈、蔡、颍、亳、宋、徐、泗、宿、海、濮、曹、登、莱、密、青、沂、兖、淄、齐、郓、棣、濠和河南府，共30个州府。辖境相当于山东省、河南省全境，江苏省北部和安徽省北部。治洛州洛阳县（现河南洛阳市东北）。

开元二十一年（733年），分天下为十五道，分置都畿道，以京官遥领河南道。

开元中汝州临汝郡入，共2个府州。河南道遂改治汴州浚仪县。