河南省は中国東部の内陸に位置しており、その名前は黄河の南にほとんどがあることから付けられました。山東省西部から河南省、陝西省東部にかけての黄河中下流域の平原は、「中原」と呼ばれる中華文明の発祥地です。古代中国では、天地の中央に中国が位置し、さらにその中央に中原が位置付けられ、歴代王朝の多くがこの地一帯に都を置きました。中国八大古都のうち、四つ(安陽、開封、鄭州、洛陽)が河南省にあります。
中国最初の王朝である「夏」から後漢、魏など、13の王朝が都を置いた洛陽は、その都としての歴史が1500年以上に及びます。市の郊外にある龍門石窟は、甘粛省敦煌の莫高窟、山西省大同の雲崗石窟とともに中国三大石窟の一つとされます。北魏時代から北宋時代のおよそ400年にわたり造営が進められ、川の両岸の山肌に大小2340余の石窟、70余の仏塔、10万余の造像があります。これらは2000年に世界文化遺産に登録されました。
安陽市にある殷墟は、紀元前1300年から同1046年の殷(商ともいう)王朝後期の遺跡です。亀甲や動物の骨に刻まれた古代文字「甲骨文」が、ここで発見されています。これは2006年に世界文化遺産に登録されました。
登封市の山岳地帯、嵩山にある、漢から清の時代に建てられた8カ所の歴史的建築群は、「『天地之中』歴史建築群」として2010年に世界文化遺産に登録されています。その中には、少林寺も含まれており、ここはインドの高僧、菩提達磨(ダルマ大師)が禅宗を開いた場所とされています。ここで少林武術を創設したとの説もあります。