青海省具有悠久的历史。在距今约3万年的旧石器时代晚期，青海西部已有人类活动。省内中石器时代文化有拉乙亥遗址，新石器时代有马家窑文化的大量遗存，青铜器时代有齐家文化、卡约文化、辛店文化、诺木洪文化等丰富的遗迹遗物。秦代以前，青海一直是羌人的主要活动区域。
汉魏南北朝时期的青海
在西汉之初，生活在青海地区的羌族游牧部落大概有数十个。他们过着“逐水草而居”的生活，主要从事狩猎及原始畜牧业和农业生产。因北方匈奴强大，河湟羌人臣服于匈奴。原居河西走廊的月氏人遭匈奴攻击后被迫西迁，少部分逾祁连山南迁到湟水流域与羌人杂居，史称湟中月氏胡。公元前2～1世纪，西汉王朝先后击败了匈奴及羌人的进攻，进兵湟水流域，建立地方政权，兴修水利，广设屯田；并在今西宁筑西平亭，于今湟中镇海堡、乐都老鸦城分别设临羌县和破羌县。汉武帝时又设“护羌校尉”，管理甘肃和青海东部诸羌事务。神爵初，汉宣帝遣后将军赵充国平定青海先零羌等羌人，汉军采取镇抚结合的手段，使羌人归附，置金城属国，安置降羌。西汉末年，在今海晏县三角城置西海郡，下设修远、临羌、兴武、罕虏、顺乐5县，同时在河湟流域广设屯田，促进了青海东部的开发，其余广大地区则仍为羌人游牧地。东汉政权建立以后，在今民和县古鄯邑设金城郡，下设允吾、浩门、临羌、破羌、安夷5县。东汉末年，曹操在西宁设西平郡，辖临羌、西都、破羌、安夷、白土、浩门6县。这时的西宁已日渐成为边陲重镇。
西晋时，西平郡辖西都、临羌、安夷、长宁等4县，白土、浩门两县改属金城郡。十六国前凉时期，分西平郡地置晋兴郡（治今民和上川口），西平郡（治今西宁市）辖西部（治今西宁市）、临羌（治今湟中多巴）、安夷（治今平安）、长宁（治今大通长宁）4县，并节制今海北州地。其中，西都县辖今西宁及湟中、互助的部分地区。376年前凉被前秦所灭，青海东部名义上属前秦的控制范围，实际上被当地羌族各部落占据。后凉时期，改西平郡为西河郡（治今西宁），辖西部、临羌、长宁、安夷4县。南凉时期，改西平郡为河湟郡。
北魏时期，改西平郡为鄯州。西魏时期，在今循化、贵德一代设置浇河郡。北周时期，在今尖扎县设置达化县。4～6世纪，吐谷浑人在青海建立吐谷浑国，至663年亡于吐蕃为止，统治青海长达300多年。这一时期，“丝绸之路”因河西走廊东段经常发生战乱而受阻，青海遂成为东西方交通孔道之一，青唐城（今西宁）则成为东西方交通要站。
隋唐至宋元时期的青海
隋初，隋政权在保留北周所设鄯州、廓州的基础上，废除郡一级建制，将7县合并为4县。这两个州仅管辖河湟地区，青海的其余部分依然在吐谷浑和党项统治之下。隋炀帝大业三年（619），隋炀帝杨广亲征吐谷浑，在打败吐谷浑之后，复在西宁设西平郡，新置龙支县（今民和、循化县），并在吐谷浑都城伏俟城置西河郡，辖宣德、威定两县；在赤水设河源郡，辖赤水、远化两县，分别控制青海西部和南部地区。
唐初，青海东部属于陇右道，改西宁郡为鄯州，辖湟水、龙支、鄯城3县。当时，吐谷浑控制着黄河源一带地区，而崛起的吐蕃在统一西藏之后，向青海扩张，占据了广大草原。安史之乱以后，青海全为吐蕃控制。唐末青海虽曾短暂归唐，但不久之后便陷入了地方割据势力和大小宗教首领的统治之下。
宋朝，厮啰渐渐掌握了青海的主动权，以青唐城（今西宁）为中心，在河、湟、洮地区建立了以吐蕃为主体的地方政权，臣属于宋。宋徽宗初年，厮啰政权势力日衰，宋军遂进占河湟地区，攻取邈川和青唐城，改邈川为湟州，青唐为鄯州，并于1103年把鄯州改名“西宁州”，从此西宁一名沿用至今。北宋亡后，金和西夏占有河湟地区约一个世纪。
南宋时期，成吉思汗发动战争，把青海东部地区纳入蒙古汗国版图。忽必烈建元之后，于旧甘州之地设甘肃行省，今青海东部湟水流域诸县均受制于西宁州，而西部广大地区则归河州的“吐蕃等处宣慰使司”管辖。
明清至民国时期的青海
明初，改西宁州为西宁卫，下辖西宁、碾伯、镇海、北川、南川、古鄯6卫，并在今柴达木和海北地区增设安定、阿瑞、曲先、罕东四卫，归西宁卫统辖；在青海东南部设积石、贵德两州，归河州卫管辖。明朝中叶，蒙古族进入青海，以柴达木为中心，迫使土著藏民退居黄河以南。
清初，南部藏族又进入青海湖南北，蒙藏杂居至今。清代改西宁卫为西宁府，设西宁夏、碾伯县和大通卫；并设立钦差“总理青海蒙古番子事务大臣”，管理蒙古各札萨克和果洛、玉树等藏族部落。这些措施为后来青海建省铺平了道路。清末，又设置西宁、碾伯、大通3县和巴燕戎格、丹噶尔、循化、贵德四厅。
1912年9月，袁世凯任命原西宁府知府廉兴为青海办事长官，任命马麒为西宁镇总兵。次年，廉、马共同主持祭海会盟，致电北洋政府，表示拥护共和。自此，青海全境正式归附中华民国。1928年9月5日，南京国民政府决定新建青海省，将原甘肃省西宁道所属之西宁、大通、碾伯、循化、巴燕戎格、丹噶尔、贵德7县以及日月山以西的广大牧区划归青海省管辖，治设西宁。1929年1月，青海省正式成立。1949年9月5日，西宁解放。1949年9月26日，青海省人民军政委员会宣告成立。1950年1月1日，青海省人民政府正式组成，以西宁为省会。