三叠纪时期（2亿年前），兴义就有最古老的海面滑翔脊椎动物“兴义飞鱼”和爬行动物“贵州龙”等存在。
旧石器时代（1万2千年前），发现在猫猫洞遗址就有古人类“兴义人”繁衍生息。
贵州龙化石
贵州龙化石
战国时期，兴义属夜郎国。秦代设吏属象郡。西汉元鼎（公元前116-111年）年间司牂牁郡。蜀汉建兴三年（225年），诸葛亮南征，南部将李恢率军“追奔逐北，南至盘江”，以功封汉兴亭侯，始设汉兴县于今市境。唐太宗贞观六年（632年），设附唐县于市境，为盘州治，系戎州都督府所辖之羁縻州。元朝至元十三年（1276年）属云南行省普安路总管府。明代改隶四川布政司。永乐十一年始隶贵州。
嘉庆二年（1797年），改南笼府为兴义府,统辖盘江八属。嘉庆三年（1798年）置兴义县，改隶兴义府、添巡检分治捧乍。直至宣统三年（1911年）末变更，辖贞丰州（今贞丰县及望谟县部分）、册亨州（今册亨县）、普安县（今普安）、新城县（今兴仁）、安南县（今晴隆）、兴义县（今兴义）和捧鲊巡检（今兴义捧鲊镇）。
民国2年（1913年），兴义县为大县，属贵西道。民国6年（1917年），兴义县为郎岱审检厅兼管。是年，贵西道署由安顺迁毕节，兴义县仍属贵西道。民国12年（1923年）撤贵西道，兴义县直属省公署。民国21年（1932年）3月，兴义县划分为7区，7乡、6镇。民国24年（1935年）12月裁撤捧乍分县并入兴义县。民国25年（1936年）3月，全县改划为9区，56联保、266保、2634甲。民国34年（1945年）裁撤区署，各乡镇直属县政府，全县划为2镇、28乡、251保、1988甲。
1949年12月兴义解放。1950年将民国时期所设保甲改为行政村组，全县划分为7个区，30乡镇、250村。
1951年11月，兴仁专区党、政、军机关迁兴义。辖兴仁、晴隆（驻莲城镇）、关岭（驻关索岭）、贞丰、望谟（驻复兴镇）、册亨（驻者楼镇）、安龙、兴义（驻黄草坝）、盘县（驻普安）、普安（驻盘水镇）等10县。
1952年12月，设兴义专区（兴仁专区改兴义专区，兴义县隶兴义专区）。
兴义府
兴义府
1956年将盘县所属阿衣乡大部分划归兴义县，原属安顺专区的郎岱县划归兴义专区。 同年7月，撤销兴义专区，兴义县隶属安顺专区，将关岭、晴隆、兴仁、兴义、普安、盘县、郎岱7县划归安顺专区；望谟、册亨、安龙、贞丰4县划归黔南布依族苗族自治州。
1965年复设兴义专区，专署驻兴义县。将安顺专区所属兴义县、兴仁县、盘县、普安（驻盘水镇）、晴隆（驻莲城镇）5县和黔南布依族苗族自治州的望谟、册亨、安龙、贞丰4县划入兴义专区。1965年11月设盘县特区。兴义专区辖9县、1特区。
1970年，兴义专区改称兴义地区。1971年1月1日，将盘县划归六盘水市。
1981年9月21日，撤销兴义地区，于1982年5月1日成立黔西南布依族苗族自治州，是全国30个自治州中最年轻的自治州。以原兴义地区的行政区域为黔西南布依族苗族自治州的行政区域。自治州人民政府驻兴义县。
1987年11月6日，经国务院批准，兴义撤县建市。
1988年3月1日，正式成立兴义市。（之后政府把每年的11月6日定为兴义市的市庆日。）
2008年11月6日，兴义建市20周年，在兴义桔山广场举行了隆重的庆典活动。
