我国最早的地理著作《禹贡》中，江苏就已经有了自己的地理范围，分属于九州中的徐州和扬州，二州大致以淮河为界。三代时期，淮北先后称为徐州和青州，淮南和江南则称为扬州，居民被称作徐夷、淮夷和越夷，也可泛指东夷、九夷，江南居民也被称作南夷和南蛮。
春秋时，江苏分属于吴、楚、宋，战国时为越、楚、齐的一部分，后归属楚国，江苏境内的大国有吴国、越国和后来的楚国。
公元前221年，秦始皇统一中国后实行郡县制，秦代江苏江北之地为泗水郡、东海郡和琅玡郡，江南之地为鄣郡和会稽郡。
汉代江苏分属于扬州、徐州刺史部和吴楚等诸侯国。西汉初年，江苏境内封立了不少侯国，建都于广陵（今扬州）的吴国势力最大。景帝时改吴国为江都国，广陵改名为江都。武帝时，为广陵复名，置广陵郡，后再改为广陵国，封其子刘胥为广陵王。
南北朝时期，北方以少数民族建立的政权为主，南方则先后建立了东吴、东晋、宋、齐、梁、陈等政权，因此史称“六朝”。
隋代江苏大致分属于扬州和徐州。
唐代江苏境内分属于苏州、常州、润州（今镇江市）、扬州、楚州（今淮安市）、海州（今连云港市）、徐州。
唐太宗时，江苏分属于全国十道中的河南、淮南、江南三道。五代时，江苏先后属吴、南唐、吴越等南方小王朝。
北宋时，江苏分属两浙路、江南东路、淮南路和京东西路。
南宋时，江苏分属两浙、江南东和淮南东路等三路，淮河以北则为金人占领，金将淮北分划于山东西路和山东东路两路。
元代，江苏长江以南属江浙行省，以北属河南行省。
明代，今江苏境内分置应天府、淮安府、扬州府、苏州府、常州府、镇江府、徐州府等。
清代，改明代时的南直隶（即南京）为江南省，康熙六年（1667）分江南省为江苏和安徽两省，此为“江苏”得名之始。
