海上丝路最早始发港———徐闻古港遗址。

在张骞通西域、陆上丝路形成之前，就已有了海上丝绸之路。而且有东海至朝鲜日本，和南海至地中海东非两条起航线。

周武王灭纣，建立周王朝（公元前1112年）时，周武王封箕子到朝鲜，从山东半岛的渤海湾出发，乘船到达朝鲜，教民植桑养蚕织丝。这是最早见于史籍的东海起航线。通过这条线，中国的养蚕剿丝织绸技术最早传到了朝鲜。秦汉时，传说秦始皇为求长生不老丹，曾派徐福率五百童男女和“百工”东渡日本，从此养蚕技术也传入日本，徐福也被日本人民尊祀为“蚕神”。隋唐时，中日航线繁忙，丝绸贸易十分兴盛，一些丝绸商人因此成为巨富，日本也因此保留了较多的唐代丝织品，一些精品甚至在今日中国大陆也难以见到了，如彩色印花锦缎，狩猎纹锦，莲花纹锦、狮子唐草秦乐纹锦等。

南海丝路最早始于南方丝路，即从四川出发到云南，从永昌（今保山）以南，沿伊洛瓦底江到仰光，再西行至印度，由印度渡印度洋；或登陆进入中亚，或继续沿海到大秦（罗马帝国）。到了汉代，汉武帝一面在北方向西域拓展，另一方面也在南方向东南亚拓展，他曾派人招募海员从徐闻（今广东徐闻）、合浦（今广西合浦）港出海，经过日南（今越南）沿海岸线西行，到达黄支国（今印度境内）、已不程国（今斯里兰卡），随船带去的主要有丝绸和黄金等物。这些丝绸再通过印度转销到中亚、西亚、和地中海各国，但这条道路主要是汉朝政府出于政治目的开辟的，并没有成为繁忙的商业航线。

公元166年，大秦王安敦遣使经日南（今越南）从海路来到汉朝，据考证，安敦就是161-180年在位的罗马皇帝马克•奥勒略•安敦尼阿斯。这标志着海上丝绸之路已开始形成。到二三世纪时，罗马商人已通过这条丝路航线不断来到中国南方直接采购丝绸，汉之后，陆上丝路断阻，这条海路成为东西方丝绸贸易的主要途径，广州成为重要的港口。

公元266年，大秦商人秦伦从海路经由交趾国（今越南南部）来到东吴，这是有名可考的第一位到达中国的罗马商人。五世纪时，中国商船已经航行到波斯湾。而大秦、波斯、天竺（今印度）、狮子国（今斯里兰卡）及南海的扶南等国，也有商船往来于中国，中国输出的商品主要还是丝绸，以丝、绢、绫、锦为大宗。

隋朝时，隋炀帝很重视与东南亚各国的交往，即位不久，就在公元607年派遣使者常骏、王君政出使马来半岛上国土广大的赤土国，并带去了帛数百，缎五千，时服一批。其航线应是从南海郡（今广州）出发，经过北部湾，到达越南最南端，再到马来半岛东南方，就到了赤土国。