吴国传说为周文王伯父太伯、仲雍奔荆蛮所创建的。周武王封其后裔周章为吴君，立国于长江下游一带。周简王二年（前584）春，吴国出兵伐郯（今山东郯城县西南）国，郯与吴媾和，表示服于吴。吴国军事上的逐渐强大，与晋使巫臣出使吴国并教导吴国军队操练战阵有关。周简王二年（前584），巫臣请求出使吴国。晋景公同意。他到吴国，很受吴子寿梦赏识。于是，在巫臣联络下，吴晋两国通好。巫臣去吴国时，带楚国三十辆战车到吴国做教练，并留下十五辆。还送给吴国以射手和御者，教吴国军队练习战阵使用战车。吴地盛产优质铜锡，冶炼技术精良，所造兵器驰名天下，逐步发展为军事强国。
依春秋战国时期的记载，吴的建国是在吴太伯和弟仲雍的时期。相传，当周古公亶父（即太王）时，他已准备“翦商”。他预见到他的小儿子季历将生一个大人物（文王昌），因此要把王位（其实当时尚未建国）传给季历。大哥太伯、二哥仲雍知道了父亲的意图之后，便自动跑到了“荆蛮”，以便父亲传位给季历。象这样的美德，在古代倒并不奇怪。然而“荆蛮”终究在哪里呢？要说是今天的江苏南部太湖区域，就是太伯、仲雍所建立的吴国（无锡），好像是太远了。在古代交通困难的情形下，这难免使人怀疑。然而古人迁徙的能力却确是惊人的。依人类学者所说，他们甚至远渡重洋，爬过海拔八千米的高山，今人所认为不可能的，古人反而可以做到。而且夏商周三代既然已进入文明时代，就更没有理由可以完全加以否定。据《史记·吴太伯世家》所说，在吴建国以前，这里的土著还是“断发文身”的。越人也是这样。因此，吴越统治者与土著人民不妨是属于两个不同的族。
吴在金文里写作工，句吴。工，句是发语词，以k?或g?发音。吴、虞古音相同。因此，有些史学家想把它和古代汾河流域之间的“虞”联系起来，认为太伯、仲雍最初所到的“荆蛮”就在那里，以后他们又迁到汉水流域。楚国强大以后，虞又东迁到了江南，并且改写为吴。本世纪五十年代初，江苏丹徒烟燉山发现一个《俎侯矢》，其铭文大意是武王、成王征伐东国，王赐封给俎侯矢弓矢、山川、土地，王人若干，郑七百又若干夫，俎庶人六百又若干夫。俎侯矢为了颂扬王的恩德，给虞公父丁做此尊彝。据此可以断定，这是武王、成王征伐殷商和东国时的器物。这个俎侯（宜作宜侯）就是虞公矢。虞、吴同音。虞公，就是吴国的开创者。时间虽然不是古公亶父时，但也只相差五六代。《史记·吴太伯世家》说：“自太伯作吴，五世而武王克殷，封其后为二。其一，虞，在中国；其一，吴，在蛮夷。十二世而晋灭中国之虞。中国之虞灭二世，而夷蛮之吴兴。”这样说来，司马迁也承认汾河流域之虞与在长江下游江苏太湖之吴，确是一个来源而分裂为二的。晋灭虞、虢在晋献公时，与吴兴的时间大体上可以连接。
吴的建国大概自吴寿梦之时。在古代，太湖一带农业经济的发展，并不太低，但是吴越国家的建立却要晚于华夏诸侯。因此，晋楚争霸尽管非常剧烈，吴或越却不参加会盟和斗争。《左传》宣公二年（公元前601?年）记载：“楚为众舒叛，故伐舒蓼，灭之。楚子疆之。盟吴越而还。”当时舒称群舒、众舒，原来与徐同族，分布于今安徽合肥、庐江等县，在沿长江的边上。春秋后期，吴国兴起，遂成吴、楚共同争夺的目标。《左传》说得清楚，楚因征伐舒蓼，而盟吴越。这是吴越始见于《左传》的记载。
《春秋》经传，成公七年（公元前584?年）记载：吴伐郯，入州来（今安徽凤台县）。鲁国季文子说：“中国不振旅，蛮夷入伐，而莫之或恤。”意思说，吴国侵入鲁国的边境，华复（中国）诸侯不能抵抗。当时人还把吴国作为蛮夷之类。《春秋》经传记上这一笔，似在表明吴已开始强大了。也是在公元前584?年，楚国的叛臣巫臣在晋。他是在楚时与子重、子反等贵族争权夺利失败而逃到晋国的。他蓄意对楚报仇，于是给晋国君臣建议，联络新兴的吴以牵制楚国。晋国的君臣同意了他的策略，便使他代表晋国出使吴国。吴王寿梦信任巫臣，使巫臣的儿子狐庸作为“行人”。吴本长于水战，巫臣教吴训练车战。从此，吴开始伐楚。由淮水直至汉水沿岸，原是徐与群舒和其他蛮夷小国杂居的区域。现在它们也就成了吴楚争夺的目标。吴一岁内连续出战，声东击西，使楚国疲于奔命。“蛮夷之属楚者，吴尽取之”。于是吴在春秋晚期成为霸国。