华盛顿很早就说过，各州的结合，仅由一根「沙土制成的绳索」所联系，大陆会议的声望已经一落千丈。马里兰和弗吉尼亚两州为波托马克河上的航运权而争论不休，并导致了五州代表于一七八六年在安纳波里斯召开一次会议。代表之一的亚历山大﹒汉密尔顿向其它代表说，贸易问题牵涉太广，而当前形势又非常严重，并不是像他们这样一批没多少代表性的人所能处理的。
图 美国制宪会议
他呼吁在场的人促请各州委派合众国代表，并且「制定条文，使联邦政府的宪法可以用来处理联邦内的各种危急情况。」大陆会议听到这个大胆的建议，起初非常愤怒，但是，当他们听到弗吉尼亚已经推选乔治﹒华盛顿作代表时，便不再抗议了。在翌年的秋冬两季里，除罗得岛外，其它各州都举行了选举。
1787年5月在费城的州议会大厦举行的制宪会议，是一个显赫人物的聚会。各州议会所推选的，都是一些在殖民地政府、州政府、大陆会议、法庭或者在战场上有经验的领袖人物。乔治﹒华盛顿因为在革命时期表现的正直的态度及军事领导的才华，成为举国知名的公民，并被推选为会议主席。足智多谋的富兰克林，这时已经八十一岁了，他让比他年轻的人多发言；其它代表之间有什么争执不决时，他便以那种好意的幽默和多年从事外交工作的丰富经险帮他们调解。
比较活跃的代表中，最突出的是两位宾夕法尼亚的代表：一是古维诺尔﹒莫里斯，他干练果断，深切了解建立全国性政府的必要性。另一位是詹姆斯﹒威尔逊，他致力于建立全国性政府。弗吉尼亚派来的詹姆斯﹒麦迪逊，也是一个实在的青年政治家，对政治和历史都很有研究；据另一位代表说，「他富于勤勉和实事求是的精神……无论什么，他都是最渊博的人。」
马萨诸塞派来的鲁弗斯﹒金和埃尔布里奇﹒格里，都是能力强、经验多的年轻人。康涅狄格州的代表中，还有当过鞋匠的法官罗杰﹒谢尔曼。从纽约来的亚历山大﹒汉密尔顿﹒那时年方三十，已经闻名全国了。殖民地时代的许多名人，有几位没有参加，托马斯﹒杰斐逊便是其中之一，他那时正奉命出使法国。五十五名代表中，大半是青年人，平均年龄是四十二岁。
这次会议，仅被授权草拟「邦联条例」的修正条款。但是，正如日后麦迪逊说的，代表们「抱着对本国的坚强信念」，把邦联条例搁在一边，径自考虑如何建立一个全新形式的政府。
他们认识到，目前最迫切需要的，是如何协调两种不同的权力－－一种是已由十三个半独立性的州当局所行使的地方控制权，一种便是中央政府的权力。他们采取了如下原则：对于全国性政府的职能和权力，必须加以审慎的规定和说明；因为它们是新的、笼统的、包含很广的；而其它一切职能和权力，则应被理解为是属于各州的。但是代表们又认为，中央政府必须有真正的权力，因此，他们赞成中央政府应当有权铸造货币、管理商业、宣战及缔结和约等。
政治领袖赞成分权制度
十八世纪参加费城会议的这些政治家都是孟德斯鸠均权政治学说的信徒。孟德斯鸠的原则在殖民时期的经验中得到证实，同时又因得到了洛克着文阐述而更显有力。这些都是代表们所熟悉的。这些影响，使代表们确信政府中应该设有三个平等的和合作的部门。立法、行政和司法三种权力应该相互和谐地平衡而不让任何一个取得控制地位。代表们也同意，立法部门应该有两院，就像殖民时期的立法组织以及英国的议会那样。
对于这些观点，代表们的意见完全一致。但是，在讨论到用甚么方法去实现这些观点时，他们之间便发生了尖锐的分歧。各小州的代表们，例如新泽西州，便反对作出改变，认为按人口的比例而不是按州来决定各州在联邦政府中的代表人数，这样便会削弱他们在联邦政府中的影响，而邦联条例则是按州分配代表名额的。
另一方面，大州的代表们，例如弗吉尼亚州，却主张按人口比例决定代表名额。关于这点，双方争论不休，直至康涅狄格州的代表提出了一个计划后，问题才解决。这计划规定在国会一院中，各州代表名额按人口多少比例而定；在另一院中，则各州代表名额相等。
至此，大州反对小州的阵线随即解散。但是，以后几乎在每个问题上都产生了新的对立局面，只有依靠新的妥协才能解决这种对立。某些代表们希望联邦政府各部门都不要直接由人民选举；另外一些代表又认为联邦政府尽可能由人民推选。若干代表们力求排除日渐扩展的西部成为州的可能性；另外一些代表则竭力维护一七八七年西北法令所确定的平等原则。对于全国性的经济问题，如纸币和契约法等，代表们的意见并没有什么严重的分歧。但是，各地区的经济利益必需加以平衡；总统的权力、任期和选举方法等所引起的争论，也有解决的必要；法官的任期以及法庭的种类问题也须解决。
代表们在费城炎热的夏季中努力工作，最后终于拟出了一个草案。在一个简短的文件中，他们创立了人类有史以来最复杂的政府组织－－在一定界限和明文规定的范围中具有最高权威的政府。正如一七九一年美国宪法第十条修正案所明白阐述的：「凡宪法中未授于合众国或未禁止各州行使之权力，均由各州或人民保留之，」而联邦法律的至高权力，也仅限于「根据本宪法而确定」的那些范围。
在授权方面，大会决定给联邦政府充分的权力去征税、借款、统一赋税、铸造货币、规定度量衡、颁发专利及版权执照、建立邮局及开辟邮路。全国性的政府，同时也有权建立和保持海陆军，有权管理州际商务。它也有权处理与印第安人的关系，处理国际关系及战争问题。它可以通过外国人归化法和公地控制法，可以按绝对平等的原则准许新的州参加联邦。联邦政府为了实施这些明确规定的权力，有权通过必要而合适的法律。这种制定法律的权力，使联邦政府可以灵活地满足后代和大大扩展的国家的需要。
各项原则历经考验
为多数殖民政府所熟悉的分权原则，已在大多数的州宪法中被采纳试行，而且证明是切实可行的。因此，大会建立了一个分别由立法、行政和司法部门组成的政府制度，彼此互相制约。
国会的决议案只有得到总统的批准，才能成立。总统任命重要官员和缔结条约，必须得到参议院的同意。国会也有权弹劾及罢免总统。有关法律与宪法的一切问题，全由司法部门处理。因此，法院事实上有解释基本法和成文法的权力。司法官员虽是由总统委任，经参议院同意的，但国会也有权弹劾他们。
为了防止随意更改宪法，大会又制定了第五条款，规定只有当国会两院各有三分之二人数出席会议，或者有三分之二的州举行会议时，方能提出宪法修正案。提案的批准须采取下列两法中的一种：即由四分之三的州议会批准，或由四分之三的州举行的会议所通过。究竟采取哪种方法，则由国会决定。
最后，大会面对着所有问题中最重要的一个问题：即赋予新政府的各种权力，应该如何实施？按邦联条例中的规定，全国性的政府，在理论上具有虽不充分、但却十分巨大的权力，但在实践中，这些权力却等于零，因为各州对它们都不屑一顾。现在该怎样来挽救新的政府，使它不再遭受到同样的命运呢？
起初，大部份代表们都只能提出一个解决的办法，那就是强迫执行。但是，他们立刻发觉，采用强迫的方法来对付各州将会毁灭整个联邦。最后决定政府不对各州、而对各州的人民起作用，为人民立法，对人民施行法律。大会通过了一个简短而极为重要的声明，作为宪法的基石：
「为行使本宪法赋予合众国政府的权力，国会有权……制定一切必要的和适当的法律。……（第一条，第八款）
「本宪法及依本宪法所制定之合众国法律；以及合众国已经缔结及将要缔结的一切条约，皆为全国之最高法律；每个州的法官都应受其约束，任何一州宪法或法律中的任何内容与之抵触时，均不得有违这一规定。」（第六条）
因此，美国的法律，在它自己的全国性法院中，由其法官和执行官执行。在州法院中，这些法律也通过州法官和州司法人员执行。
经过了十六个星期的深思熟虑，草拟的宪法终于在一七八七年九月十七日，在出席的各州的一致同意之下签署了。华盛顿及其它代表们都深为这种庄严的气氛所感动，大家坐在席上，思潮起伏。富兰克林以其特有的诙谐打破了当时紧张的气氛。他指着华盛顿坐椅背后用辉煌的金色绘成的半轮太阳说：
「在会议进程中，许多争论使我时而充满希望，时而感到忧虑。我经常望着主席后面的画，不知道那到底是日出还是日落。但是，现在我终于有幸知道那是日出，而不是日落。」
会议结束了，代表们「到费城大饭店去，一齐欢宴，然后愉快地互相告别。」但是，为争取建立一个更完善的联邦而进行的重要斗争还在后头。宪法必须经过各州民选代表大会通过后方能生效。
制宪会议决定，一旦十三州中有九个州的会议通过，宪法便生效。一七八七年年底，三个州已经批准了这个宪法。但是，还有六个州呢？许多头脑简单的人认为，这个文件对他们充满了危险。他们怀疑宪法中规定的强大的中央政府会不会对他们施行暴政，用重税压迫他们，并且把他们拖入战争中去呢？
由于对这些问题的看法不同，产生了两大派别，一派是联邦主义者，一派是反联邦主义者；前者主张建立一个强大的政府，后者主张各州保持松散的联系。在报刊上、立法机构和各州会议中，到处都可听到双方激昂的辩论。其中最出色的论点出现在「联邦主义者文集」一书中，这本着作现在已被列为政治文献，是汉密尔顿、麦迪逊和约翰﹒杰伊三人为新宪法辩护而写的。
马萨诸塞州内农民的不满情绪还没有完全平息，那里曾发生一次特别激烈的争论，结果产生了一个权利法案，作为增订条文，附加在州宪法中。其它各州也纷纷在它们的宪法中加入这样的条款。而构成联邦宪法中最初十项修正案的一个权利法案也归入了全国最高法律之中。
这些条款，除了其它权利之外，还保证美国公民们享有宗教、言论、出版和集会自由；保证只设民军而不置常备军；保证实施陪审制；保证各地法院必须迅速进行审讯，并禁止使用笼统的搜捕状。权利法案一经采纳，动摇的各州立即支持宪法。最后，在1788年6月25日，宪法正式通过了。
邦联会议安排了第一次选举总统的事宜，并宣布新政府在1789年3月4日正式成立。