La franchise fut fondée en 1960 en tant que membre de l'AFL. En 1970, lors de la fusion entre la NFL et l'AFL, les Patriots furent intégrés dans la NFL.
L'équipe atteignit quatre fois les séries avant son premier Super Bowl en 1986 qu'elle perdit face aux Bears de Chicago. Elle atteindra à nouveau le Super Bowl en 1997, perdant cette fois contre les Packers de Green Bay.
Entre 2001 et 2004, les Patriots deviennent la deuxième équipe de l'histoire de la NFL (après les Cowboys de Dallas) à remporter trois titres en quatre ans (2001, 2003, 2004) et la septième équipe à gagner deux Super Bowl consécutifs (2003, 2004).
Lors de la saison 2007, les Patriots réalisent l'exploit de faire une saison régulière parfaite, soit 16 victoires pour aucune défaite, chose que seuls les Miami Dolphins et les Chicago Bears avaient réalisé avant eux. Les Miami Dolphins lors de la saison 1972, mais avec un nombre de matchs à jouer inférieur au cours de la saison régulière. Cette année-là, ils atteignent le Super Bowl en battant les San Diego Chargers en finale de conférence, et se voient opposés aux New York Giants. Après un match serré, une passe, lancée à trente secondes de la fin par Eli Manning, les oblige à concéder le touchdown. Ils perdent finalement ce Super Bowl XLII sur un score de 17 à 14, unique match de la saison où ils se sont inclinés. Cette saison restera tout de même entâchée d'accusations d'espionnage provenant des New York Jets. Ces accusations portent sur le fait que le head coach Bill Belichick et d'autres membres du staff des Patriots aient enregistré par vidéo les signaux défensifs de l'équipe adverse. Tom Brady, le quaterback des Patriots, a été nommé MVP de la saison 2007 (Most Valuable Player, soit meilleur joueur de l'année), mais n'a pas participé au Pro Bowl auquel il était convié.
La saison 2008 des Patriots n'est pas aussi bonne que la précédente et, à l'issue de la saison régulière, ils ne se qualifient pas pour les play-off : avec un bilan de 11 victoires pour 5 défaites, ils terminent à égalité avec les Ravens de Baltimore et les Dolphins de Miami mais terminent derrière ces deux équipes en raison d'un moins bon bilan contre les équipes de la même conférence.
