Il est impossible de se prononcer avec certitude sur les origines du Terre Neuve. Tout ce que l'on peut affirmer c'est que la race tire son nom de l'île de Terre-neuve, mais ses origines restent floues et incertaines.
Certains considèrent que l'un des chiens de race Mastiff (le Dogue national des îles britanniques) serait à l'origine d'une descendance sur l'île en alliance
avec des sujets autochtones.
D'autres considèrent que l'ancien Dogue du Tibet est à l'origine de la plupart des races de chiens montagne, Saint Bernard en Suisse, Montagne des Pyrénées en France, et que le Terre Neuve, par ses caractéristiques morphologiques,
en descend probablement lui aussi.
D'autres encore évoquent la possibilité d'une ascendance Montagne des Pyrénées, liée à la présence de pêcheurs basques au 16ème siècle à Terre Neuve ainsi que dans l'archipel Saint-Pierre-et- Miquelon. Plusieurs de leurs chiens de Montagne des Pyrénées emmenés en expédition avec eux y auraient fait souche en couvrant des chiennes sur l'île.
Comme de nombreuses races canines actuelles, la généalogie exacte de la race
reste plus une énigme qu'une certitude.
Des explorateurs anglais allaient découvrir des chiens présentant des caractéristiques du Terre Neuve actuel, lors de leurs voyages dans l'île à la fin du 18ème siècle.
Les cynophiles anglais, qui sont à l'origine de la cynophilie moderne, sont les premiers à s'être intéressés à ce chien de Terre Neuve. Ils importèrent, au début du 19ème siècle, quelques spécimens qui allaient former les premières souches de la race en Angleterre.
A cette époque plusieurs milliers de chiens étaient recensés sur l'île et leur activité principale constituait à aider les pêcheurs, ainsi qu'à tracter des charrettes pour convoyer les produits de la pêche. Ce sont sans doute ses multiples possibilités d'utilisation qui allaient inciter les navigateurs anglais à emmener plusieurs sujets en Angleterre et à fixer les caractéristiques de ce chien dans le premier standard de la race.
Le Terre Neuve se montra immédiatement doué pour tout : sa force et sa résistance à la fatigue, sa passion pour l'eau et son instinct pour le sauvetage en firent le compagnon idéal des navigateurs de l'époque.
Les marins avaient en fait l'habitude d'emmener lors de leurs voyages, un Terre Neuve, chien incomparable pour ses qualités de sauveteur. Seul le chien pouvait se jeter soudainement à l'eau et sauver un naufragé en un temps bref.
Le Terre Neuve était également utilisé pour d'autres travaux par exemple : pendant les tempêtes, lorsqu'il était impossible aux chaloupes de regagner la terre, c'était les chiens qui allaient les chercher et les tiraient jusqu'au mouillage.
Son caractère tranquille et sa fidélité en firent un compagnon optimal pour les enfants.
Du fait de ses extraordinaires qualités, le Terre neuve devint rapidement très célèbre dans toute l'Europe, surtout dans le monde anglo-saxon, comme en témoignent les articles des journaux de l'époque, les gravures et peintures, …etc., ou ce chien est très souvent représenté.