Il a mené une série d'expériences, célèbre avec une roue à palette dans un récipient d'eau, démontrant que le travail mécanique effectué sur un système pourrait être directement converti en chaleur. Cela a conduit à la formulation de la première loi de la thermodynamique , qui indique que l'énergie ne peut être créée ou détruite, seulement transformée d'une forme à une autre.
Le travail de Joule a été crucial pour établir l'équivalence de l'énergie mécanique et thermique, jetant les bases du développement de la thermodynamique en tant que science.