Das Erdreich stellt einen exzellenten Wärmespeicher dar, da hier Temperaturen während des gesamten Jahres zwischen 7 bis zu 13 Grad Celsius (in etwa 2 Meter Tiefe) bestehen. Horizontal installierte Erdkollektoren sowie vertikal im Boden installierte Erdsonden befördern die vorhandene Wärme, mithilfe eines Gemischs aus Frostschutzmittel (Sole) und Wasser, zu dem Verdampfer der jeweiligen Sole-Wasser-Wärmepumpe.

Besitzt die Erdwärmepumpe einen Erdkollektor, entziehen spezielle großflächige Kunststoff-Rohrsysteme dem Erdreich die gespeicherte Wärme. Die Wärmequelle "Erdreich" bezeichnet die oberste Schicht des Bodens bis in etwa 5 Meter Tiefe. Die Wärme wird mittels eines Wärmetauschers gewonnen, welcher auf einer freien Fläche nah Ihrem zu beheizenden Gebäude, installiert ist. Die Wärme, welche aus wesentlich tieferen Erdschichten nach oben strömt, beträgt lediglich 0,063 bis zu 0,1 W/Quadratmeter. Als Wärmequelle für obere Schichten scheidet sie somit aus. Der Erdkollektor wird zum Beispiel mittels Regen oder Tauwasser sowie Sonneneinstrahlung regeneriert beziehungsweise nutzt deren Energie für seine Erdwärmepumpe.

Die Kunststoff-Rohrsysteme (PE) werden im Erdreich etwa 1,20 bis zu 1,50 Metern tief gelegt, wobei die jeweiligen Rohrstränge maximal 100 Meter Länge besitzen sollten, um Druckverluste und erhöhte Pumpenleistungen zu vermeiden. Zudem sollten die PE-Rohre über eine gleiche Länge verfügen, um einheitliche Bedingungen für eine Durchströmung zu gewährleisten. So kann auch das Kollektorfeld die Wärme gleichmäßig aus dem Erdreich ziehen. Die Kunststoffrohre werden an den Enden in höher gelegenen Vor- beziehungsweise Rücklaufsammlern (Entlüftung) zusammengeführt. Jeder Rohrstrang sollte zudem einzeln abzusperren sein.

Eine Umwälzpumpe befördert die Sole durch die PE-Rohre und absorbiert dabei die gespeicherte Wärme des Erdreiches. Ist das Erdreich geringfügig im direkten Umfeld der Rohre vereist, wirkt sich dies weder auf den Wuchs der Pflanzen noch auf die Erdwärmepumpe negativ aus. Pflanzen mit tief gehenden Wurzeln sollten jedoch etwas abseits der Solerohre ihren Platz finden. Der somit "entwärmte" Erdbereich regeneriert sich in jedem Frühjahr/Sommer wieder mittels der Niederschläge sowie Sonneneinstrahlung. Hierdurch wird gewährleistet, dass auch die nächste Heizperiode über den Wärmespeicher des Erdreiches beschickt werden kann.

Speziell im Bereich der Einfamilienhäuser sind etliche Bauherren bemüht, die zukünftigen Energiekosten auf einem möglich geringen Niveau zu halten. Aus diesem Grund wird bei freier Wahl des Heizungssystems oftmals eine Erdwärmepumpe aufgegriffen, da der reale Verbrauch gegenüber traditionellen Heizungen immens geringer ausfällt. Je nach Größe des Wohnhauses sind Einsparungen zwischen 500 bis zu 1000 Euro/Jahr möglich. Steigen Öl- sowie Erdgaspreise innerhalb der nächsten Jahre weiter, sind die Einsparungen dementsprechend höher.

Bei den Erdwärmepumpen wird zwischen drei unterschiedlichen Verfahren unterschieden:
- Sole-Wasser-Wärmepumpe
- Luft-Wasser-Wärmepumpe
- sowie Wasser-Wasser-Wärmepumpe.
Die häufigste Variante der Erdwärmepumpe innerhalb Deutschlands ist die Sole-Wasser-Wärmepumpe, die Luft-Wasser-Wärmepumpe liegt hierzulande an zweiter Stelle. Bei der Sole-Wasser-Wärmepumpe werden des Weiteren Bohrungen mit Erdsonden zur Nutzung eines Primärkreislaufs benötigt. Diese Variante einer Erdwärmepumpe ist allerdings auch wesentlich effektiver als Luft-Wasser-Wärmepumpen.

So ist für ein Gebäude mit etwa 120 Quadratmeter (ohne zu beheizenden Keller) für eine Sole-Wasser-Wärmepumpe, inklusive sämtlicher Bohrungen, Anschlüsse und Erdsonden ein Betrag von ungefähr 18.000 Euro einzusetzen. Bei der Variante Luft-Wasser-Wärmepumpe sind es ungefähr 12.000 Euro. Länder sowie Kommunen bieten dazu attraktive Fördermöglichkeiten, welche die Entscheidung leicht machen.