Bei der IP Telefonie – auch als VOIP Telefonie (Voice over IP) oder Internet Telefonie bezeichnet – wird im Prinzip das Internet als Telefonleitung benutzt. Beim herkömmlichen, analogen Telefon verwandelt die Sprechkapsel beim einen Teilnehmer die Schallwellen in elektrische Impulse, die über den Telefondraht zur Hörkapsel des anderen geleitet werden. Diese verwandelt die elektrischen Impulse wiederum in Schall zurück. Bei der digitalen Telefonie, zum Beispiel bei der IP Telefonie, aber auch bei ISDN, wird zunächst genauso der Schall in Stromschwankungen umgesetzt. Diese werden dann aber digitalisiert, zu Datenpaketen zusammengefasst und über ein digitales Netzwerk zur Gegenstelle geschickt. Dort werden aus den Daten wieder elektrische Schwingungen erzeugt, die in der Hörkapsel des Telefons hörbar gemacht werden.
Während bei ISDN nun die ganz normale Telefonleitung zur Übertragung der digitalen Sprachdaten benutzt wird, nutzt man bei der IP Telefonie das Internet zu deren Versand. Das hat vor allen Dingen den Vorteil, dass die Daten nicht an mehr oder weniger feste Wege gebunden sind, wie bei herkömmlichen Telefonleitungen. Bei der IP Telefonie reisen die Sprachdatenpakete als ganz gewöhnliche Internet-Datenpakete mit Hilfe des Protokolls TCP/IP und können daher sehr flexibel transportiert werden, bei Bedarf auch Umwege nehmen und auch unabhängig voneinander reisen.
Beim Telefonieren über das Internet müssen keineswegs beide Teilnehmer ein IP Telefon besitzen. Es gibt Schnittstellen zwischen den Netzen der IP Telefonie und dem herkömmliche Telefonnetz, so dass IP Telefone auch herkömmliche Anschlüsse erreichen können und umgekehrt.