Korzystanie z telefonii internetowej wymaga odpowiedniego sprzętu; dostępne są tu cztery różne możliwości. Pierwsza to użycie standardowego komputera z mikrofonem do przechwytywania głosu użytkownika oraz głośnika lub słuchawek do słuchania uczestników rozmowy. Do tego dochodzi aplikacja i instalacja specjalnego oprogramowania na komputerze. Po drugie, można użyć specjalnych urządzeń końcowych VoIP jak telefony IP i SIP. Różnią się one od standardowego telefonu tylko techniką, która umożliwia przesyłanie danych za pośrednictwem Internetu. Kolejną opcją jest zastosowanie konwencjonalnego telefonu i podłączenie go do specjalnego adaptera, który przekształca sygnały analogowe na cyfrowe. Wreszcie, możliwe jest również użycie telefonu komórkowego, połączonego z siecią za pośrednictwem klienta FMC. Zaletą ostatnich trzech możliwości jest użycie urządzenia, które może być wykorzystywany w taki sam sposób, jak tradycyjny telefon. Kolejną zaletą jest to, że użytkownik jest osiągalny nawet wtedy, gdy jego PC jest wyłączony.
Najpierw sygnały akustyczne są digitalizowane i dzielone na pakiety danych. Te pakiety są następnie znakowane nagłówkami, które zawierają informacje o tożsamości nadawcy i odbiorcy czy o statusie wiadomości. Teraz można już zestawiać połączenie. W tym celu używa się adresu SIP (Session Initiation Protocol Address). Jest to robione tylko raz; dzięki temu można jednoznacznie zidentyfikować adres. Aktywacja urządzenia niesie za sobą jego zalogowanie do serwera. Jeżeli ten adres SIP należy do innego użytkownika, wywołanie jest umieszczane na serwerze, w którym zalogował się ten użytkownik. Serwer przekazuje połączenie do urządzenia końcowego, zestawiając tym samym rozmowę telefoniczną. Ponieważ adres SIP nie jest powiązany z żadnym konkretnym łączem – jak to jest ze standardowym numerem - użytkownik jest połączony z Internetem za pomocą swojego urządzenia końcowego, a zatem jest osiągalny w dowolnym miejscu na świecie.
Istnieje również możliwość podłączenia telefonii internetowej do standardowej sieci telefonicznej, odbywa się to za pośrednictwem bram (gateways). Daje to użytkownikowi możliwość wykorzystania konwencjonalnego telefonu w celu wywołania telefonu VoIP i vice versa. Tzw. bramy mediów (media gateways) mogą być stosowane na przykład do połączeń z sieciami ISDN lub tradycyjnymi.
Pierwszą znaczącą zaleta jest to, że telefonia internetowa jest rozwiązaniem szczególnie tanim, ponieważ w dzisiejszych czasach prawie każde gospodarstwo domowe ma dostęp do internetu. Oznacza to, że standardowe połączenie telefoniczne jest zbędne, może zostać nawet usunięte. Koszty indywidualnych rozmów telefonicznych VoIP zwykle są również niższe, niż w telefonii analogowej. Rozmowy telefoniczne z klientami tego samego operatora VoIP są zazwyczaj bezpłatne, a często zdarza się, że rozmowy z klientami innych operatorów VoIP też są bezpłatne.