Czy RTX 2080 Ti uruchomi AI? Zmierzone: 65–71 tokenów na sekundę
Tak. Na komputerze stacjonarnym z kartą NVIDIA RTX 2080 Ti (11 GB) i 128 GB RAM model Gemma 4 E4B pisał 65–71 tokenów na sekundę. Szybciej, niż czytasz.
Co to znaczy w praktyce
| Zadanie | Czas na tym komputerze |
|---|---|
| Napisanie zwykłej odpowiedzi (400 tokenów, około pół strony) | 6 s |
| Przeczytanie długiego dokumentu, który mu dajesz (5 000 tokenów, około 6 stron) | 3–4 s |
| Stworzenie obrazu (512×512) | 8–9 s (pierwszy: 83 s) |
Obliczone z prędkości zmierzonych na tym komputerze: czas to długość podzielona przez prędkość, a prawdziwa odpowiedź potrzebuje jeszcze chwili na rozruch. Dla skali: większość ludzi czyta około 4 słów na sekundę (Brysbaert, 2019), więc samo przeczytanie odpowiedzi o długości 400 tokenów zajmuje ci ponad minutę.
Co zmierzyliśmy
Pisanie to tempo, w jakim AI wystukuje odpowiedź, w tokenach na sekundę; token to kawałek słowa, a po polsku jedno słowo zajmuje zwykle jeden lub dwa. Czytanie to tempo, w jakim przyswaja to, co mu dajesz: twoje pytanie, wklejony tekst albo PDF. Czytanie jest zawsze dużo szybsze niż pisanie, bo AI może czytać wiele tokenów naraz, ale pisać musi je po kolei.
| Co | Działało na | Wynik | Zmierzono |
|---|---|---|---|
| Gemma 4 E4B | karta graficzna | 65–71 tokenów na sekundę przy pisaniu · 1 380–1 800 przy czytaniu | 14 października 2026 1 |
| Gemma 4 E4B | karta graficzna | 75,6 tokenów na sekundę przy pisaniu | 14 października 2026 2 |
| Gemma 4 E4B | sam procesor | 13,5 tokenów na sekundę przy pisaniu | 14 października 2026 2 |
| Obraz (512×512) | karta graficzna | 8–9 s (pierwszy zajął 83 s podczas ładowania) | 12 października 2026 3 |
Jak zmierzono każdą liczbę: Więcej o tym, jak mierzymy
- Prawdziwe czaty w GreenCube 0.1.44: prędkość każdej odpowiedzi od 100 tokenów w górę, odczytana z logu aplikacji. Zakres pomija najwolniejszą i najszybszą dziesiątą część.
- Własny test prędkości GreenCube 0.1.44, który uruchamia się przy starcie, żeby wybrać między kartą graficzną a procesorem: jedna krótka odpowiedź napisana raz na każdym.
- Silnik obrazów GreenCube (Z-Image Turbo), 512×512 pikseli, 8 kroków, mierzony od kliknięcia do gotowego obrazu.
Gdy mamy kilka pomiarów, podajemy zakres: prędkość trochę się waha między pomiarami na tym samym komputerze.
Co to oznacza
Karta graficzna robi całą robotę
Ten sam PC, to samo AI (Gemma 4 E4B): 13,5 tokenów na sekundę na samym procesorze i 75,6 na karcie graficznej, czyli około 5,6 razy szybciej. Karta graficzna jest zbudowana, by robić tysiące małych obliczeń naraz w grach, a uruchamianie AI to głównie ten sam rodzaj matematyki. GreenCube przy starcie mierzy oba i używa szybszego.
Całe AI mieści się na karcie
Gemma 4 E4B to plik o rozmiarze 4,2 GB, a karta ma 11 GB własnej pamięci (VRAM). Wszystko się mieści, z miejscem na rozmowę, więc karta nigdy nie czeka na wolniejszą pamięć reszty komputera. To główny powód, dla którego działa tak szybko.
Większy model Gemma 4 12B
Powinien. Gemma 4 12B to plik o rozmiarze 6,4 GB, a ta karta ma 11 GB, więc zostaje też miejsce na długą rozmowę. Na tej karcie jeszcze go nie mierzyliśmy.
Obrazy
Tak. Jeden obraz (512×512) zajął 8–9 s na karcie graficznej (pierwszy zajął 83 s podczas ładowania). Obraz korzysta z własnego AI o rozmiarze około 6 GB i wymaga dużo więcej obliczeń niż odpowiedź na czacie, więc grafika liczy się tu jeszcze bardziej.
Jak wypada w porównaniu
Spośród 8 komputerów, które zmierzyliśmy z modelem Gemma 4 E4B, ten jest na miejscu 1 pod względem prędkości pisania. RX 5700 XT pisze 63–72, więc ten jest mniej więcej tak samo szybki.
Komputer z testu
Prywatny komputer prawdziwego testera, używany tak jak zawsze, a nie maszyna laboratoryjna:
- Komputer stacjonarny
- Karta graficzna: NVIDIA RTX 2080 Ti
- Pamięć karty (VRAM): 11 GB
- RAM: 128 GB
- Procesor: 32 wątków
Sprawdź swój komputer
Nie wiesz, co masz w komputerze? To zajmuje 30 sekund:
- Naciśnij Ctrl + Shift + Esc, żeby otworzyć Menedżera zadań.
- Przejdź do Wydajność.
- Kliknij Pamięć: liczba w prawym górnym rogu to twoja RAM.
- Kliknij GPU: nazwa w prawym górnym rogu to twoja karta, a Dedykowana pamięć GPU to twoja VRAM. Widzisz tylko grafikę Intela lub AMD bez dedykowanej pamięci? To znaczy, że nie masz osobnej karty.
Potem znajdź najbardziej podobną kartę w pełnej tabeli. Ta sama karta z większą ilością VRAM zmieści większe AI; nowsza karta tej samej wielkości jest zwykle szybsza.
Inne komputery, które zmierzyliśmy
- RX 5700 XT: 63–72 tokenów na sekundę (Gemma 4 E4B)
- RTX 5060: 56 tokenów na sekundę (Gemma 4 E4B)
- RTX 3060: 53–55 tokenów na sekundę (Gemma 4 E4B)
- RX 6600: 42–44 tokenów na sekundę (Gemma 4 E4B)
- GTX 1660 Super: 37–38 tokenów na sekundę (Gemma 4 E4B)
- GTX 1650: około 20 tokenów na sekundę (Gemma 4 E4B)
- laptop z Intel Core Ultra 5: 14–18 tokenów na sekundę (Gemma 4 E2B)
- RX 580: 10–11 tokenów na sekundę (Gemma 4 E4B)
- laptop z Intel Iris Xe: 5–7 tokenów na sekundę (Gemma 4 E2B)
Czy mój komputer uruchomi AI? Wszystkie 10 komputery w jednej tabeli i jak będzie działać twój.
Pytania
Czy RTX 2080 Ti uruchomi AI lokalnie?
Tak. Na komputerze stacjonarnym z kartą NVIDIA RTX 2080 Ti (11 GB) i 128 GB RAM model Gemma 4 E4B pisał 65–71 tokenów na sekundę. Szybciej, niż czytasz.
Czy RTX 2080 Ti stworzy obrazy AI?
Tak. Jeden obraz (512×512) zajął 8–9 s na karcie graficznej (pierwszy zajął 83 s podczas ładowania).
Czy AI działa szybciej na RTX 2080 Ti, czy na procesorze?
Na karcie, zdecydowanie: 75,6 tokenów na sekundę wobec 13,5 na procesorze, czyli około 5,6 razy szybciej.
Czy RTX 2080 Ti uruchomi Gemma 4 12B?
Powinien. Gemma 4 12B to plik o rozmiarze 6,4 GB, a ta karta ma 11 GB, więc zostaje też miejsce na długą rozmowę. Na tej karcie jeszcze go nie mierzyliśmy.
Twoje własne AI, na twoim własnym komputerze
GreenCube działa na twoim komputerze: bez limitów użycia, bez subskrypcji, działa bez internetu. 9,99 €, płatne raz.
Kup GreenCube