Czy RX 5700 XT uruchomi AI? Zmierzone: 63–72 tokenów na sekundę
Tak. Na komputerze stacjonarnym z kartą AMD RX 5700 XT (8 GB) i 48 GB RAM model Gemma 4 E4B pisał 63–72 tokenów na sekundę. Szybciej, niż czytasz.
Co to znaczy w praktyce
| Zadanie | Czas na tym komputerze |
|---|---|
| Napisanie zwykłej odpowiedzi (400 tokenów, około pół strony) | 6 s |
| Przeczytanie długiego dokumentu, który mu dajesz (5 000 tokenów, około 6 stron) | 8 s |
Obliczone z prędkości zmierzonych na tym komputerze: czas to długość podzielona przez prędkość, a prawdziwa odpowiedź potrzebuje jeszcze chwili na rozruch. Dla skali: większość ludzi czyta około 4 słów na sekundę (Brysbaert, 2019), więc samo przeczytanie odpowiedzi o długości 400 tokenów zajmuje ci ponad minutę.
Co zmierzyliśmy
Pisanie to tempo, w jakim AI wystukuje odpowiedź, w tokenach na sekundę; token to kawałek słowa, a po polsku jedno słowo zajmuje zwykle jeden lub dwa. Czytanie to tempo, w jakim przyswaja to, co mu dajesz: twoje pytanie, wklejony tekst albo PDF. Czytanie jest zawsze dużo szybsze niż pisanie, bo AI może czytać wiele tokenów naraz, ale pisać musi je po kolei.
| Co | Działało na | Wynik | Zmierzono |
|---|---|---|---|
| Gemma 4 E4B | karta graficzna | 63–72 tokenów na sekundę przy pisaniu · 594–609 przy czytaniu | 22 września 2026 |
| Gemma 4 E4B | sam procesor | 5 tokenów na sekundę przy pisaniu · 357 przy czytaniu | 22 września 2026 |
| Gemma 4 12B | karta graficzna | 20–36 tokenów na sekundę przy pisaniu · 108–113 przy czytaniu | 22 września 2026 |
Jak zmierzono każdą liczbę: Więcej o tym, jak mierzymy
- Własny test prędkości llama.cpp (llama-bench), silnika, na którym działa GreenCube, z tymi samymi plikami AI: 128 napisanych tokenów, przeczytany tekst na 512 tokenów.
Gdy mamy kilka pomiarów, podajemy zakres: prędkość trochę się waha między pomiarami na tym samym komputerze.
Co to oznacza
Karta graficzna robi całą robotę
Ten sam PC, to samo AI (Gemma 4 E4B): 5 tokenów na sekundę na samym procesorze i 63–72 na karcie graficznej, czyli około 14 razy szybciej. Karta graficzna jest zbudowana, by robić tysiące małych obliczeń naraz w grach, a uruchamianie AI to głównie ten sam rodzaj matematyki. GreenCube przy starcie mierzy oba i używa szybszego.
Całe AI mieści się na karcie
Gemma 4 E4B to plik o rozmiarze 4,2 GB, a karta ma 8 GB własnej pamięci (VRAM). Wszystko się mieści, z miejscem na rozmowę, więc karta nigdy nie czeka na wolniejszą pamięć reszty komputera. To główny powód, dla którego działa tak szybko.
Większy model Gemma 4 12B
Tylko do krótkich czatów. Większy model Gemma 4 12B (6,4 GB) pisał 20–36 tokenów na sekundę przy krótkim pytaniu, ale gdy czat doszedł do 8 192 tokenów (długa rozmowa), się wysypał, a karta była prawie pełna. Dlatego GreenCube proponuje model 12B tylko na kartach z 10 GB lub więcej.
Obrazy
Bardzo prawdopodobnie tak, ale nie zmierzyliśmy jeszcze czasu obrazu na tej karcie. Gdy to zrobimy, wynik pojawi się tutaj. Obraz korzysta z własnego AI o rozmiarze około 6 GB i wymaga dużo więcej obliczeń niż odpowiedź na czacie, więc grafika liczy się tu jeszcze bardziej.
Jak wypada w porównaniu
Spośród 8 komputerów, które zmierzyliśmy z modelem Gemma 4 E4B, ten jest na miejscu 2 pod względem prędkości pisania. RTX 2080 Ti pisze 65–71, czyli mniej więcej tyle samo. RTX 5060 pisze 56 (test startowy), więc ten jest około 20% szybciej.
Zmierzyliśmy 4 kart z 8 GB i dzielą je duże różnice:
- RX 5700 XT: 63–72 tokenów na sekundę
- RTX 5060: 56 tokenów na sekundę (test startowy)
- RX 6600: 42–44 tokenów na sekundę
- RX 580: 10–11 tokenów na sekundę
Pamięć decyduje, które AI się zmieści. To, jak nowa jest karta, decyduje, jak szybko działa.
Komputer z testu
Prywatny komputer prawdziwego testera, używany tak jak zawsze, a nie maszyna laboratoryjna:
- Komputer stacjonarny
- Karta graficzna: AMD RX 5700 XT
- Pamięć karty (VRAM): 8 GB
- RAM: 48 GB
- Procesor: Intel Core i7-9700, 8 wątków
Sprawdź swój komputer
Nie wiesz, co masz w komputerze? To zajmuje 30 sekund:
- Naciśnij Ctrl + Shift + Esc, żeby otworzyć Menedżera zadań.
- Przejdź do Wydajność.
- Kliknij Pamięć: liczba w prawym górnym rogu to twoja RAM.
- Kliknij GPU: nazwa w prawym górnym rogu to twoja karta, a Dedykowana pamięć GPU to twoja VRAM. Widzisz tylko grafikę Intela lub AMD bez dedykowanej pamięci? To znaczy, że nie masz osobnej karty.
Potem znajdź najbardziej podobną kartę w pełnej tabeli. Ta sama karta z większą ilością VRAM zmieści większe AI; nowsza karta tej samej wielkości jest zwykle szybsza.
Inne komputery, które zmierzyliśmy
- RTX 2080 Ti: 65–71 tokenów na sekundę (Gemma 4 E4B)
- RTX 5060: 56 tokenów na sekundę (Gemma 4 E4B)
- RTX 3060: 53–55 tokenów na sekundę (Gemma 4 E4B)
- RX 6600: 42–44 tokenów na sekundę (Gemma 4 E4B)
- GTX 1660 Super: 37–38 tokenów na sekundę (Gemma 4 E4B)
- GTX 1650: około 20 tokenów na sekundę (Gemma 4 E4B)
- laptop z Intel Core Ultra 5: 14–18 tokenów na sekundę (Gemma 4 E2B)
- RX 580: 10–11 tokenów na sekundę (Gemma 4 E4B)
- laptop z Intel Iris Xe: 5–7 tokenów na sekundę (Gemma 4 E2B)
Czy mój komputer uruchomi AI? Wszystkie 10 komputery w jednej tabeli i jak będzie działać twój.
Pytania
Czy RX 5700 XT uruchomi AI lokalnie?
Tak. Na komputerze stacjonarnym z kartą AMD RX 5700 XT (8 GB) i 48 GB RAM model Gemma 4 E4B pisał 63–72 tokenów na sekundę. Szybciej, niż czytasz.
Czy RX 5700 XT stworzy obrazy AI?
Bardzo prawdopodobnie tak, ale nie zmierzyliśmy jeszcze czasu obrazu na tej karcie. Gdy to zrobimy, wynik pojawi się tutaj.
Czy AI działa szybciej na RX 5700 XT, czy na procesorze?
Na karcie, zdecydowanie: 63–72 tokenów na sekundę wobec 5 na procesorze, czyli około 14 razy szybciej.
Czy RX 5700 XT uruchomi Gemma 4 12B?
Tylko do krótkich czatów. Większy model Gemma 4 12B (6,4 GB) pisał 20–36 tokenów na sekundę przy krótkim pytaniu, ale gdy czat doszedł do 8 192 tokenów (długa rozmowa), się wysypał, a karta była prawie pełna. Dlatego GreenCube proponuje model 12B tylko na kartach z 10 GB lub więcej.
Twoje własne AI, na twoim własnym komputerze
GreenCube działa na twoim komputerze: bez limitów użycia, bez subskrypcji, działa bez internetu. 9,99 €, płatne raz.
Kup GreenCube