Czy RTX 5060 uruchomi AI? Zmierzone: 56 tokenów na sekundę
Tak. Na komputerze stacjonarnym z kartą NVIDIA RTX 5060 (8 GB) i 32 GB RAM model Gemma 4 E4B pisał 56 tokenów na sekundę. Szybciej, niż czytasz.
Co to znaczy w praktyce
| Zadanie | Czas na tym komputerze |
|---|---|
| Napisanie zwykłej odpowiedzi (400 tokenów, około pół strony) | 7 s |
Obliczone z prędkości zmierzonych na tym komputerze: czas to długość podzielona przez prędkość, a prawdziwa odpowiedź potrzebuje jeszcze chwili na rozruch. Dla skali: większość ludzi czyta około 4 słów na sekundę (Brysbaert, 2019), więc samo przeczytanie odpowiedzi o długości 400 tokenów zajmuje ci ponad minutę.
Co zmierzyliśmy
Pisanie to tempo, w jakim AI wystukuje odpowiedź, w tokenach na sekundę; token to kawałek słowa, a po polsku jedno słowo zajmuje zwykle jeden lub dwa. Czytanie to tempo, w jakim przyswaja to, co mu dajesz: twoje pytanie, wklejony tekst albo PDF. Czytanie jest zawsze dużo szybsze niż pisanie, bo AI może czytać wiele tokenów naraz, ale pisać musi je po kolei.
| Co | Działało na | Wynik | Zmierzono |
|---|---|---|---|
| Gemma 4 E4B | karta graficzna | 55,9 tokenów na sekundę przy pisaniu | 1 października 2026 |
| Gemma 4 E4B | sam procesor | 12,1 tokenów na sekundę przy pisaniu | 1 października 2026 |
Jak zmierzono każdą liczbę: Więcej o tym, jak mierzymy
- Własny test prędkości GreenCube 0.1.42, który uruchamia się przy starcie, żeby wybrać między kartą graficzną a procesorem: jedna krótka odpowiedź napisana raz na każdym.
Gdy mamy kilka pomiarów, podajemy zakres: prędkość trochę się waha między pomiarami na tym samym komputerze.
Co to oznacza
Karta graficzna robi całą robotę
Ten sam PC, to samo AI (Gemma 4 E4B): 12,1 tokenów na sekundę na samym procesorze i 55,9 na karcie graficznej, czyli około 4,6 razy szybciej. Karta graficzna jest zbudowana, by robić tysiące małych obliczeń naraz w grach, a uruchamianie AI to głównie ten sam rodzaj matematyki. GreenCube przy starcie mierzy oba i używa szybszego.
Całe AI mieści się na karcie
Gemma 4 E4B to plik o rozmiarze 4,2 GB, a karta ma 8 GB własnej pamięci (VRAM). Wszystko się mieści, z miejscem na rozmowę, więc karta nigdy nie czeka na wolniejszą pamięć reszty komputera. To główny powód, dla którego działa tak szybko.
Większy model Gemma 4 12B
Niezbyt komfortowo. GreenCube proponuje większy model Gemma 4 12B tylko na kartach z 10 GB VRAM lub więcej, a ta ma 8. Na karcie AMD RX 5700 XT z 8 GB odpowiadał na krótkie pytania, a potem wysypał się w długim czacie.
Obrazy
Bardzo prawdopodobnie tak, ale nie zmierzyliśmy jeszcze czasu obrazu na tej karcie. Gdy to zrobimy, wynik pojawi się tutaj. Obraz korzysta z własnego AI o rozmiarze około 6 GB i wymaga dużo więcej obliczeń niż odpowiedź na czacie, więc grafika liczy się tu jeszcze bardziej.
Jak wypada w porównaniu
Spośród 8 komputerów, które zmierzyliśmy z modelem Gemma 4 E4B, ten jest na miejscu 3 pod względem prędkości pisania. RX 5700 XT pisze 63–72, czyli około 20% szybciej. RTX 3060 pisze 53–55, więc ten jest około 5% szybciej.
Zmierzyliśmy 4 kart z 8 GB i dzielą je duże różnice:
- RX 5700 XT: 63–72 tokenów na sekundę
- RTX 5060: 56 tokenów na sekundę (test startowy)
- RX 6600: 42–44 tokenów na sekundę
- RX 580: 10–11 tokenów na sekundę
Pamięć decyduje, które AI się zmieści. To, jak nowa jest karta, decyduje, jak szybko działa.
Komputer z testu
Prywatny komputer prawdziwego testera, używany tak jak zawsze, a nie maszyna laboratoryjna:
- Komputer stacjonarny
- Karta graficzna: NVIDIA RTX 5060
- Pamięć karty (VRAM): 8 GB
- RAM: 32 GB
- Procesor: 16 wątków
Sprawdź swój komputer
Nie wiesz, co masz w komputerze? To zajmuje 30 sekund:
- Naciśnij Ctrl + Shift + Esc, żeby otworzyć Menedżera zadań.
- Przejdź do Wydajność.
- Kliknij Pamięć: liczba w prawym górnym rogu to twoja RAM.
- Kliknij GPU: nazwa w prawym górnym rogu to twoja karta, a Dedykowana pamięć GPU to twoja VRAM. Widzisz tylko grafikę Intela lub AMD bez dedykowanej pamięci? To znaczy, że nie masz osobnej karty.
Potem znajdź najbardziej podobną kartę w pełnej tabeli. Ta sama karta z większą ilością VRAM zmieści większe AI; nowsza karta tej samej wielkości jest zwykle szybsza.
Inne komputery, które zmierzyliśmy
- RTX 2080 Ti: 65–71 tokenów na sekundę (Gemma 4 E4B)
- RX 5700 XT: 63–72 tokenów na sekundę (Gemma 4 E4B)
- RTX 3060: 53–55 tokenów na sekundę (Gemma 4 E4B)
- RX 6600: 42–44 tokenów na sekundę (Gemma 4 E4B)
- GTX 1660 Super: 37–38 tokenów na sekundę (Gemma 4 E4B)
- GTX 1650: około 20 tokenów na sekundę (Gemma 4 E4B)
- laptop z Intel Core Ultra 5: 14–18 tokenów na sekundę (Gemma 4 E2B)
- RX 580: 10–11 tokenów na sekundę (Gemma 4 E4B)
- laptop z Intel Iris Xe: 5–7 tokenów na sekundę (Gemma 4 E2B)
Czy mój komputer uruchomi AI? Wszystkie 10 komputery w jednej tabeli i jak będzie działać twój.
Pytania
Czy RTX 5060 uruchomi AI lokalnie?
Tak. Na komputerze stacjonarnym z kartą NVIDIA RTX 5060 (8 GB) i 32 GB RAM model Gemma 4 E4B pisał 56 tokenów na sekundę. Szybciej, niż czytasz.
Czy RTX 5060 stworzy obrazy AI?
Bardzo prawdopodobnie tak, ale nie zmierzyliśmy jeszcze czasu obrazu na tej karcie. Gdy to zrobimy, wynik pojawi się tutaj.
Czy AI działa szybciej na RTX 5060, czy na procesorze?
Na karcie, zdecydowanie: 55,9 tokenów na sekundę wobec 12,1 na procesorze, czyli około 4,6 razy szybciej.
Czy RTX 5060 uruchomi Gemma 4 12B?
Niezbyt komfortowo. GreenCube proponuje większy model Gemma 4 12B tylko na kartach z 10 GB VRAM lub więcej, a ta ma 8. Na karcie AMD RX 5700 XT z 8 GB odpowiadał na krótkie pytania, a potem wysypał się w długim czacie.
Twoje własne AI, na twoim własnym komputerze
GreenCube działa na twoim komputerze: bez limitów użycia, bez subskrypcji, działa bez internetu. 9,99 €, płatne raz.
Kup GreenCube