GreenCube
PL
Kup GreenCube

Blog GreenCube

Czy GTX 1650 uruchomi AI? Zmierzone: około 20 tokenów na sekundę

Tak. Na komputerze stacjonarnym z kartą NVIDIA GTX 1650 (4 GB) i 16 GB RAM model Gemma 4 E4B pisał około 20 tokenów na sekundę. Szybciej, niż czytasz.

około 20tokenów na sekundę z modelem Gemma 4 E4B

Co to znaczy w praktyce

ZadanieCzas na tym komputerze
Napisanie zwykłej odpowiedzi (400 tokenów, około pół strony)20 s
Przeczytanie długiego dokumentu, który mu dajesz (5 000 tokenów, około 6 stron)0:13–3:28 min

Obliczone z prędkości zmierzonych na tym komputerze: czas to długość podzielona przez prędkość, a prawdziwa odpowiedź potrzebuje jeszcze chwili na rozruch. Dla skali: większość ludzi czyta około 4 słów na sekundę (Brysbaert, 2019), więc samo przeczytanie odpowiedzi o długości 400 tokenów zajmuje ci ponad minutę.

Co zmierzyliśmy

Pisanie to tempo, w jakim AI wystukuje odpowiedź, w tokenach na sekundę; token to kawałek słowa, a po polsku jedno słowo zajmuje zwykle jeden lub dwa. Czytanie to tempo, w jakim przyswaja to, co mu dajesz: twoje pytanie, wklejony tekst albo PDF. Czytanie jest zawsze dużo szybsze niż pisanie, bo AI może czytać wiele tokenów naraz, ale pisać musi je po kolei.

CoDziałało naWynikZmierzono
Gemma 4 E4Bkarta graficzna, częściowo w RAMokoło 20 tokenów na sekundę przy pisaniu · 24–395 przy czytaniu23 września 2026
Gemma 4 E4B (drugi PC)*karta graficzna, częściowo w RAM8–25 tokenów na sekundę przy pisaniu · 32–301 przy czytaniu1 października 2026

Jak zmierzono każdą liczbę: Więcej o tym, jak mierzymy

  1. Prawdziwe czaty w GreenCube 0.1.40 i 0.1.42: prędkość każdej odpowiedzi od 100 tokenów w górę, odczytana z logu aplikacji. Zakres pomija najwolniejszą i najszybszą dziesiątą część.

Gdy mamy kilka pomiarów, podajemy zakres: prędkość trochę się waha między pomiarami na tym samym komputerze. * Ten tester zadawał głównie krótkie pytania, więc liczą się też odpowiedzi poniżej 100 tokenów. Krótkie odpowiedzi mierzą się trochę wolniej.

Co to oznacza

Nie wszystko mieści się na karcie

Gemma 4 E4B to plik o rozmiarze 4,2 GB, a karta ma 4 GB, więc nie mieści się w całości i część leży w zwykłej pamięci (RAM). Każde pisane słowo musi sięgać do tej części dużo wolniejszą drogą, więc tempo spada i się waha. Mimo to pisze około 20 tokenów na sekundę. Czytanie wklejonego tekstu wahało się z dnia na dzień między 24 a 395 tokenów na sekundę, najpewniej dlatego, że karta była pełna.

Drugi PC z tą samą kartą

Karta GTX 1650 innego testera uruchomiła Gemma 4 E4B w GreenCube 0.1.42: pisała 8–25 tokenów na sekundę, a czytał z prędkością 32–301. Większość jego odpowiedzi była krótka, a krótkie odpowiedzi mierzą się wolniej niż długie: najdłuższa wypadła blisko górnej granicy tego zakresu.

Większy model Gemma 4 12B

Niezbyt komfortowo. GreenCube proponuje większy model Gemma 4 12B tylko na kartach z 10 GB VRAM lub więcej, a ta ma 4. Na karcie AMD RX 5700 XT z 8 GB odpowiadał na krótkie pytania, a potem wysypał się w długim czacie.

Obrazy

Bardzo prawdopodobnie tak, ale nie zmierzyliśmy jeszcze czasu obrazu na tej karcie. Gdy to zrobimy, wynik pojawi się tutaj. Obraz korzysta z własnego AI o rozmiarze około 6 GB i wymaga dużo więcej obliczeń niż odpowiedź na czacie, więc grafika liczy się tu jeszcze bardziej.

Jak wypada w porównaniu

Spośród 8 komputerów, które zmierzyliśmy z modelem Gemma 4 E4B, ten jest na miejscu 7 pod względem prędkości pisania. GTX 1660 Super pisze 37–38, czyli około 90% szybciej. RX 580 pisze 10–11, więc ten jest około 90% szybciej.

Komputer z testu

Prywatny komputer prawdziwego testera, używany tak jak zawsze, a nie maszyna laboratoryjna:

Sprawdź swój komputer

Nie wiesz, co masz w komputerze? To zajmuje 30 sekund:

  1. Naciśnij Ctrl + Shift + Esc, żeby otworzyć Menedżera zadań.
  2. Przejdź do Wydajność.
  3. Kliknij Pamięć: liczba w prawym górnym rogu to twoja RAM.
  4. Kliknij GPU: nazwa w prawym górnym rogu to twoja karta, a Dedykowana pamięć GPU to twoja VRAM. Widzisz tylko grafikę Intela lub AMD bez dedykowanej pamięci? To znaczy, że nie masz osobnej karty.

Potem znajdź najbardziej podobną kartę w pełnej tabeli. Ta sama karta z większą ilością VRAM zmieści większe AI; nowsza karta tej samej wielkości jest zwykle szybsza.

Inne komputery, które zmierzyliśmy

Czy mój komputer uruchomi AI? Wszystkie 10 komputery w jednej tabeli i jak będzie działać twój.

Pytania

Czy GTX 1650 uruchomi AI lokalnie?

Tak. Na komputerze stacjonarnym z kartą NVIDIA GTX 1650 (4 GB) i 16 GB RAM model Gemma 4 E4B pisał około 20 tokenów na sekundę. Szybciej, niż czytasz.

Czy GTX 1650 stworzy obrazy AI?

Bardzo prawdopodobnie tak, ale nie zmierzyliśmy jeszcze czasu obrazu na tej karcie. Gdy to zrobimy, wynik pojawi się tutaj.

Czy GTX 1650 uruchomi Gemma 4 12B?

Niezbyt komfortowo. GreenCube proponuje większy model Gemma 4 12B tylko na kartach z 10 GB VRAM lub więcej, a ta ma 4. Na karcie AMD RX 5700 XT z 8 GB odpowiadał na krótkie pytania, a potem wysypał się w długim czacie.

Twoje własne AI, na twoim własnym komputerze

GreenCube działa na twoim komputerze: bez limitów użycia, bez subskrypcji, działa bez internetu. 9,99 €, płatne raz.

Kup GreenCube