Aktualizacja z 12 listopada 2026 r.: Lenovo ThinkPad T1g Gen 9 i ThinkPad X9-15p Gen 1 Aura Edition dołączają do Also Tested z wynikami dla nowych zestawów; typy bez zmian. 29 października Dell XPS 16 Creator Edition dołączył do Also Tested w sekcji RTX Spark.
Każdy laptop z rankingu został sprawdzony w laboratorium StorageReview. Mierzymy wydajność lokalnej sztucznej inteligencji bezpośrednio: UL Procyon AI Text Generation uruchamia te same modele na każdym systemie, który je obsługuje, a tam, gdzie sprzęt tego wymaga, zagłębiamy się w LM Studio i Ollama. Żadna pozycja na tej stronie nie jest klasyfikowana na podstawie specyfikacji, a każdy wybór prowadzi do recenzji zawierającej dane.
Istnieją dwie drogi do uruchomienia modeli AI na laptopie w 2026 roku. Dedykowane karty graficzne NVIDIA RTX PRO zapewniają najszybszą prędkość przetwarzania tokenów na sekundę, ale model musi zmieścić się w pamięci VRAM karty, która w tym segmencie wynosi od 8 GB do 24 GB. Projekty zunifikowanej i współdzielonej pamięci, na czele z platformami AMD Ryzen AI Max+ (Strix Halo) i Intel Core Ultra (współdzielona platforma LPCAMM2), oferują wydajność kosztem pojemności: karta graficzna może pożyczyć większość pamięci systemowej, a jak dotąd większe modele w ogóle jej nie wykorzystują. Poniższe propozycje obejmują obie drogi, a także klasę wydajności NPU.
W skrócie
| Kategoria | Konfiguracja | Silnik AI | Kluczowy wynik | Pełna recenzja |
|---|---|---|---|---|
| Najlepszy laptop do lokalnej sztucznej inteligencji | Dell Pro Max 18 Plus | RTX PRO 5000 Blackwell 24 GB / 128 GB CAMM2 | 185 tok/s (Phi, Procyon), najszybszy laptop, jaki testowaliśmy | Recenzja Pro Max 18 Plus |
| Najlepszy dla dużych modeli | HP ZBook Ultra G1a 14 | Ryzen AI Max+ PRO 395, do 96 GB przypisywalnej pamięci zunifikowanej | Załadowano DeepSeek-R1 70B; Gemma 3 27B przy 9 tok/s | Recenzja ZBook Ultra G1a |
| Najlepszy balans 16-calowy | Dell Pro Max 16 Plus | RTX PRO 5000 Blackwell 24 GB / 128 GB CAMM2 | 179 tok/s (Phi) przy 6 godz. 21 min pracy na baterii | Recenzja Pro Max 16 Plus |
| Najlepszy ultraprzenośny | Lenovo ThinkPad P14s Gen 7 | RTX PRO 1000 Blackwell 8GB / 64GB LPCAMM2 | 55 tok/s (Phi) przy 3.59 funta | Recenzja P14s Gen 7 |
| Najlepiej bez oddzielnego procesora graficznego | Dell Pro Precision 5 14s Intel | Intel Arc Pro B390 iGPU, 64 GB współdzielonej pamięci LPCAMM2 | Modele z ponad 8 GB pamięci VRAM i baterią działającą przez 23 godz. 50 min | Recenzja Pro Precision 5 14s |
| Najlepszy cienki i lekki system NPU | HP EliteBook 6 G1q | Snapdragon X Plus, 45 TOPS Hexagon NPU, 32 GB | Llama 3.2 3B z prędkością 37 tok/s w LM Studio | Recenzja EliteBook 6 G1q |
| Najlepszy laptop RTX Spark | HP OmniBook Ultra 16 | RTX Spark N1X, 20-rdzeniowy procesor / 6,144-rdzeniowy procesor graficzny Blackwell, 128 GB (64 GB dla procesora graficznego) | Zadanie agenta kodującego 35B w 72.0 s przy 89.5 tok/s, 3 z 3 przebiegów zaliczone | Recenzja OmniBooka Ultra 16 |
| Najfajniejszy laptop z kartą RTX Spark | Lenovo Yoga 9n 2 w 1 16 | RTX Spark N1X, 20-rdzeniowy procesor / 6,144-rdzeniowy procesor graficzny Blackwell, 64 GB (32 GB dla procesora graficznego) | 72°C szczytowo podczas 30-minutowego obciążenia ciągłego, w porównaniu do 98°C w przypadku HP OmniBook Ultra 16 | Recenzja Yoga 9n 2 w 1 16 |
Wybory
Najlepszy laptop do lokalnej sztucznej inteligencji: Dell Pro Max 18 Plus
Pro Max 18 Plus uzyskał najszybsze wyniki lokalnej sztucznej inteligencji spośród wszystkich laptopów w laboratorium StorageReview. W teście UL Procyon AI Text Generation, karta graficzna RTX PRO 5000 Blackwell (24 GB GDDR7) podniosła prędkość Phi do 185.1 tokena na sekundę, Mistral do 140.5, a Llama 3 do 119.7, przy czasie do pierwszego tokena poniżej 0.35 sekundy w każdym modelu. Procesor Core Ultra 9 285HX i 128 GB pamięci CAMM2 eliminują resztę potoku obliczeniowego, a 24 GB pamięci VRAM bez problemu pomieści modele kwantyzowane klasy 20B.
Kompromisy są dokładnie takie, jak sugeruje obudowa: 7.17 funta (3,2 kg) i 3 godziny i 39 minut pracy na baterii – najkrótszy czas pracy w naszym zestawie danych dotyczących laptopów. To komputer stacjonarny, który się składa. Cena testowa w momencie recenzji wynosiła 9,245 dolarów. Jeśli chodzi o szybkość wnioskowania lokalnego, to jest to odpowiedź.
Recenzja: Dell Pro Max 18 Plus: wydajność Blackwell RTX PRO 5000 w podróży
Najlepszy dla dużych modeli: HP ZBook Ultra G1a 14
Prędkość to jedna oś, a pojemność to druga. ZBook Ultra G1a łączy procesor AMD Ryzen AI Max+ PRO 395 ze 128 GB zunifikowanej pamięci LPDDR5X, z czego do 96 GB można przypisać do karty graficznej Radeon 8060S. Ta pula pamięci pozwoliła nam na załadowanie modeli, których nie obsługuje żaden laptop z dedykowaną kartą graficzną: DeepSeek-R1 70B i QwQ 32B działały lokalnie w LM Studio i Ollama, a Gemma 3 27B generowała 8.96 tokenów na sekundę z szybkością przetwarzania 73 tokenów na sekundę.
Jego wydajność Procyon ustępuje wszystkim urządzeniom RTX PRO (Phi na poziomie 65 tokenów na sekundę), więc nie jest to najlepszy wybór do szybkiej rozmowy o małych modelach. To dobry wybór, gdy liczy się sam model, a to osiąga przy wadze 3.3 funta i 10 godzinach i 35 minutach pracy na baterii. To ta sama historia zunifikowanej pamięci, którą AMD Strix Halo opowiada na naszym komputerze stacjonarnym, w obudowie 14-calowej.
Recenzja: Recenzja HP ZBook Ultra G1a 14
Na horyzoncie: HP ZBook Ultra G3a 16
Powyższy wybór „Najlepszych modeli dla dużych” może wkrótce oddać tę kategorię swojemu następcy. ZBook Ultra G3a 16 oferuje 192 GB zunifikowanej pamięci LPDDR5X-8533 z możliwością przypisania do GPU do 160 GB (G1a 14 oferuje maksymalnie 128 GB i 96 GB), procesor Ryzen AI Max+ PRO 495 na czele oraz przeprojektowaną konstrukcję termiczną, która utrzymuje 100 W mocy, podczas gdy G1a miał 55 W. Pojemność zapewniła G1a pierwsze miejsce, a budżet mocy ograniczył jego możliwości; G3a osiąga oba te parametry jednocześnie.
Firma HP rozpoczęła przyjmowanie zamówień w USA w październiku, a konfiguracje zaczynały się od 3,149 dolarów. G3a wchodzi do rankingu po uruchomieniu pełnych testów Procyon i LM Studio. Nasz test praktyczny obejmował sprzęt na egzemplarzu przedprodukcyjnym, bez możliwości przeprowadzania testów wydajności, a pełna recenzja zostanie opublikowana po dotarciu egzemplarza do laboratorium.
Najlepszy 16-calowy: Dell Pro Max 16 Plus
Pro Max 16 Plus korzysta z tej samej karty graficznej RTX PRO 5000 Blackwell 24 GB co 18 Plus i nie traci praktycznie nic: Phi z prędkością 178.6 tokenów na sekundę, Mistral z prędkością 134.2, Llama 3 z prędkością 114.7, co stanowi około 96 procent przepustowości flagowca. W zamian waży zaledwie 5.63 funta (ok. 2,7 kg) w porównaniu z 7.17 funta (ok. 3,1 kg) i ma prawie dwukrotnie dłuższy czas pracy na baterii – 6 godzin i 21 minut.
Dla większości osób, które chcą mieć dostęp do poważnych, lokalnych inferencji, to lepszy zakup z tych dwóch. Zajmuje również pierwsze miejsce w rankingu najlepszych stacji roboczych mobilnych w kategorii „ Najlepsza mobilna stacja robocza” , co oznacza, że szybkość sztucznej inteligencji idzie w parze z pełnym, sprawdzonym zestawem profesjonalnych aplikacji.
Recenzja: Dell Pro Max 16 Plus Recenzja: Stworzony na długie dni i duże zadania
Najlepszy ultraprzenośny: Lenovo ThinkPad P14s Gen 7
Ważący 3.59 funta (1,67 kg), P14s Gen 7 to najlżejszy laptop z dedykowanym procesorem graficznym Blackwell. Karta RTX PRO 1000 (8 GB GDDR7) osiągnęła Phi na poziomie 55.1 tokena na sekundę, a Mistral na poziomie 40.3, co zapewnia rzeczywiste prędkości interaktywne dla modeli klasy 7B, a procesor NPU Panther Lake o mocy 50 TOPS czyni go maszyną Copilot+. Czas pracy baterii wynoszący 15 godzin i 52 minuty oznacza, że możliwości sztucznej inteligencji nie kosztują Cię dnia pracy.
Poznaj limit przed zakupem: nasza seria Llama 2 13B nie dobiegła końca, ponieważ ten model potrzebuje około 12 GB pamięci graficznej poprzez ścieżkę Procyon, a GPU ma 8 GB. W przypadku modeli kwantyzowanych 7B i mniej to doskonały wybór; w przypadku większych modeli sprawdź stronę wyżej.
Recenzja: Recenzja Lenovo ThinkPad P14s Gen 7
Najlepszy bez oddzielnego procesora graficznego: Dell Pro Precision 5 14s Intel
Brak oddzielnego układu GPU nie stanowi problemu, w granicach rozsądku: Pro Precision 5 14s firmy Intel łączy procesor Core Ultra X9 388H (NPU 50 TOPS) ze zintegrowaną kartą graficzną Intel Arc Pro B390, korzystając z puli pamięci współdzielonej LPCAMM2 o pojemności 64 GB. Podczas naszych testów pula ta obsługiwała większe lokalne obciążenia AI niż 8 GB pamięci współdzielonej, co pozwoliło nam ukończyć cały zestaw Procyon AI Text Generation (wyniki 887 na Phi i 786 na Llama 2), podczas gdy systemy z ograniczoną pamięcią VRAM notowały DNF-y.
Prędkość generacji jest umiarkowana w porównaniu z procesorem RTX PRO, więc nadaje się do pracy z asystentem w tle podczas intensywnych sesji interaktywnych. Reszta pakietu jest imponująca: 1,47 kg (3.12 funta) i 23 godziny i 50 minut pracy na baterii, co jest drugim najdłuższym czasem w całym naszym zestawie danych. Zajmuje również miejsce w kategorii „Najlepsza ultraprzenośna stacja robocza” na naszej liście najlepszych mobilnych stacji roboczych.
Recenzja: Dell Pro Precision 5 14s Intel – recenzja
Najlepszy cienki i lekki system NPU: HP EliteBook 6 G1q
EliteBook 6 G1q odpowiada na inne pytanie: jak mało potrzeba komputera do użytecznej sztucznej inteligencji na urządzeniu? Jego Snapdragon X Plus z 45-bitowym procesorem NPU Hexagon o mocy 45 tonów na sekundę (TOPS) obsługiwał Llamę 3.2 3B z prędkością 36.7 tokenów na sekundę i Gemmę 3 4B z prędkością 29.3 tokenów na sekundę w LM Studio, a modele 1B osiągały prędkość 62 tokenów na sekundę. To użyteczne prędkości czatu z urządzenia o wadze 3.17 funta (1,4 kg), którego bateria działała 19 godzin i 35 minut.
Sufit jest niski, 4B Parameters to największy testowany przez nas model, więc jest on przeznaczony do czatu lokalnego, podsumowań i asystentów offline, a ciężkie modele są poza zasięgiem. Przy cenie około 3,100 dolarów w konfiguracji testowej był to również najtańszy system na tej stronie.
Recenzja: HP EliteBook 6 G1q Recenzja: Całodzienna moc w lekkim laptopie
Laptopy RTX Spark: przetestowane na naszym nowym pakiecie klienckim
Karta NVIDIA RTX Spark N1X przenosi superukład GB10 firmy DGX Spark do laptopów z systemem Windows, z jedną pulą pamięci LPDDR5X współdzieloną przez procesor Grace i kartę graficzną Blackwell. Laptopy są dostępne w dwóch wariantach o TDP od 45 do 80 W: 20-rdzeniowym procesorze z 6,144-rdzeniowym procesorem graficznym oraz 18-rdzeniowym procesorze z 5,120-rdzeniowym procesorem graficznym. Testujemy te systemy na sr-client 1.2, naszym nowym pakiecie klienckim z natywną obsługą architektury Arm64, więc ich wyniki nie pokrywają się z wynikami Procyon za powyższymi typami. Nasze relacje z premiery RTX Spark zawierają pełne informacje o platformie.
Pamięć decyduje, które modele mogą być obsługiwane przez każdą konfigurację. Ustawienie oprogramowania układowego dzieli pulę między system Windows a kartę graficzną (GPU), a nasza najmniejsza lokalna warstwa modelu AI wymaga co najmniej 16 GB pamięci użytkowej dla GPU, więc system z 32 GB pamięci ustawiony na 12 GB dla GPU nie może załadować 12.8 GB pliku gpt-oss:20b.
Najlepszy laptop RTX Spark: HP OmniBook Ultra 16
OmniBook Ultra 16 z 128 GB pamięci to najbardziej kompletny notebook z procesorem RTX Spark, jaki testowaliśmy. Dzięki 62.5 GB pamięci GPU obsługuje oba nasze lokalne poziomy modelu sztucznej inteligencji, generując gpt-oss:20b z prędkością 58.0 tokenów na sekundę i Qwen3.6-35B-A3B z prędkością 89.5. Przeszedł wszystkie dziewięć przebiegów agenta kodującego i ukończył zadanie Qwen3.6 w 72.0 sekundy, co jest najszybszym wynikiem w swojej grupie. Ukończył również test OpenBLAS na wszystkich rdzeniach w temperaturze 98°C, test, który uruchomił dwa urządzenia Surface Laptop Ultra.
Jego wynik 7,004 w teście wielordzeniowym Cinebench 2026 był najlepszym wynikiem procesora w tym porównaniu, o 35% lepszy od Razer Blade 16. Karta graficzna RTX 5090 Blade'a nadal generuje tokeny 2.3 razy szybciej w modelach mieszczących się w 24 GB pamięci RAM, a przeglądarka OmniBooka zwolniła o 1.73 raza, gdy agent kodujący działał na współdzielonym GPU. Testowana przez nas wersja z dyskiem 128 GB i 2 TB pamięci RAM jest sprzedawana wyłącznie za pośrednictwem HP.com, gdzie HP wyceniło ją na 6,229.99 USD (stan na 14 października). Model z dyskiem 32 GB pamięci RAM w cenie 3,199.99 USD utrzymuje prędkość procesora, ale nie może załadować naszych poziomów modeli, a wyniki dotyczące baterii są w toku.
Najfajniejszy laptop z kartą RTX Spark: Lenovo Yoga 9n 2 w 1 16 cali
Yoga 9n 2-w-1 16 działał z N1X chłodniej niż jakikolwiek inny testowany przez nas notebook z kartą graficzną RTX Spark. Podczas 30-minutowej pętli procesor osiągnął szczytową temperaturę 72°C i utrzymywał taktowanie 3,015 MHz, kończąc na 100.1% pierwszego przebiegu. HP OmniBook Ultra 16 i Surface Laptop Ultra osiągnęły temperaturę 98°C, a Lenovo Pro 9n 15 – 92°C. Wszystkie pomiary przeprowadzono w strefach termicznych systemu Windows, jedynego czujnika procesora, który był widoczny w tych systemach. Lenovo chwali się powiększonymi otworami wentylacyjnymi, podniesioną osłoną termiczną i składanym zawiasem, który pozostawia przestrzeń za otworami wentylacyjnymi na przepływ powietrza.
Chłodniejsze ustawienia sprawiają, że Yoga traci nieco na szybkości wszystkich rdzeni w porównaniu z HP. Wyniki testów wielowątkowych są od 4 do 10 procent gorsze od OmniBooka w większości testów, a agent kodujący spowolnił przeglądarkę o 2.44x w Yoga w porównaniu z 1.73x w HP. Wersja z 64 GB pamięci daje GPU 32 GB, co wystarcza na gpt-oss:20b przy 58.0 tokenach na sekundę, ale poniżej naszego poziomu 35 B. W przypadku 16-calowego konwertowalnego laptopa, który spędza czas jako tablet lub na kolanach, taka wymiana ma sens. Cena testowa wynosi 3,749.99 USD, a wyniki testów baterii są w toku.
Recenzja: Lenovo Yoga 9n 2 w 1 16 Recenzja: Najfajniej działający notebook RTX Spark
Przetestowano również w nowym pakiecie:
- Dell XPS 16 Creator Edition: 20-rdzeniowy N1X z 64 GB pamięci i 32 GB współdzielonego procesora graficznego. Generował Llamę 3.1 8B z szybkością 55.7 tokenów na sekundę w kliencie MLPerf, uruchamiał agenta kodowania gpt-oss:20b z szybkością 58.5 i obsługiwał Qwen3.8 27B dla ośmiu użytkowników z szybkością 31.9, co stanowi wynik mieszczący się w przedziale od 2 do 8 procent w porównaniu z OmniBookiem ze 128 GB pamięci w lokalnej sztucznej inteligencji. Utrzymywał pełne taktowanie na poziomie 98°C bez dławienia, osiągał najlepsze wyniki przepustowości pojedynczego rdzenia i pamięci w grupie RTX Spark i jest najłatwiejszy w serwisowaniu. Budżet procesora graficznego 30.5 GB plasuje go poza poziomem agentów 35B. Dell wycenia ten zestaw na 4,799.99 USD.
- Lenovo Pro 9n 15: 18-rdzeniowy procesor N1X z 32 GB pamięci RAM w obudowie ważącej 3.64 funta (1,6 kg). Llama 3.1 8B działał z prędkością 55.1 tokenów na sekundę w kliencie MLPerf, w granicach 2 procent od 20-rdzeniowego procesora N1X z tym samym 12-gigabajtowym procesorem graficznym, a wyższe taktowanie wszystkich rdzeni utrzymuje go w granicach 8 do 11 procent od 20-rdzeniowego procesora podczas renderowania i kompilacji, osiągając temperaturę maksymalną 93 stopni Celsjusza. Z 12 GB pamięci RAM procesor nie przechodzi naszych testów obciążenia modelu i agenta kodującego, więc lokalni nabywcy powinni skonfigurować więcej pamięci. Lenovo oferuje model z 18 rdzeniami, 32 GB i 512 GB pamięci RAM w cenie od 2,999.99 USD.
- Microsoft Surface Laptop Ultra dla firm (według testów): jednostka 128 GB generowała gpt-oss:20b i Qwen3.6-35B-A3B z prędkością od 58 do 89 tokenów na sekundę i osiągnęła wynik 6,963 w wielordzeniowym teście Cinebench 2026. Wygląda na to, że jest to tylko test, ponieważ dwa urządzenia wyłączyły się pod obciążeniem wszystkich rdzeni OpenBLAS.
Wyniki testów baterii dla każdego systemu RTX Spark dostępne są w naszym nowym, wieloplatformowym teście baterii.
Również przetestowane
Oba systemy przeszły ten sam proces laboratoryjny i warto się nimi zainteresować, by znaleźć odpowiedniego nabywcę, mimo że obecnie nie zajmują miejsca w żadnej kategorii.
- Lenovo ThinkPad P16 Gen 3:trzecia maszyna RTX PRO 5000 we flocie (Phi na poziomie 141.2 tok/s); nasze urządzenie zostało dostarczone z 32 GB pamięci RAM, co opóźniało resztę historii przepływu pracy.
- HP ZBook Fury G1i 18:ta sama klasa 24 GB GPU Blackwell co w Pro Max 18 Plus, krok w dół pod względem przepustowości (Phi na poziomie 157.4 tok/s) i cena 11 687 USD według testów przeprowadzonych podczas recenzji.
- Dell Pro Precision 7 16 Intel:RTX PRO 3000 Blackwell z 12 GB pamięci VRAM, najlepszy wynik wśród kart graficznych średniej klasy w tym zestawieniu (wynik generowania tekstu przez Procyon na poziomie 2,244 na Phi przez DirectML); jej 12 GB otwiera klasę 14B, której nie są w stanie pomieścić karty 8 GB.
- Lenovo ThinkPad P1 Gen 8:RTX PRO 2000 8GB w obudowie ważącej 4.06 funta, bateria wystarczająca na 12 godzin i 59 minut; Phi na poziomie 77.3 tok/s.
- Lenovo ThinkPad P1 Gen 9:przetestowaliśmy na naszym nowym zestawie klienckim; jego 50-watowy RTX PRO 2000 wygenerował Llama 3.1 8B z prędkością 64.8 tokenów na sekundę w kliencie MLPerf, najszybszy RTX PRO 2000, jaki testowaliśmy, wyprzedzający RTX Spark HP OmniBook Ultra 16 z prędkością 56.5 tokenów na tym modelu; jego karta 8 GB nie była w stanie załadować naszych modeli o prędkości 20B i większej.
- Lenovo ThinkPad T1g Gen 9: przetestowany na naszym nowym pakiecie klienckim, jego 12 GB GeForce RTX 5070 generował Llama 3.1 8B z prędkością 66.2 tokenów na sekundę w kliencie MLPerf i obsługiwał model Ministral 3 8B, którego 8 GB karta P1 Gen 9 nie była w stanie załadować. Z 11.7 GB dostępnej pamięci plasuje się poniżej 16 GB w naszych modelach od 20 GB w górę. W naszym rankingu najlepszy laptop biznesowy z oddzielną kartą graficzną. Najlepsze laptopy biznesowe tabela wyników.
- Lenovo ThinkPad X9-15p Gen 1 Aura Edition: przetestowany na naszym nowym pakiecie klienckim, Arc B390 z 18.1 GB użytecznej pamięci współdzielonej przeszedł nasz test agenta kodowania gpt-oss:20b w 3 z 3 przebiegów, a 11 z 11 testów zakończyło się sukcesem. Jego wydajność tokenów wynosi mniej więcej połowę wydajności systemów NVIDIA lub mniej, a lutowana konfiguracja 32 GB nie jest w stanie osiągnąć naszych poziomów 27B i 35B, więc lokalni nabywcy systemów AI powinni zamówić opcję 64 GB. Cena testowa w momencie recenzji wynosiła 2,629 dolarów.
- Dell Pro Max 14 Premium: RTX PRO 2000 8GB przy wadze 3.55 funta; Phi na poziomie 54.1 tok/s.
- Dell Pro Max 16 (Ryzen):RTX PRO 1000 8GB z baterią pozwalającą na 16 godzin i 2 minuty; Phi na poziomie 61.9 tok/s.
- Lenovo ThinkPad P14s Gen 6: RTX PRO 500 6GB; karta graficzna klasy podstawowej Blackwell AI o prędkości 45.7 tok/s na Phi.
- Dell Pro Precision 5 16s Intel: 16-calowy odpowiednik naszego wyboru bez procesora graficznego dGPU, działający na tej samej platformie z pamięcią współdzieloną i z najdłuższym czasem pracy na baterii stacji roboczej, jaki zmierzyliśmy — 24 godziny i 43 minuty.
- Dell Pro Precision 5 14s AMD:60 TOPS NPU i współdzielona pula 64 GB; ścieżka obrazu AMD Procyon INT8 nie była jeszcze dostępna w czasie testów, co ogranicza porównanie. Dell Pro Precision 5 16s AMD wprowadza ten sam procesor Ryzen AI 9 HX PRO 475 i 60 TOPS NPU do 16-calowej obudowy i osiągnął najwyższą lokalną przepustowość LLM spośród linii Pro Precision w naszych testach, znacznie przewyższając swojego odpowiednika firmy Intel w przypadku układów Llama3 i Llama2, co czyni go najlepszym wyborem z tej rodziny do pracy nad wnioskowaniem lokalnym.
- HP EliteBook X G1a:Ryzen AI 9 HX 375 z procesorem NPU o mocy 55 TOPS; nie uruchomiliśmy jeszcze na nim naszego pakietu LLM.
Jak oceniamy
UL Procyon AI Text Generation to nasz punkt odniesienia dla całej floty: te same cztery modele (Phi, Mistral, Llama 3 i Llama 2, gdzie pasuje) na każdym laptopie, który je obsługuje, więc liczby tokenów na sekundę są tutaj bezpośrednio porównywalne. Tam, gdzie sprzęt jest interesujący, zagłębiamy się w LM Studio, a Ollama działa na większych modelach. Każdy laptop jest oceniany raz na podstawie pomiaru, a system pojawia się na tej stronie tylko wtedy, gdy wygenerował użyteczne lokalne wyniki AI w naszym laboratorium.
Systemy RTX Spark obsługiwały sr-client 1.2, nasz nowy pakiet kliencki, dlatego na tej stronie porównano je ze sobą, a nie z wynikami Procyon, które były rezultatem innych wyborów.
Ceny na tym rynku szybko się zmieniają, dlatego wszelkie kwoty podane w dolarach na tej stronie to ceny testowe w momencie publikacji recenzji. Nie składamy oświadczeń o wartości bez sprawdzenia aktualnych cen konfiguratora dostawcy, a jeśli to robimy, opatrujemy czek datą.
Najczęściej zadawane pytania dotyczące lokalnej sztucznej inteligencji na laptopie
Co jest ważniejsze dla lokalnej sztucznej inteligencji na laptopie: pamięć VRAM czy pamięć całkowita?
Oba, z różnych powodów: model musi zmieścić się w pamięci dostępnej dla GPU: w przypadku kart dyskretnych jest to pamięć VRAM (w tym przypadku od 8 GB do 24 GB), a nasza Llama 2 13B nie działała na kartach 8 GB, ponieważ potrzebowała około 12 GB. Projekty zunifikowanej i współdzielonej pamięci odwracają równanie: AMD Ryzen AI Max+ może przypisać do 96 GB pamięci RAM systemu dla GPU, a współdzielone pule LPCAMM2 Intela osiągają 64 GB, więc jak dotąd większe modele w ogóle się ładują, tylko z niższą prędkością. Dopasowanie decyduje o tym, czy model działa; układ scalony decyduje o tym, jak szybko.
Jaki jest największy model laptopa, jaki StorageReview zastosował?
DeepSeek-R1 70B, wczytany lokalnie na komputerze HP ZBook Ultra G1a 14 poprzez 96 GB przypisywalnej, zunifikowanej puli pamięci. W przypadku ciągłej generacji zmierzyliśmy wydajność Gemmę 3 27B na poziomie 8.96 tokenów na sekundę na tym samym komputerze. W przypadku komputerów stacjonarnych poprzeczka jest wyżej; ranking najlepszych komputerów stacjonarnych do lokalnej sztucznej inteligencji obejmuje systemy obsługujące znacznie większe modele.
Czy oceny NPU TOPS mają znaczenie przy prowadzeniu kursów LLM?
Mniej niż sugeruje dziś marketing, ponieważ większość lokalnych środowisk uruchomieniowych LLM korzysta z GPU, a każda liczba tokenów na sekundę na tej stronie pochodzi z wnioskowania GPU, z wyjątkiem Snapdragon EliteBook, gdzie liczy się stos sztucznej inteligencji platformy. Obecnie NPU utrzymują się dzięki wydajności i generowaniu obrazu INT8, dlatego wiele z tych maszyn kwalifikuje się jako komputery Copilot+, więc kupuj je przede wszystkim ze względu na GPU i pamięć.
Co dzieje się z czasem pracy baterii, gdy uruchamiasz modele lokalnie?
Wnioskowanie to jedno z największych obciążeń, jakie laptop może obsługiwać w trybie ciągłym, dlatego warto rozważyć podłączenie laptopa do gniazdka sieciowego na czas pracy. Dane dotyczące baterii na tej stronie pochodzą z wyników testu PCMark 10 Modern Office, miernika produktywności, a rozpiętość jest ogromna: 3 godziny i 39 minut na naszym najszybszym laptopie z AI w porównaniu z prawie 24 godzinami na laptopie Dell z pamięcią współdzieloną. Nasz ranking żywotności baterii laptopów plasuje całą konkurencję.
Jak laptopy RTX Spark wypadają w porównaniu z laptopami sklasyfikowanymi tutaj?
Laptopy RTX Spark korzystają z układu NVIDIA N1X, który współdzieli jedną pulę LPDDR5X między procesorem Grace a kartą graficzną Blackwell. Testujemy je na sr-client 1.2, naszym nowym pakiecie klienckim, więc ich wyniki nie pokrywają się wiersz po wierszu z wynikami Procyon za typami na tej stronie. W laptopie HP OmniBook Ultra 16 ze 128 GB pamięci, gpt-oss:20b i Qwen3.6-35B-A3B generowały odpowiednio 58.0 i 89.5 tokenów na sekundę, a zadanie kodowania 35B zaliczyło trzy z trzech przebiegów w 72.0 sekundy.
Podział pamięci decyduje, które modele się załadują: Lenovo Pro 9n 15 z 32 GB pamięci, z ustawionym 12 GB dla GPU, nie był w stanie załadować 12.8 GB gpt-oss:20b. Lenovo Yoga 9n 2-w-1 16 działał najchłodniej, osiągając temperaturę 72°C podczas 30-minutowego ciągłego obciążenia. Surface pojawia się jako tylko testowany, ponieważ dwa urządzenia wyłączyły się podczas naszego obciążenia wszystkich rdzeni OpenBLAS.
Czy powinienem po prostu kupić komputer stacjonarny do lokalnej sztucznej inteligencji?
Jeśli maszyna będzie stała na biurku, to prawdopodobnie tak. Systemy stacjonarne oferują więcej pamięci w przeliczeniu na jednego dolara, lepszą stabilność termiczną i brak kompromisów w kwestii baterii; nasza tabela najlepszych komputerów stacjonarnych do lokalnej sztucznej inteligencji zaczyna się od ceny zbliżonej do cen laptopów ze średniej półki. Laptopy na tej stronie są przeznaczone dla osób, których zadania związane ze sztuczną inteligencją muszą być mobilne.
RTX Spark vs DGX Spark: jaka jest różnica?
To ten sam krzem dostrojony do różnych platform. Laptopy RTX Spark N1X zawierają superchip GB10 od DGX Spark, procesor Grace i kartę graficzną Blackwell dzielące jedną pulę LPDDR5X przy TDP od 45 do 80 W w porównaniu do 140 W publikowanych przez NVIDIA dla GB10 w DGX Spark. DGX Spark działa na stosie Linux firmy NVIDIA ze zunifikowaną pamięcią; laptopy RTX Spark działają na systemie Windows 11 na architekturze Arm, gdzie ustawienie oprogramowania układowego dzieli pulę z góry, a 128-gigabajtowy HP OmniBook Ultra 16 daje swojemu GPU 62.5 GB. Testujemy oba urządzenia na różnych pakietach, więc nie porównujemy ich ze sobą; systemy DGX Spark są klasyfikowane w kategorii najlepszych komputerów stacjonarnych do lokalnej sztucznej inteligencji.
Amazon