Lokalne modele AI na Twoim komputerze i dysku zewnętrznym: Ollama, nowa Gemma 4 i Qwen Coder w VS Code

Płacisz co miesiąc abonament za GitHub Copilota lub ChatGPT Plus, a w umowach z klientami masz twarde klauzule NDA zabraniające wysyłania komercyjnego kodu do chmury? A może chcesz eksperymentować z najnowszymi modelami sztucznej inteligencji, ale Twój MacBook ma bazowy dysk SSD (256 GB lub 512 GB) i każdy gigabajt jest na wagę złota?

Architektura procesorów Apple Silicon (M1/M2/M3/M4) ze swoją zunifikowaną pamięcią RAM (Unified Memory) o wysokiej przepustowości to sprzętowy majstersztyw do uruchamiania lokalnych modeli językowych (LLM). Nie musisz posiadać stacjonarnej karty graficznej RTX z 24 GB VRAM, aby płynnie generować kod i analizować architekturę aplikacji na własnym biurku.

W tym kompleksowym poradniku krok po kroku przeprowadzimy pełną instalację: przeniesiemy katalog modeli na zewnętrzny dysk SSD (Samsung T7), pobierzemy najnowszy model Google Gemma 4 oraz mistrza programowania Qwen 2.5 Coder 14B, a na końcu zintegrujemy całość z Visual Studio Code za pomocą wtyczki Continue.

Moje środowisko testowe

Komputer: MacBook (16 GB Unified Memory, macOS Sequoia)

Dysk zewnętrzny: Szybki dysk SSD USB-C (np. Samsung T7)

Edytor kodu: Visual Studio Code z rozszerzeniem Continue

Oprogramowanie AI: Ollama (silnik open-source dla macOS)

KROK 1: Przygotowanie dysku zewnętrznego

Domyślnie Ollama pobiera wagi modeli do ukrytego katalogu ~/.ollama/models w Twoim folderze domowym. Dwa zaawansowane modele to niemal 20 GB danych. Przygotujemy więc dedykowany folder na zewnętrznym nośniku SSD podpiętym przez USB-C.

Otwórz Terminal na Macu i sprawdź nazwę zamontowanego dysku:

ls -la /Volumes

Następnie utwórz dedykowany folder Dev/ollama-models na swoim dysku zewnętrznym (podmieniając nazwę woluminu na nazwę Twojego podłączonego dysku):

mkdir -p "/Volumes/T7 Kub/Dev/ollama-models"
cd "/Volumes/T7 Kub/Dev/ollama-models"

Powiększ

KROK 2: Pobranie i instalacja Ollama na macOS

Ollama to lekki, niezwykle dopracowany silnik do uruchamiania modeli open-weights, w pełni zoptymalizowany pod Apple Metal API.

1. Wejdź na oficjalną stronę pobierania ollama.com/download i pobierz instalator dla macOS.

Powiększ

1. Rozpakuj archiwum zip i przeciągnij aplikację Ollama.app do folderu Programy (/Applications).
2. Uruchom aplikację. W oknie startowym kliknij zgodę na instalację narzędzi wiersza poleceń CLI (Install command line tool).

Powiększ

Terminal potwierdzi pomyślne zainstalowanie poleceń komunikatem 'Install complete. You can now run ollama':

Powiększ

KROK 3: Przekierowanie magazynu modeli na dysk zewnętrzny (Symlink)

To kluczowy moment całego procesu. Dlaczego stosujemy dowiązanie symboliczne (symlink) zamiast zmiennej środowiskowej OLLAMA_MODELS w pliku .zshrc?

Na systemie macOS aplikacja Ollama działa jako proces okienkowy w pasku menu. Procesy uruchamiane przez interfejs graficzny macOS często nie dziedziczą zmiennych powłoki z pliku .zshrc. Dowiązanie symboliczne na poziomie systemu plików działa w 100% niezawodnie: zarówno dla terminala, jak i aplikacji GUI w tle oraz wtyczek w edytorze kodu.

Zamknij działający proces Ollama:

pkill -f Ollama

Usuń automatycznie wygenerowany pusty katalog models i utwórz symlink kierujący na dysk zewnętrzny:

rm -rf ~/.ollama/models
ln -s "/Volumes/T7 Kub/Dev/ollama-models" ~/.ollama/models

Zweryfikuj poprawność dowiązania poleceniem ls:

ls -la ~/.ollama

Powiększ

KROK 4: Pobranie modeli Gemma 4 oraz Qwen 2.5 Coder 14B

Dzięki nieograniczonej przestrzeni na zewnętrznym dysku SSD nie musimy iść na kompromisy. Budujemy zbalansowany dream-team:

1. Google Gemma 4 (gemma4:e4b, ~9.6 GB) - najnowsza generacja od Google z trybem zaawansowanego wnioskowania (thinking mode) oraz multimodalnością.
2. Qwen 2.5 Coder 14B (~9.0 GB) - najpotężniejszy model open-weights dedykowany programistom, doskonale rozumiejący TypeScript, React, Next.js i refaktoryzację kodu.

Uruchom ponownie aplikację Ollama:

open -a Ollama

Rozpocznij pobieranie modelu Gemma 4:

ollama pull gemma4

Powiększ

Powiększ

Następnie pobierz specjalistę od kodu: Qwen 2.5 Coder 14B:

ollama pull qwen2.5-coder:14b

Powiększ

Weryfikacja: Gdzie fizycznie znajdują się te gigabajty?

Sprawdźmy listę zainstalowanych modeli oraz rzeczywiste zużycie dysku zewnętrznego:

ollama list
du -sh "/Volumes/T7 Kub/Dev/ollama-models"

Powiększ

Potwierdzenie: oba modele zajmują łącznie 17 GB na zewnętrznym dysku SSD, a wbudowany dysk w MacBooku ma nienaruszoną wolną przestrzeń!

KROK 5: Test modeli w Terminalu - Proces myślenia Gemma 4

Przetestujmy model Gemma 4 krótkim zapytaniem z poziomu wiersza poleceń:

ollama run gemma4 "Wyjaśnij krótko w 3 punktach po polsku, dlaczego warto uruchamiać lokalne modele AI na Macu M4 z dyskiem zewnętrznym."

Powiększ

Zwróć uwagę na blok procesu myślowego (...done thinking) oraz dojrzałą, poprawną składniowo polszczyznę. Nowa architektura Google radzi sobie z językiem polskim wyśmienicie.

KROK 6: Integracja z Visual Studio Code (Rozszerzenie Continue)

Aby modele były dostępne podczas codziennego pisania kodu, połączymy je z VS Code za pomocą popularnego rozszerzenia open-source Continue.

1. W VS Code otwórz kartę Extensions (Cmd + Shift + X), wyszukaj rozszerzenie Continue i kliknij Install.

Powiększ

1. Otwórz plik konfiguracyjny Continue:

code ~/.continue/config.yaml

Wklej poniższą konfigurację podpiętą pod lokalną instancję Ollama:

name: Local AI (External Drive)
version: 1.0.0
schema: v1

models:
  - name: Google Gemma 4
    provider: ollama
    model: gemma4
    roles:
      - chat
      - edit

  - name: Qwen 2.5 Coder 14B
    provider: ollama
    model: qwen2.5-coder:14b
    roles:
      - chat
      - edit

Powiększ

⚠️ Pułapka autouzupełniania: Dlaczego model 14B potrafi zaciąć 16GB Maca?

W trakcie naszych testów natrafiliśmy na bardzo ważną lekcję dla każdego posiadacza Maca z 16 GB RAM: nie przypisuj modelu 14B do roli autocomplete!

Funkcja autouzupełniania kodu w locie (tab-complete) wykonuje zapytania asynchronicznie przy dosłownie każdym naciśnięciu klawisza. Jeśli w tym samym czasie otworzysz czat z modelem 14B, silnik Metal w Apple Silicon spróbuje utrzymać w pamięci dwie niezależne, ogromne sesje GPU jednocześnie. Na komputerze z 16 GB pamięci zunifikowanej prowadzi to do przekroczenia limitu pamięci graficznej i wymuszonego restartu systemu przez watchdog macOS.

Złota reguła stabilności na 16GB Macu: Do Chatu i Refaktoryzacji (Cmd + L) używaj bez obaw potężnego Qwen 2.5 Coder 14B lub Gemma 4. Do autouzupełniania w tle użyj mikro-modelu qwen2.5-coder:1.5b (~900 MB) albo generuj kod wyłącznie na żądanie w panelu bocznym.

KROK 7: Test na żywo w VS Code - Generowanie komponentu React

Otwórz panel Continue skrótem Cmd + L, wybierz z listy model Qwen 2.5 Coder 14B i wpisz polecenie wygenerowania kodu:

Napisz w TypeScript nowoczesny komponent React (Tailwind CSS): elegancką kartę statystyk (KPI card) z ikoną, tytułem, wartością liczbową i wskaźnikiem procentowym wzrostu. Wróć wyłącznie czysty blok kodu TSX.

Powiększ

Kliknięcie przycisku Apply natychmiast przenosi gotowy komponent do pliku Test.tsx w Twoim projekcie:

Powiększ

Komponent posiada poprawne typowanie TypeScript, bezpieczne właściwości propsów, responsywny layout w Tailwindzie i obsługę trendów dodatnich/ujemnych. Wszystko wygenerowane w 100% lokalnie na MacBooku bez wysyłania kodu do sieci zewnętrznej.

Podsumowanie i Kluczowe wnioski

1. Pełna suwerenność danych: Twój kod nie opuszcza biurka - idealne rozwiązanie przy komercyjnych kontraktach i umowach NDA.
2. Oszczędność finansowa: Zero miesięcznych subskrypcji za GitHub Copilot czy ChatGPT Plus.
3. Dysk zewnętrzny ratuje pamięć Maca: Zewnętrzny dysk SSD w połączeniu z prostym symlinkiem pozwala przechowywać dziesiątki gigabajtów modeli bez kompromisów na wbudowanym dysku systemowym.

Wdrażasz lokalne środowiska AI w swoim zespole programistycznym lub szukasz bezpiecznych rozwiązań dla swojej firmy? Skontaktuj się ze mną na krysmalski.pl - pomogę dobrać i wdrożyć odpowiednią architekturę.