Przejdź do treści
dvnt.io

Sztuczna inteligencja15 min czytania2847 słówRedakcja dvnt

Lokalne AI w firmie — własny serwer, chmura w UE czy API? Koszty, prawo i jakość

Lokalne AI w firmie: kiedy własny serwer albo chmura w UE mają sens, ile kosztuje GPU wobec API, co zmienia region UE i które modele open-weight wolno użyć.

Lokalne AI to model językowy uruchomiony na serwerze, nad którym masz kontrolę — w Twojej firmie albo u europejskiego dostawcy — tak, żeby umowy, wyceny i dokumentacja techniczna nie trafiały do dostawcy modelu ani pod obcą jurysdykcję. Ma sens wtedy, gdy chronisz informacje, na których stoi firma, a nie wtedy, gdy chcesz zaoszczędzić na tokenach. W firmie zatrudniającej kilkadziesiąt osób API dużego dostawcy zwykle wychodzi taniej niż serwer z kartą graficzną, a najlepsze modele i tak są zamknięte. Dlatego najczęściej wygrywa hybryda: najcenniejsze dane idą do modelu u Ciebie albo u dostawcy z UE, reszta — do modelu w chmurze z umową powierzenia i regionem UE.

Ten tekst jest dla właściciela firmy, który nie chce wklejać do czatu umów ani danych klientów i pyta, czy da się mieć AI „u siebie”, ile to kosztuje i czy nie będzie gorsze. Ceny, licencje i dokumentacja dostawców: odczyt 28.10.2026. Szerszą mapę decyzji o sztucznej inteligencji w firmie znajdziesz w przewodniku AI w firmie.

Lokalne AI — co to znaczy: cztery poziomy kontroli nad danymi

„Lokalne AI” to nie jeden produkt, tylko koniec skali: im bliżej niego jesteś, tym mniej firm i państw może sięgnąć po Twoje dane — i tym więcej pracy spada na Ciebie. Lokalny model AI, nazywany też lokalnym LLM, to model językowy o publicznie dostępnych wagach (open-weight), uruchomiony na infrastrukturze, którą kontrolujesz. Zapytania i dokumenty nie trafiają do twórcy modelu, bo twórca w ogóle nie bierze udziału w ich przetwarzaniu.

Poziomy wyglądają tak:

  1. API dostawcy z USA, przetwarzanie globalne. Tak działa domyślnie większość integracji. Anthropic w dokumentacji rezydencji danych opisuje ustawienie domyślne „global”: przetwarzanie może się odbywać w dowolnej dostępnej lokalizacji.
  2. API z regionem UE. OpenAI oferuje region „Europe (EEA + Switzerland)”, ale według dokumentacji trzeba o niego wystąpić do działu sprzedaży, przejść akceptację i zapłacić 10% więcej za modele wydane od 5 marca 2026 r.; dane systemowe — konto, metadane, dane o użyciu — mogą być przetwarzane poza regionem. API Anthropic pierwszej ręki regionu UE nie ma: dostępne są tylko „us” i „global”. Claude w UE jest dostępny przez platformy partnerów: Google Cloud ma dla niego wielo-region „eu” (i region Vertex AI w Warszawie dla innych modeli), Amazon Bedrock — profile przypisane do UE. Microsoft oferuje w Azure wdrożenia Data Zone, w których usługa przetwarza dane tylko w strefie US, EU albo APAC. Dostępność konkretnego modelu w regionie sprawdź w dokumentacji.
  3. Dostawca z UE. Albo API europejskiego twórcy modeli — Mistral pisze, że dane domyślnie są przechowywane w UE, chyba że świadomie użyjesz punktu w USA — albo model open-weight na karcie graficznej wynajętej u firmy z Europy: OVHcloud, niemieckiego Hetznera czy CloudFerro z regionami w Warszawie.
  4. Własny serwer w firmie, także odcięty od internetu.

Hobbystyczne „AI lokalnie na laptopie” to poziom czwarty w miniaturze: programy takie jak Ollama czy LM Studio uruchamiają mały model na komputerze. To dobry sposób na pierwszą próbę, ale nie na usługę dla całej firmy: laptop nie obsłuży kilkudziesięciu osób naraz. Warunki LM Studio pozwalają przy tym na użytek osobisty i wewnętrzny w firmie.

Cztery kolumny od lewej do prawej, strzałka pod spodem: więcej kontroli nad danymi, więcej pracy po Twojej stronie. Kolumna 1, API dostawcy z USA, przetwarzanie globalne: dostęp do danych — dostawca z USA, przetwarzanie w dowolnym kraju; prawo — USA i umowa z dostawcą; jakość modelu — najlepsze modele zamknięte; koszt na start — brak, płacisz za tokeny. Kolumna 2, API z regionem UE: dostęp do danych — dostawca z USA, treści przetwarzane w UE, dane systemowe mogą wychodzić poza region; prawo — RODO, a wobec dostawcy także prawo USA; jakość modelu — najlepsze modele, nie każdy w każdym regionie; koszt na start — tokeny z dopłatą za region i akceptacja dostawcy. Kolumna 3, dostawca z UE: API europejskiego twórcy modeli albo model open-weight na wynajętej karcie graficznej; dostęp do danych — firma europejska; prawo — UE; jakość modelu — modele otwarte lub europejskie; koszt na start — abonament serwera, bez zakupu sprzętu. Kolumna 4, własny serwer w firmie: dostęp do danych — tylko Twoja firma, także bez internetu; prawo — Twoje i UE; jakość modelu — model otwarty dobrany do pamięci karty; koszt na start — zakup sprzętu i opieka nad nim. Bez kwot.
Cztery poziomy kontroli nad danymi przy korzystaniu z AIŹródło: Opracowanie dvnt na podstawie dokumentacji OpenAI (Your data), Anthropic (Data residency), Microsoft Azure (deployment types), Google Cloud (Vertex AI locations), Mistral Help Center i 18 U.S.C. § 2713; odczyt 28.10.2026

Czy ChatGPT jest bezpieczny dla danych firmy?

To zależy od konta i umowy, a nie od marki: firmowe API i plany biznesowe działają na innych zasadach niż prywatne konto pracownika. Przy API OpenAI pisze, że od 1 marca 2023 r. dane przesłane do API nie służą do trenowania ani ulepszania modeli, chyba że wyrazisz na to zgodę, a logi do wykrywania nadużyć przechowuje do 30 dni. Anthropic usuwa wejścia i wyjścia API w ciągu 30 dni, z wyjątkami — przechowuje je do 2 lat, gdy automatyczne systemy oznaczą rozmowę jako naruszającą zasady użytkowania. Jeśli pracownicy potrzebują czatu do pisania i streszczania, plan firmowy z jasnymi zasadami zwykle rozwiązuje problem bez własnego serwera — warunki danych w planach ChatGPT, Copilota i Gemini opisujemy w porównaniu planów firmowych.

Prawdziwe ryzyko leży gdzie indziej: w prywatnych kontach, których firma nie kontroluje. Według Economist Korea z 30.03.2023 w niecałe 20 dni od dopuszczenia ChatGPT w dziale półprzewodników doszło do trzech wycieków. Jeden pracownik skopiował do czatu cały kod źródłowy programu, w którym szukał błędu, drugi wkleił kod do optymalizacji, trzeci — zapis spotkania, z którego chciał zrobić protokół. Firma ograniczyła rozmiar pytań i, co ważniejsze, zaczęła rozważać budowę własnej, wewnętrznej usługi AI.

Według raportu Cyberhaven 2026 39,7% interakcji z narzędziami AI zawiera dane wrażliwe — to raport dostawcy systemów ochrony przed wyciekiem, z danych 222 firm i z własną definicją „wrażliwości”.

Bezpieczeństwo AI w polskich firmach zaczyna się od świadomości. UODO podaje, że w badaniu Społecznego Zespołu Ekspertów przy Prezesie UODO 95,9% podmiotów nie uważa się za przygotowane do wdrożenia AI zgodnie z RODO, a pytanie o zgodność „pada zwykle wtedy, gdy narzędzie już działa”. Kolejność jest więc taka: najpierw zasady dla pracowników i plan firmowy, potem pytanie o własną infrastrukturę.

Region UE to nie suwerenność cyfrowa: dostawca AI z USA i CLOUD Act

Region UE decyduje o tym, gdzie leżą dane; o tym, czyje prawo może po nie sięgnąć, decyduje siedziba dostawcy. Amerykański CLOUD Act z 2018 r. dodał do kodeksu 18 U.S.C. § 2713. Przepis każe dostawcy usług komunikacji elektronicznej lub przetwarzania danych zabezpieczyć, zarchiwizować albo ujawnić dane klienta w swoim „posiadaniu, pieczy lub kontroli”, niezależnie od tego, czy dane znajdują się w USA, czy poza nimi (tłumaczenie własne). To obowiązek uruchamiany nakazem lub wezwaniem wydanym na podstawie tych przepisów, a nie swobodny dostęp do wszystkiego.

Jak wygląda to w praktyce, pokazało przesłuchanie we francuskim Senacie 10.06.2025. Zapytany pod przysięgą, czy może zagwarantować, że dane obywateli powierzone Microsoftowi nie zostaną przekazane na polecenie rządu USA bez zgody władz francuskich, dyrektor ds. publicznych i prawnych Microsoft France Anton Carniaux odpowiedział: „Nie, nie mogę tego zagwarantować, ale, powtarzam, to się jeszcze nigdy nie zdarzyło” (sprawozdanie komisji Senatu, tłumaczenie własne). Chwilę wcześniej powiedział: „Kiedy jesteśmy zobowiązani je przekazać, przekazujemy je”, dodając, że nie dotyczyło to dotąd żadnej europejskiej firmy wśród klientów. Ryzyko jest więc realne, ale nie codzienne.

Przekazywanie danych osobowych do USA pozostaje legalne. Sąd UE 3.09.2025 oddalił skargę na decyzję Komisji z 10.07.2023 o ramach EU-US Data Privacy Framework. Według kancelarii WilmerHale skarżący wniósł 31.10.2025 odwołanie do Trybunału Sprawiedliwości. Trybunał dwa razy unieważniał już poprzednie decyzje o USA (Schrems I w 2015 r., Schrems II w 2020 r.). Lokalizację serwera w RODO i CLOUD Act wobec art. 48 RODO opisujemy w tekście hosting w Polsce czy w UE, historię ram transferowych — w artykule o bezpieczeństwie danych w chmurze.

Dla danych osobowych klientów umowa powierzenia i region UE u dużego dostawcy zwykle wystarczają. Dla informacji, na których stoi firma — receptur, wycen przetargowych, kodu, strategii — liczy się jurysdykcja dostawcy, czyli poziom trzeci albo czwarty.

Prawo: RODO, tajemnica przedsiębiorstwa i AI Act przy lokalnym AI

Lokalny model nie zwalnia z RODO ani z AI Act — zmienia tylko listę firm, którym powierzasz dane. Dostawca modelu w chmurze jest dla Ciebie podmiotem przetwarzającym: art. 28 RODO wymaga umowy i dostawcy, który zapewnia „wystarczające gwarancje” odpowiednich środków technicznych i organizacyjnych, a transfer poza Europejski Obszar Gospodarczy — podstawy z rozdziału V, na przykład zabezpieczeń z art. 46. Przy modelu na własnym serwerze tej pozycji nie ma, ale obowiązki administratora zostają.

Mniej oczywista jest tajemnica przedsiębiorstwa. Ustawa o zwalczaniu nieuczciwej konkurencji w art. 11 ust. 2 uznaje informację za tajemnicę tylko wtedy, gdy uprawniony „podjął, przy zachowaniu należytej staranności, działania w celu utrzymania ich w poufności” (tekst jednolity, Dz.U. 2026 poz. 85). Nasza interpretacja, nie porada prawna: jeśli pracownicy bez żadnych zasad wklejają wyceny do prywatnych czatów, w sporze trudniej wykazać tę staranność; spisane zasady i narzędzie pod kontrolą firmy ją wzmacniają.

Trzecia sprawa to dotrenowywanie. Europejska Rada Ochrony Danych w opinii 28/2024 pisze, że model można uznać za anonimowy tylko wtedy, gdy zidentyfikowanie osób, na których danych go trenowano, i wydobycie z niego tych danych zapytaniami są bardzo mało prawdopodobne. Model dotrenowany na danych osobowych może więc sam je zawierać, a z wag nie usuniesz ich tak jak rekordu z bazy. Dlatego do odpowiedzi na podstawie dokumentów firmy lepiej służy RAG: model dostaje fragmenty z bazy, z której dane usuniesz jednym poleceniem.

AI Act: firma, która uruchamia gotowy model u siebie, jest co do zasady podmiotem stosującym (art. 3 pkt 4), a nie dostawcą modelu ogólnego przeznaczenia. Nawet dostrajanie zwykle tego nie zmienia — według wytycznych Komisji orientacyjny próg to modyfikacja zużywająca ponad jedną trzecią mocy obliczeniowej pierwotnego treningu, a takich modyfikacji jest dziś niewiele. Obowiązki dla zastosowań wysokiego ryzyka, na przykład w rekrutacji, obowiązują niezależnie od tego, gdzie stoi model. Role, terminy i kary opisujemy w tekście o AI Act.

Modele open-weight w 2026: które wolno uruchomić w firmie z UE

„Open” nie znaczy „wolno wszystko”: przed wyborem modelu przeczytaj licencję konkretnej wersji, bo w tej samej rodzinie warunki potrafią się różnić. Większość modeli z macierzy niżej ma licencję Apache 2.0, pozwalającą na użytek komercyjny. Pułapki są cztery.

  • Multimodalna Llama 4. Zasady użytkowania Llama 4 mówią wprost, że prawa z licencji do modeli multimodalnych nie są przyznawane firmie z główną siedzibą w Unii Europejskiej. Ograniczenie nie dotyczy użytkowników końcowych gotowego produktu, ale polska firma nie może takiego modelu sama uruchomić.
  • Mistral Medium 3.5. Zmodyfikowana licencja MIT wyłącza firmy, których skonsolidowany przychód przekroczył 20 mln USD w poprzednim miesiącu. Mistral Small 4 jest na Apache 2.0.
  • Qwen3.8-Flash-Next. Licencja Qwen Community wymaga osobnej licencji, jeśli firma prowadzi usługę typu „Model as a Service”, czyli udostępnia model innym przez API, albo produkt typu „AI Work Assistant” — samodzielnego asystenta do programowania lub pracy biurowej. Użytek wewnętrzny jest dozwolony, dopóki model i jego wyniki nie są udostępniane osobom trzecim. Qwen3.8-27B jest na Apache 2.0.
  • PLLuM „nc”. Starsze warianty polskiego PLLuM z dopiskiem „nc” mają licencję CC BY-NC 4.0, czyli niekomercyjną. Do firmy nadają się PLLuM-12B i PLLuM-4B z serii 2512 (Apache 2.0); historię Bielika i PLLuM opisujemy w tekście o LLM.

Osobna sprawa to chińskie modele open-weight: wagi DeepSeek V4.1-Flash są na licencji MIT, a uruchomione na Twoim serwerze nie wysyłają danych do Chin, w przeciwieństwie do aplikacji DeepSeek, której włoski urząd ochrony danych ograniczył przetwarzanie danych użytkowników z Włoch 30.01.2025.

Macierz: model, liczba parametrów, licencja, czy polska firma może go uruchomić do użytku komercyjnego. Bielik-11B-v3.0 (SpeakLeash, ACK Cyfronet AGH): 11 mld, Apache 2.0, tak. PLLuM-12B seria 2512: 12 mld, Apache 2.0, tak. PLLuM-12B nc seria 2412: 12 mld, CC BY-NC 4.0, nie, tylko niekomercyjnie. Llama-PLLuM-8B: 8 mld, licencja Llama 3.1, tak, na warunkach Meta. gpt-oss-20b: 21 mld, Apache 2.0, tak. gpt-oss-120b: 117 mld, Apache 2.0, tak. Gemma 4 31B: 31 mld, Apache 2.0, tak. Qwen3.8-27B: 27 mld, Apache 2.0, tak. Qwen3.8-Flash-Next: 180 mld, Qwen Community, tak do użytku wewnętrznego, osobna licencja przy usłudze typu Model as a Service lub produkcie typu AI Work Assistant. Mistral Small 4: 119 mld, Apache 2.0, tak. Mistral Medium 3.5: 128 mld, zmodyfikowana MIT, nie przy przychodzie powyżej 20 mln USD miesięcznie. Llama 4 Scout, multimodalna: 109 mld, Llama 4 Community, nie dla firmy z główną siedzibą w UE. DeepSeek V4.1-Flash: ok. 763 mld, MIT, tak, sprzęt klasy serwerowni. Kolor: zielony — tak, żółty — z warunkiem, czerwony — nie.
Licencje modeli open-weight dla firmy z UE — stan na 28.10.2026Źródło: Karty modeli i licencje na Hugging Face (SpeakLeash, CYFRAGOVPL, OpenAI, Google, Qwen, Mistral AI, DeepSeek), Llama 4 Acceptable Use Policy (Meta); odczyt 28.10.2026; opracowanie dvnt

Ta sama ostrożność dotyczy oprogramowania. Ollama i llama.cpp są na licencji MIT, vLLM — na Apache 2.0. Popularny interfejs Open WebUI ma własną licencję: usunąć jego oznaczenie możesz tylko, gdy z aplikacji korzysta najwyżej 50 osób w ciągu 30 dni, albo po uzyskaniu zgody lub licencji enterprise.

Czy lokalny model jest gorszy od ChatGPT?

Tak, zwykle jest — ale różnica zależy od rozmiaru modelu i od zadania. Epoch AI policzył, że od stycznia 2026 r. najlepsze modele open-weight są w jego zbiorczym indeksie możliwości średnio o cztery miesiące za najlepszymi modelami zamkniętymi. To porównanie najlepszych modeli otwartych, a te są duże i działają na serwerach z kilkoma kartami — nie dotyczy modelu 11 mld na jednej karcie, który mieści się w budżecie małej firmy.

Nasza ocena: model 8–14 mld parametrów dobrze streszcza, klasyfikuje i odpowiada na pytania z dostarczonych dokumentów. Słabiej radzi sobie z rozumowaniem w wielu krokach i z dłuższym pisaniem w złożonych zadaniach. Przed zakupem sprzętu sprawdź model na 30–50 własnych pytaniach z prawdziwych dokumentów, z ustalonymi z góry dobrymi odpowiedziami — to kosztuje kilka godzin wynajętej karty, a nie zakup serwera. Jak takie porównanie zorganizować uczciwie, pokazujemy w teście trzech modeli na polskich zadaniach firmowych.

Serwer AI: ile pamięci potrzebuje model i ile kosztuje sprzęt

O tym, jaki model uruchomisz, decyduje przede wszystkim pamięć karty graficznej. Praktyczna reguła z rozmiarów plików w bibliotece Ollamy: model zapisany w 4 bitach zajmuje ok. 0,6 GB na miliard parametrów, w 8 bitach ok. 1,06 GB. Do tego zapas na kontekst rozmowy — dokumentacja biblioteki accelerate radzi doliczyć do 20% przy wnioskowaniu. Przykłady z biblioteki Ollamy: model 8 mld — 4,9 GB w 4 bitach i 8,5 GB w 8 bitach; 70 mld — 43 i 75 GB. gpt-oss-120b zajmuje 65 GB i według karty modelu mieści się na jednej karcie 80 GB. Bielik 11B w 4 bitach to według tej reguły ok. 7 GB (szacunek nasz).

Poziome słupki, rozmiar pliku modelu w GB według biblioteki Ollamy: Llama 3.1 8B w 4 bitach 4,9 GB; Llama 3.1 8B w 8 bitach 8,5 GB; gpt-oss-20b 14 GB; Qwen3 32B w 4 bitach 20 GB; Qwen3 32B w 8 bitach 35 GB; Llama 3.1 70B w 4 bitach 43 GB; gpt-oss-120b 65 GB; Llama 3.1 70B w 8 bitach 75 GB. Pionowe linie pamięci karty: 24 GB — Hetzner GEX45, RTX PRO 4000; 32 GB — RTX 5090; 48 GB — L40S, OVHcloud i CloudFerro; 80 GB — H100; 96 GB — RTX PRO 6000, Hetzner GEX63; 128 GB — pamięć wspólna DGX Spark. Dopisek: do rozmiaru pliku dolicz zapas na kontekst i do 20% przy wnioskowaniu, więc model musi mieścić się wyraźnie poniżej linii.
Ile pamięci zajmuje model, a ile ma karta graficznaŹródło: Ollama Library (llama3.1, qwen3, gpt-oss), Hugging Face accelerate, karta gpt-oss-120b, komunikaty Hetzner, cennik OVHcloud, CloudFerro, x-kom; odczyt 28.10.2026; opracowanie dvnt

Kupno, ceny sklepowe brutto w x-kom z 28.10.2026: komputer z układem NVIDIA GB10 i 128 GB pamięci wspólnej (DGX Spark i jego odpowiedniki) od 25 849 zł; karta RTX 5090 z 32 GB — 43 999–45 999 zł za samą kartę; RTX PRO 6000 z 96 GB — 74 999–76 999 zł za samą kartę, a gotowe stacje robocze z jedną taką kartą od 124 000 zł. Ceny kart szybko się zmieniają.

Wynajem w UE, ceny netto miesięcznie: Hetzner GEX45 z kartą 24 GB kosztuje 214 EUR, ok. 944 zł, plus jednorazowo 209 EUR; GEX63 z kartą 96 GB 999 EUR, ok. 4 405 zł, plus tyle samo na start. W OVHcloud instancja z L40S 48 GB to 4 608 zł, z H100 80 GB — 8 930 zł. Polski CloudFerro podaje ceny w EUR: L40S ok. 5 860 zł przy umowie miesięcznej i ok. 3 915 zł przy rocznej, H100 ok. 18 711 i 12 239 zł (przeliczenia nasze, kurs NBP z 28.10.2026: 4,4090 zł za euro).

Pełny rachunek własnego serwera — amortyzację, prąd, ludzi — opisujemy w tekście on premise, a modele wynajmu w artykule o chmurze obliczeniowej.

Ile kosztuje lokalne AI w porównaniu z API — rachunek

W małej i średniej firmie rachunek za tokeny rzadko uzasadnia własny serwer; uzasadnia go wartość danych. Nasz rachunek, ilustracja z założeniami: pytanie pracownika do asystenta na dokumentach to 5 000 tokenów wejścia (polecenie i kilka fragmentów dokumentów) i 500 tokenów odpowiedzi, bez pamięci podręcznej i bez tokenów rozumowania. Przy cenniku Anthropic — Claude Sonnet 5.5 za 2 USD za milion tokenów wejścia i 10 USD za milion wyjścia — jedno pytanie kosztuje ok. 0,06 zł, a na najtańszym Claude Haiku 5.5 ok. 0,003 zł (kurs NBP z 28.10.2026: 3,9624 zł za dolara).

Firma, w której 20 osób zadaje po 30 pytań dziennie przez 21 dni roboczych, wysyła 12 600 pytań miesięcznie. Na Sonnecie to ok. 749 zł, na Haiku ok. 37 zł. Najtańszy z serwerów z poprzedniej sekcji, GEX45, kosztuje ok. 944 zł netto miesięcznie — i uruchomi model 8–14 mld parametrów, a nie model klasy Sonnet. Sam abonament serwera zrównuje się z kosztem Sonneta przy ok. 15 900 pytaniach miesięcznie dla GEX45, ok. 74 100 dla GEX63 i ok. 150 200 dla H100 w OVHcloud. Przy cenach Haiku progi rosną dwudziestokrotnie.

Wykres liniowy. Oś pozioma: liczba pytań miesięcznie od 0 do 160 tysięcy. Oś pionowa: złote netto miesięcznie. Dwie linie rosnące: Claude Sonnet 5.5 — od 0 do ok. 9 510 zł przy 160 tysiącach pytań, 0,059 zł za pytanie; Claude Haiku 5.5 — od 0 do ok. 475 zł, 0,003 zł za pytanie. Trzy linie poziome: Hetzner GEX45, karta 24 GB, model 8–14 mld parametrów — ok. 944 zł; Hetzner GEX63, karta 96 GB, model do ok. 120 mld — ok. 4 405 zł; OVHcloud H100 80 GB — 8 930 zł. Punkty przecięcia z linią Sonneta: ok. 15 900, ok. 74 100 i ok. 150 200 pytań. Zaznaczony punkt: firma 20 osób, 30 pytań dziennie, 21 dni — 12 600 pytań, ok. 749 zł na Sonnecie. Założenia: 5 000 tokenów wejścia i 500 wyjścia na pytanie, bez pamięci podręcznej i tokenów rozumowania, bez kosztu opieki nad serwerem i bez opłat startowych; ceny netto; kurs NBP z 28.10.2026: 3,9624 zł za dolara, 4,4090 zł za euro. Serwer 24 GB nie uruchomi modelu klasy Sonnet — wykres porównuje koszt, nie jakość.
API czy serwer GPU — miesięczny koszt przy rosnącej liczbie pytańŹródło: Cennik Anthropic, komunikaty Hetzner, cennik OVHcloud; NBP tabela 210/A/NBP/2026; odczyt 28.10.2026; rachunek dvnt

Do serwera trzeba doliczyć wdrożenie i opiekę. Polscy wykonawcy, którzy publikują ceny (odczyt 28.10.2026, kolejność przypadkowa, to nie ranking):

  • Droptica podaje audyt z próbnym wdrożeniem za 1 200–3 500 EUR (2–3 tygodnie), wdrożenie produkcyjne za 7 000–25 000 EUR (4–12 tygodni) i utrzymanie za 700–2 000 EUR miesięcznie; sprzęt kupuje klient.
  • RSMobile pisze, że całe wdrożenie prywatnego czatu zamyka się zwykle w 45–95 tys. zł netto, a test na danych klienta trwa 2–4 tygodnie i kosztuje 10–25 tys. zł netto.
  • WebyJuice podaje (artykuł z 23.04.2026) 20 000–200 000 zł jednorazowo plus 800–3 500 zł miesięcznie za hosting i utrzymanie, bez informacji, czy to kwoty netto, czy brutto.

To deklaracje wykonawców, a nie średnie rynkowe. Ale już dolna granica Droptiki, ok. 30,9 tys. zł, przekracza trzy lata tokenów Sonneta dla firmy z przykładu (ok. 27 tys. zł, rachunek nasz).

Architektura: lokalny LLM, RAG na dokumentach firmy i hybryda

Działający asystent na dokumentach firmy to cztery klocki, a model jest tylko jednym z nich. Pozostałe trzy to wyszukiwanie w dokumentach, które respektuje uprawnienia (RAG — stażysta nie powinien dostać fragmentu umowy zarządu), interfejs dla pracowników oraz zapis rozmów i kontrola dostępu. Mechanizm i pułapki uprawnień opisujemy w tekście o RAG.

Hybryda, którą zwykle rekomendujemy, wygląda tak:

  1. Spisujesz, które dane są strategiczne. Tajemnice, przetargi, kod, dokumentacja medyczna lub prawna.
  2. Te dane idą do modelu u Ciebie albo u dostawcy z UE — poziom trzeci albo czwarty.
  3. Reszta idzie do najlepszego modelu w chmurze, przez API z regionem UE i umową powierzenia.
  4. Jedna aplikacja, wybór modelu w konfiguracji. O tym, gdzie trafia pytanie, decyduje reguła w systemie, a nie pamięć pracownika.

Przy własnym serwerze spada na Ciebie to, co w chmurze robi dostawca: aktualizacje modeli i oprogramowania, bezpieczeństwo serwera, filtrowanie treści, kopie zapasowe i monitoring. Automatyzacje wokół asystenta też można trzymać u siebie — na przykład w samodzielnie hostowanym n8n.

Tak działa nasz czat „Vi” na tej stronie: odpowiada na podstawie opublikowanych treści, a model przełączamy w konfiguracji między dostawcami w chmurze i modelem na naszym własnym serwerze. Szczegóły budowy opisujemy w tekście o czacie AI na stronie.

Kiedy własna infrastruktura AI się opłaca, a kiedy nie

Własny serwer AI to odpowiedź na pytanie „kto może zobaczyć te dane”, a nie „jak zapłacić mniej”. Opłaca się, gdy spełniasz co najmniej jeden z pierwszych dwóch warunków i nie trafiasz na żaden z czterech „nie”.

Tak, gdy:

  1. przetwarzasz dane, na których stoi firma: tajemnice, wyceny przetargowe, kod, dokumentację medyczną lub prawniczą;
  2. klient albo umowa wymaga przetwarzania w UE u podmiotu z UE;
  3. masz dużą, stałą liczbę zapytań — dziesiątki tysięcy miesięcznie;
  4. system musi działać bez internetu, na przykład w zakładzie albo laboratorium;
  5. zadanie dobrze wykonuje mały model: streszczenia, klasyfikacja, odpowiedzi z dokumentów.

Nie, gdy: zapytań jest mało; zadanie wymaga najlepszego dostępnego modelu; nikt nie zajmie się utrzymaniem serwera; dane i tak są publiczne.

Pierwszy krok nie wymaga sprzętu: spisz, jakie dane w firmie są strategiczne i kto ma do nich dostęp — jak to zrobić, opisujemy w tekście o ochronie danych firmowych. Drugi: sprawdź wybrany model open-weight na 30–50 własnych pytaniach na wynajętej karcie, zanim kupisz serwer.

Najczęstsze pytania o lokalne AI

Czy lokalne AI działa bez internetu?

Tak. Model, baza dokumentów i interfejs mogą działać na serwerze w sieci firmy bez połączenia z internetem. Płacisz za to ręczną pracą: nowe wersje modeli i oprogramowania oraz poprawki bezpieczeństwa trzeba wgrywać samodzielnie.

Czy da się mieć „prywatnego ChatGPT” dla całej firmy?

Tak: model open-weight na Twoim serwerze albo na karcie wynajętej w UE, do tego interfejs czatu i wyszukiwanie w dokumentach. Sprawdź licencję interfejsu — Open WebUI pozwala usunąć swoje oznaczenie tylko przy najwyżej 50 użytkownikach w 30 dni albo z licencją enterprise. Licz się też z tym, że mały model jest słabszy od najlepszych modeli w chmurze.

Czy region UE w Azure, Google Cloud albo AWS wystarczy?

Dla danych osobowych klientów, z umową powierzenia, zwykle tak. Dla informacji, na których stoi firma, region nie zmienia jurysdykcji: CLOUD Act obejmuje dane w posiadaniu amerykańskiego dostawcy niezależnie od tego, gdzie leżą. Wtedy rozważ dostawcę z UE albo własny serwer.

Ile trwa wdrożenie lokalnego modelu?

Według cenników wykonawców z 28.10.2026 test na danych klienta trwa 2–4 tygodnie, a wdrożenie produkcyjne 4–12 tygodni. Najwięcej czasu zajmuje zwykle przygotowanie dokumentów i uprawnień, nie samo uruchomienie modelu.

Czy dotrenować model na dokumentach firmy?

Zwykle nie. Europejska Rada Ochrony Danych zwraca uwagę, że model wytrenowany na danych osobowych może je zawierać, a z wag nie usuniesz ich tak jak rekordu z bazy. Do odpowiedzi na podstawie dokumentów lepiej służy RAG: model dostaje fragmenty z bazy, z której dane usuniesz w każdej chwili.

Czy polski Bielik wystarczy?

Do wielu zadań biurowych po polsku — możliwe. Bielik-11B-v3.0 ma 11 mld parametrów i licencję Apache 2.0, pozwalającą na użytek komercyjny, a w 4 bitach zajmuje według naszego szacunku ok. 7 GB, więc mieści się na karcie 24 GB. Zanim zdecydujesz, sprawdź go na 30–50 własnych pytaniach.

Powiązane artykuły