Sky Frames Ajánlatkérés
Szolgáltatások

Szerver és AI infrastruktúra

A feladathoz méretezve, a tervezéstől az üzemelő rendszerig.

Ajánlatot kérek

Mikor van rá szükség?

Mit vállalunk

Tanácsadás beszerzés előtt

Saját szerver, felhő vagy a kettő együtt.

Tervezés és beszerzés

Konfiguráció a valós terhelésre.

Üzembe helyezés

Virtualizáció, tárolás, mentés.

GPU szerverek

Nyelvi és képi modellek futtatásához, tanításához.

Saját szerveren futó AI

Céges chat és asszisztensek, házon belül.

Költöztetés

Régi szerverről újra, felhőből saját gépre.

Amit már megépítettünk.

Szerver

GPU szerver a tervtől az üzemelő modellig

Vas, szoftverkörnyezet és modell egyben.

AI

Céges AI chat saját szerveren

Az adat nem hagyja el a céget.

AI

A cég tudására tanított modellek

Szöveges és képi modellek egyaránt.

AI

AI a meglévő szoftverben

Az asszisztens közvetlenül a cég rendszerében dolgozik.

Ebben is tudunk segíteni

  • Virtualizációs környezet
  • Központi tárolórendszer
  • Mentés telephelyen kívüli másolattal
  • Költözés felhőből saját szerverre
  • Kereső AI a cég saját dokumentumain
  • Magas rendelkezésre állású szerverpár
Összes referencia

Hogyan zajlik

  1. Igényfelmérés

    Megnézzük a terhelést és a növekedési terveket.

  2. Terv és ajánlat

    Leírjuk, milyen gép kell, és miért.

  3. Beszerzés és telepítés

    Megérkezik, beépítjük, üzembe helyezzük.

  4. Üzemeltetés

    Felügyeljük, frissítjük és mentjük a rendszert.

Szerverbeszerzés tanácsadással: se túl kicsi, se túl nagy

Egy szerver beszerzése több évre szóló döntés. A túlméretezett gép feleslegesen köti le a pénzt, az alulméretezett pedig két év múlva szűk keresztmetszet lesz. Megnézzük a valós terhelést és a cég növekedési terveit, és ehhez méretezünk konfigurációt.

Azt is megvizsgáljuk, hogy egy adott feladatra saját szerver, felhő vagy a kettő kombinációja a jobb. Ha a felhő havi díja már meghaladja egy saját szerver árát, gyakran megéri visszahozni a rendszert a cégbe.

Üzembe helyezés: virtualizáció, tárolás, mentés

A beszerzett gépet nem csak bekapcsoljuk. Kialakítjuk a virtualizációs környezetet, a tárolást és a mentést, beállítjuk a felügyeletet, és átköltöztetjük a meglévő rendszereket a régi szerverről vagy a felhőből.

  • Virtualizációs környezet kialakítása
  • Központi tárolórendszer
  • Mentés telephelyen kívüli másolattal
  • Magas rendelkezésre állású szerverpár, ahol a leállás nem megengedhető

GPU szerverek mesterséges intelligenciához

Nyelvi és képi modellek futtatásához, illetve tanításához grafikus processzoros (GPU) szerver kell. Itt a videokártya memóriája, a hűtés és a tápellátás legalább annyira fontos, mint maga a processzor. A gépet a futtatni kívánt modellekhez méretezzük, és a szoftverkörnyezettel együtt, működő állapotban adjuk át.

Saját szerveren futó céges AI

Sok cég azért nem használ mesterséges intelligenciát, mert a szerződések, ügyféladatok és belső dokumentumok nem kerülhetnek külső szolgáltatóhoz. Erre megoldás a saját szerveren futó nyílt nyelvi modell: a céges chat és az asszisztensek a házon belül futnak, az adat nem hagyja el a céget.

A modell a cég saját dokumentumaiból is tud válaszolni, és megmutatja, melyik dokumentumból származik az információ. A meglévő jogosultságokat követi: mindenki csak azt látja, amihez egyébként is hozzáférése van.

Amivel dolgozunk

  • GPU szerverek
  • Nyílt nyelvi modellek saját szerveren
  • Dokumentumkereső AI (RAG)
  • Virtualizáció
  • Docker
  • Linux szerverek
  • TrueNAS és ZFS
  • S3-kompatibilis objektumtár
  • Grafana és Prometheus (felügyelet)

Gyakori kérdések

Saját szerver vagy felhő?

Mindkettőnek megvan a helye. A felhő gyorsan indítható és jól skálázható, a saját szerver hosszú távon gyakran olcsóbb, és az adat a cégnél marad. Sok esetben a kettő kombinációja a legjobb. A felmérés után számokkal is összevetjük a lehetőségeket.

Futtatható ChatGPT-szerű AI a cég saját szerverén?

Igen. Nyílt nyelvi modellekkel céges chat és asszisztens is működhet saját GPU szerveren, így az adat nem kerül külső szolgáltatóhoz. A modell méretét a feladathoz és a rendelkezésre álló hardverhez választjuk.

Milyen szerver kell egy AI-modell futtatásához?

Elsősorban a modell méretétől függ, mennyi videomemória kell. Egy kisebb modell egyetlen GPU-n is jól fut, a nagyobbakhoz több vagy nagyobb kártya kell. Megnézzük, mire használná a modellt, és ehhez javaslunk konfigurációt.

Segítenek a beszerzésben is?

Igen. Összeállítjuk a konfigurációt, ajánlatot adunk a hardverre, és a beérkezés után beépítjük, üzembe helyezzük és átköltöztetjük rá a meglévő rendszereket.

Mi lesz a régi szerverrel?

Az adatokat és a szolgáltatásokat átköltöztetjük az új gépre, és a régit csak akkor kapcsoljuk le, ha minden ellenőrzötten működik. Ha még megbízható, a régi gép gyakran tovább használható mentési vagy tartalék szerepben.

Ki üzemelteti a szervert a beszerzés után?

Ha kéri, mi. Felügyeljük, frissítjük és mentjük a rendszert, és riasztást kapunk, ha valami nincs rendben. Erről bővebben az Üzemeltetés oldalon írunk.

Beszerzés előtt áll? Kérdezzen előbb.

Ajánlatot kérek
+36 1 690 0402 info@sky-frames.com

Sütik ezen az oldalon

Csak az oldal működéséhez szükséges sütiket használunk (például az űrlap védelméhez). Statisztikai vagy marketing célú sütit csak az Ön hozzájárulásával helyeznénk el. Részletek az adatkezelési tájékoztatóban.

Váratlan hiba történt. Újratöltés