Tanácsadás beszerzés előtt
Saját szerver, felhő vagy a kettő együtt.
Saját szerver, felhő vagy a kettő együtt.
Konfiguráció a valós terhelésre.
Virtualizáció, tárolás, mentés.
Nyelvi és képi modellek futtatásához, tanításához.
Céges chat és asszisztensek, házon belül.
Régi szerverről újra, felhőből saját gépre.
Vas, szoftverkörnyezet és modell egyben.
Az adat nem hagyja el a céget.
Szöveges és képi modellek egyaránt.
Az asszisztens közvetlenül a cég rendszerében dolgozik.
Megnézzük a terhelést és a növekedési terveket.
Leírjuk, milyen gép kell, és miért.
Megérkezik, beépítjük, üzembe helyezzük.
Felügyeljük, frissítjük és mentjük a rendszert.
Egy szerver beszerzése több évre szóló döntés. A túlméretezett gép feleslegesen köti le a pénzt, az alulméretezett pedig két év múlva szűk keresztmetszet lesz. Megnézzük a valós terhelést és a cég növekedési terveit, és ehhez méretezünk konfigurációt.
Azt is megvizsgáljuk, hogy egy adott feladatra saját szerver, felhő vagy a kettő kombinációja a jobb. Ha a felhő havi díja már meghaladja egy saját szerver árát, gyakran megéri visszahozni a rendszert a cégbe.
A beszerzett gépet nem csak bekapcsoljuk. Kialakítjuk a virtualizációs környezetet, a tárolást és a mentést, beállítjuk a felügyeletet, és átköltöztetjük a meglévő rendszereket a régi szerverről vagy a felhőből.
Nyelvi és képi modellek futtatásához, illetve tanításához grafikus processzoros (GPU) szerver kell. Itt a videokártya memóriája, a hűtés és a tápellátás legalább annyira fontos, mint maga a processzor. A gépet a futtatni kívánt modellekhez méretezzük, és a szoftverkörnyezettel együtt, működő állapotban adjuk át.
Sok cég azért nem használ mesterséges intelligenciát, mert a szerződések, ügyféladatok és belső dokumentumok nem kerülhetnek külső szolgáltatóhoz. Erre megoldás a saját szerveren futó nyílt nyelvi modell: a céges chat és az asszisztensek a házon belül futnak, az adat nem hagyja el a céget.
A modell a cég saját dokumentumaiból is tud válaszolni, és megmutatja, melyik dokumentumból származik az információ. A meglévő jogosultságokat követi: mindenki csak azt látja, amihez egyébként is hozzáférése van.
Mindkettőnek megvan a helye. A felhő gyorsan indítható és jól skálázható, a saját szerver hosszú távon gyakran olcsóbb, és az adat a cégnél marad. Sok esetben a kettő kombinációja a legjobb. A felmérés után számokkal is összevetjük a lehetőségeket.
Igen. Nyílt nyelvi modellekkel céges chat és asszisztens is működhet saját GPU szerveren, így az adat nem kerül külső szolgáltatóhoz. A modell méretét a feladathoz és a rendelkezésre álló hardverhez választjuk.
Elsősorban a modell méretétől függ, mennyi videomemória kell. Egy kisebb modell egyetlen GPU-n is jól fut, a nagyobbakhoz több vagy nagyobb kártya kell. Megnézzük, mire használná a modellt, és ehhez javaslunk konfigurációt.
Igen. Összeállítjuk a konfigurációt, ajánlatot adunk a hardverre, és a beérkezés után beépítjük, üzembe helyezzük és átköltöztetjük rá a meglévő rendszereket.
Az adatokat és a szolgáltatásokat átköltöztetjük az új gépre, és a régit csak akkor kapcsoljuk le, ha minden ellenőrzötten működik. Ha még megbízható, a régi gép gyakran tovább használható mentési vagy tartalék szerepben.
Ha kéri, mi. Felügyeljük, frissítjük és mentjük a rendszert, és riasztást kapunk, ha valami nincs rendben. Erről bővebben az Üzemeltetés oldalon írunk.
Csak az oldal működéséhez szükséges sütiket használunk (például az űrlap védelméhez). Statisztikai vagy marketing célú sütit csak az Ön hozzájárulásával helyeznénk el. Részletek az adatkezelési tájékoztatóban.