Materiał powstał we współpracy z InCredibles
Uruchamiają państwo w Poznaniu fabrykę AI. Na czym polegać będzie jej działalność?
Uruchamiana przez nas, w partnerstwie z NVIDIA i Pure Storage, fabryka AI to zupełnie nowy typ centrum danych. Jego usługi koncentrują się na dostarczaniu rozwiązań infrastrukturalnych, które optymalizują koszt wytwarzania rozwiązań AI.
Podstawową usługą świadczoną przez fabrykę AI Beyond.pl jest GPU as a Service (GPUaaS), czyli elastyczny wynajem mocy obliczeniowych kart graficznych najnowszej generacji NVIDIA B200. Oferujemy także usługę AI as a Service (AIaaS), czyli dostęp do zasobów kart graficznych B200 (GPUaaS) połączony z zaawansowanym ekosystemem narzędzi NVIDIA. Mowa m.in. o platformie NVIDIA AI Enterprise, czyli bibliotece ponad 600 wstępnie przetrenowanych modeli AI, w tym polskiego Bielika, francuskiego Mistrala czy Llamy od Mety, oraz oprogramowania i dokumentacji wdrożeniowej, które ułatwiają i przyspieszają pracę nad sztuczną inteligencją. Zapewniamy dostęp do narzędzia NVIDIA Run:ai, które pozwala na zarządzanie i optymalizację mocy GPU oraz ograniczanie sytuacji tzw. przepalania zasobów. AIaaS to de facto kompleksowa platforma, która pozwala na szybkie wdrożenie możliwości AI do biznesowej rzeczywistości. Przetrenowane modele mogą być pobrane przez klienta i dotrenowane na swoich danych – w pełni prywatnym modelu. W mojej ocenie to idealne rozwiązanie dla podmiotów, które chcą skrócić czas inkorporacji AI w swoim biznesie.
Jesteśmy także bardzo dobrze przygotowani na obsługę klientów kupujących własne karty graficzne, ale nieposiadających data center dopasowanego do utrzymywania tej infrastruktury. Takim klientom oferujemy kolokację GPU w Data Center 2 – obiekcie dostosowanym do obsługi najbardziej wymagających obciążeń energetycznych – nawet do 140 kW na szafę rack. Naszym wyróżnikiem jest także elastyczność w doborze rozwiązań chłodzenia układów IT dla AI, w tym bezpośredniego chłodzenia procesorów (direct-to-chip). Nie narzucamy gotowych scenariuszy, jesteśmy otwarci na aranżację komór zgodnie z wymogami klientów. Oczywiście wspieramy klientów specjalistycznymi usługami IT w ramach Managed Services.
Co istotne, korzystanie z usług naszej fabryki AI umożliwi firmom prowadzenie działalności w zgodzie z europejskimi regulacjami – w tym AI Act, RODO, DORA, NIS2 – oraz wymaganiami branżowymi ustanawianymi np. przez KNF. Z uwagi na lokalizację fabryki AI w Polsce i UE gwarantujemy pełną suwerenność danych i bezpieczeństwo przetwarzanych informacji.
Fabryka AI to nasza odpowiedź na potrzeby rynku, który coraz pilniej domaga się suwerennego, bezpiecznego, lokalnego i efektywnego dostępu do wysokowydajnych zasobów obliczeniowych na światowym poziomie.
Do jakich klientów jest skierowany ten projekt?
Do wszystkich. Rozwiązania wytwarzane w fabryce AI, wykorzystujące sztuczną inteligencję, mają zastosowanie we wszystkich branżach. Każda branża będzie dotknięta sztuczną inteligencją, a funkcjonowanie wielu branż zostanie zdefiniowane na nowo. Dlatego jeżeli dana firma już dzisiaj nie definiuje swojej strategii AI, nie integruje tej strategii z ogólną strategią firmy, istnieje duże zagrożenie, że taka firma w najbliższych latach przestanie istnieć. W sektorze motoryzacyjnym modele AI mogą być wykorzystywane np. do trenowania modeli dla autonomicznych pojazdów, skrócenia czasu R&D, optymalizacji prac fabryk oraz przewidywania awarii i serwisowania. W handlu detalicznym i e-commerce wspierają przykładowo dynamiczne ustalanie cen oraz działanie agentów AI w obsłudze klienta. W medycynie i farmacji pomagają m.in. w odkrywaniu nowych leków i diagnozowaniu pacjentów. W finansach wspierają np. w wykrywaniu nadużyć i oszustw oraz zarządzaniu ryzykiem. Takie przykłady można mnożyć, a pomysłów na wykorzystanie usług dla AI jest bardzo wiele, co pokazują wysyłane do nas zapytania przez klientów.
Beneficjentami naszej oferty są też start-upy i młode firmy technologiczne, które z reguły nie dysponują własną, kosztowną infrastrukturą IT, a potrzebują dostępu do zaawansowanej mocy obliczeniowej oraz bezpiecznego środowiska do trenowania i testowania modeli AI. Rozwiązania wytwarzane przez tę grupę klientów mogą okazać się kluczowe, kontrybuując do przemodelowania modeli funkcjonowania całych sektorów lub nawet definiowania nowych modeli, jak np. powstające neobanki, które rozpychają się w branży finansowej. Kolejna grupa to m.in. software house’y oraz zespoły R&D pracujące nad rozwiązaniami wykorzystującymi m.in. uczenie maszynowe, przetwarzanie języka naturalnego, analizę danych czy GenAI. Oferowane usługi, zarówno GPUaaS, jak i AIaaS, będą pozwalały im efektywnie wykorzystywać najnowsze technologie bez konieczności ponoszenia istotnych nakładów na własne zasoby. Tego typu usług potrzebuje również sektor publiczny i podmioty wymagające zgodności z regulacjami, np. instytucje finansowe czy medyczne, dla których kluczowe jest bezpieczeństwo, zgodność z RODO, AI Act i NIS2 oraz lokalizacja danych w UE.
Fabryką AI mogą być także zainteresowane duże firmy i instytucje, które chcą korzystać z najnowszych GPU – również na własność – ale nie posiadają odpowiednio przygotowanego data center. Dla nich fabryka AI oferuje możliwość kolokacji sprzętu oraz kompleksowe wsparcie w zakresie zarządzania infrastrukturą.
Warto podkreślić, że nasza oferta jest skierowana do firm z Polski, Europy Środkowo-Wschodniej oraz organizacji międzynarodowych poszukujących miejsca, w którym mogą na terenie UE utrzymywać dane i rozwijać projekty AI. Demokratyzujemy dostęp do zaawansowanej mocy obliczeniowej, niezbędnej do testowania, tworzenia i skalowania rozwiązań AI – szczególnie dla podmiotów, które nie dysponują własnym zapleczem technologicznym.
Jaką infrastrukturą dysponuje fabryka AI?
Fabryka AI Beyond.pl dysponuje jedną z najnowocześniejszych i najbardziej zaawansowanych infrastruktur obliczeniowych w Europie Środkowo-Wschodniej. W pierwszym etapie inwestycji uruchamiamy stos technologiczny, na który składa się m.in. NVIDIA DGX SuperPod oparty na kartach graficznych B200, zaawansowana infrastruktura sieciowa NVIDIA Quantum – 2 InfiniBand i NVIDIA Spectrum Ethernet oraz pamięć masowa FlashBlade//S500 od Pure Storage. Całość rozwiązania, bazując na kartach NVIDIA B200, zapewnia nawet trzykrotnie większą wydajność w trenowaniu modeli AI oraz do 15 razy szybsze inferencje w porównaniu z kartami NVIDIA H100. Będąc wielokrotnie wydajniejszymi niż poprzednie generacje, pozwalają znacząco obniżyć koszt trenowania i wdrażania modeli AI.
Rzeczywistą moc obliczeniową będziemy mogli potwierdzić dopiero po zakończeniu instalacji całej infrastruktury i wykonaniu testów. Zakładamy, że może ona sięgnąć nawet do 72 petaflopsów przy trenowaniu modeli lub 144 petaflopsów w przypadku inferencji, czyli takich działań, jak przewidywanie czy podejmowanie decyzji przy pomocy sztucznej inteligencji. Szacujemy, że już na początkowym etapie moc obliczeniowa pozwoli nam się znaleźć w TOP10 w regionie CEE i w okolicach 100. miejsca na świecie. A obecna inwestycja w infrastrukturę to zaledwie 1 proc. potencjału kampusu. Nasze zaplecze pozwala na rozbudowę fabryki AI do poziomu ponad 35 000 kart graficznych. Oznacza to, że klienci wraz z rosnącymi potrzebami będą mogli liczyć na stabilność i gotowość do dynamicznego wzrostu mocy obliczeniowej.
Warto podkreślić, że uruchamiana przez nas fabryka AI jest zlokalizowana w Data Center 2 na terenie naszego kampusu w Poznaniu. To najwyższej klasy obiekt kolokacyjny o poziomie Rated 4 według ANSI/TIA-942 oraz Klasy 4 normy EN 50600, co potwierdza jego zgodność z najbardziej rygorystycznymi standardami w zakresie bezpieczeństwa, dostępności i ciągłości działania. Data Center 2 zapewnia fabryce AI dostęp do zasilania, chłodzenia i innych zasobów niezbędnych do stabilnej oraz wydajnej pracy tak zaawansowanych środowisk obliczeniowych jak NVIDIA DGX SuperPOD. Tylko infrastruktura data center o najwyższych parametrach technicznych pozwala utrzymać optymalną wydajność oraz znacząco obniżyć koszt wytwarzania AI.
Równolegle pracujemy nad integracją naszej instalacji z rozwiązaniami open source, np. RedHat, aby zapewnić klientom dostęp do otwartego ekosystemu narzędzi i modeli AI. Na naszej roadmapie jest również narzędzie NVIDIA DGX Cloud Lepton, które umożliwia łatwy dostęp do mocy obliczeniowej GPU w chmurze.
Na czym polegają przewagi waszej fabryki AI nad podobnymi przedsięwzięciami na świecie?
Usługi fabryki AI Beyond.pl wyróżniają się na tle innych dostawców w kilku obszarach. Jest to przede wszystkim wykorzystywanie najnowocześniejszej referencyjnej infrastruktury NVIDIA. Udostępniamy klientom zasoby kart DGX B200, których dostępność na świecie jest wciąż mocno ograniczona. Co więcej, dostarczany przez nas pakiet usług ma charakter kompleksowy – nie ograniczamy się wyłącznie do wynajmu infrastruktury GPU, ale mowa o całym pakiecie zaawansowanych narzędzi technologicznych, w tym platform software’owych, wstępnie przetrenowanych modeli AI, ich scenariuszy wdrożeń, dokumentacji technicznej oraz unikalnych kompetencjach ludzkich. Bezpośrednia współpraca z NVIDIA przy tym projekcie to cenna wiedza, do której nasi klienci też otrzymują dostęp.
Kolejnym wyróżnikiem jest zgodność z regulacjami UE oraz gwarancja suwerenności przechowywanych danych. Ograniczamy ryzyko dostępu do danych przez podmioty trzecie lub zagrożeń wynikających z regulacji oraz decyzji krajów zewnętrznych, które mogłoby zablokować dostęp do usług. Pamiętajmy, że większość globalnych dostawców usług GPUaaS i AIaaS przechowuje i przetwarza dane poza granicami UE lub podlega pod regulacje spoza UE. Nasza oferta gwarantuje klientom pełną kontrolę nad danymi podczas ich przetwarzania (in processing), przechowywania (at rest), jak i przesyłania (in transit). Z kolei lokalizacja fabryki AI w Polsce to kluczowy argument dla instytucji z branż regulowanych, które przetwarzają np. dane wrażliwe.
Jesteśmy również gotowi na długofalowy rozwój projektu. Kampus jest przygotowany do dalszej rozbudowy, mamy zabezpieczony zarówno grunt, jak i energię elektryczną do jego zasilenia. Mówimy o docelowej mocy 100 MW, więc klienci utrzymujący własną infrastrukturę GPU w kolokacji lub o rosnących potrzebach wynajmu GPU mają gwarancję zaadresowania tych potrzeb.
I to co najważniejsze, rozumiemy, że transformacje AI nie są łatwe dla organizacji, dlatego wspólnie z NVIDIA budujemy ekosystem partnerów wspierający klientów end-to-end w ich roadmapie deploymentu AI. Mowa o firmach doradczych, consultingowych, deweloperskich, start-upach dostarczających niezbędne wsparcie i gotowe rozwiązania, aby przyśpieszyć sukces z wdrożeń AI.
Coraz częściej poruszany jest temat olbrzymich ilości energii zużywanej przez centra danych i przedsięwzięcia związane z AI. Jak to wygląda w przypadku fabryki AI?
W przypadku naszej fabryki AI temat zużycia energii został potraktowany bardzo odpowiedzialnie i strategicznie. Projekt od początku zakładał minimalizację śladu węglowego, mimo że infrastruktura obliczeniowa dedykowana sztucznej inteligencji naturalnie wiąże się z bardzo wysokim zapotrzebowaniem na energię. Świadomie współpracujemy z NVIDIA i Pure Storage oraz zdecydowaliśmy się na ich infrastrukturę. DGX B200 zużywają do 12 razy mniej energii w porównaniu z rozwiązaniami opartymi na kartach DGX H100 względem dostarczanej tej samej mocy obliczeniowej. Z kolei pamięć masowa od Pure Storage, w porównaniu z konkurencją, to niższe zużycie energii i emisji CO2 nawet o 50 proc.
Fabryka AI Beyond.pl, od razu po uruchomieniu we wrześniu br., będzie zasilana w 100 proc. energią pochodzącą z odnawialnych źródeł potwierdzonych oficjalnymi certyfikatami pochodzenia. Równolegle pracujemy z firmą Veolia Energia Poznań nad odzyskiem ciepła, które będzie generowane przez fabrykę AI, i przekazaniem go do miejskiej sieci ciepłowniczej – co pozwoli jeszcze efektywniej wykorzystać zużywaną energię i dodatkowo zredukować jej koszt netto.
Warto jednak spojrzeć na szerszy kontekst. Rosnący popyt na sztuczną inteligencję jest nieunikniony – coraz więcej procesów i usług będzie opartych na AI. Czy to oznacza, że powinniśmy wstrzymać jej rozwój? Jako analogię można przywołać tezę, że nie powinniśmy budować autostrad, bo przybywa samochodów. Wręcz przeciwnie – autostrady sprawiają, że podróżujemy szybciej, bezpieczniej i efektywniej. Podobnie jest z fabrykami AI. Energia i tak będzie konsumowana – pytanie brzmi: gdzie i jak? Naszym zdaniem najlepiej, by działo się to tam, gdzie jest wykorzystywana w sposób najbardziej efektywny i odpowiedzialny – a takim miejscem jest fabryka AI Beyond.pl.
Nie bez znaczenia pozostaje też wpływ efektywności energetycznej na koszty korzystania z AI. W przypadku wszystkich rozwiązań AI, w tym nowoczesnych modeli językowych czy generatywnych, jednostką rozliczeniową jest tzw. token. Im mniej energii zużywa infrastruktura obliczeniowa do przetworzenia tych tokenów, tym niższy koszt działania całego systemu AI. Oznacza to, że poprawiając efektywność energetyczną, wpływamy bezpośrednio na obniżenie kosztów korzystania z rozwiązań sztucznej inteligencji – zarówno dla twórców, jak i dla końcowych użytkowników.
Beyond.pl wyznacza wysokie standardy w zakresie zrównoważonego rozwoju centrów danych i fabryk AI. Nasze działania aktywnie wspierają również realizację celów dekarbonizacyjnych, przyczyniając się do redukcji emisji CO2. To przykład, że dynamiczny rozwój gospodarki może iść w parze z odpowiedzialnością klimatyczną.
Materiał powstał we współpracy z InCredibles
