Wprowadzenie na rynek procesorów Intel Xeon 6 i akceleratorów AI Gaudi 3 z możliwością obsługi zaawansowanych obciążeń AI

Firma Intel zaprezentowała niedawno nowy sprzęt mający na celu usprawnienie przepływów pracy związanych ze sztuczną inteligencją (AI). We wtorek firma wprowadziła na rynek procesor Xeon 6 z nowymi rdzeniami Performance (rdzenie P) i akcelerator Gaudi 3 AI Accelerator dla klientów korporacyjnych i centrów danych. Producent chipów twierdzi, że nowy sprzęt zapewni zarówno wyższą przepustowość, jak i lepszą optymalizację kosztów, aby zapewnić optymalną wydajność na wat i niższy całkowity koszt posiadania. Według producenta chipów urządzenia te wprowadzono na rynek, aby umożliwić przedsiębiorstwom radzenie sobie ze stale rosnącymi wymaganiami dotyczącymi obciążenia pracą wynikającymi z bardziej zaawansowanych modeli sztucznej inteligencji.

Premiera procesora Intel Xeon 6

Producent chipów mówi że jego nowy Intel Xeon 6 jest wyposażony w rdzenie Performance. Procesory te nie są przeznaczone dla konsumentów detalicznych i zamiast tego będą zasilać centra danych dla przedsiębiorstw, pomagając im w obsłudze serwerów w chmurze.

Intel twierdzi, że procesor Xeon 6 oferuje dwukrotnie większą wydajność niż jego poprzednik ze względu na zwiększoną liczbę rdzeni. Oferuje także dwukrotnie większą przepustowość pamięci i możliwości akceleracji AI.

Ponieważ jest to akceleracja sprzętowa, może z łatwością obsługiwać bardzo duże modele językowe (LLM). Według Intela może „spełnić wymagania wydajnościowe sztucznej inteligencji od krawędzi do centrów danych i środowisk chmurowych”.

Intel przedstawia akceleratory AI Gaudi 3

Gaudi 3 to akcelerator AI nowej generacji firmy Intel. Są to wyspecjalizowane chipy sprzętowe zaprojektowane, aby pomóc maszynom w przyspieszaniu zadań AI, zwłaszcza tych związanych z głębokim uczeniem, uczeniem maszynowym i sieciami neuronowymi. Należą do nich procesory graficzne, układy scalone specyficzne dla aplikacji (ASIC), programowalne macierze bramek (FPGA) i jednostki przetwarzania neuronowego (NPU).

Gaudi 3 AI Accelerator składa się z 64 rdzeni procesora Tensor i ośmiu silników mnożenia macierzy (MME), które zostały zaprojektowane w celu przyspieszenia obliczeń w głębokich sieciach neuronowych. Posiada 128 GB pamięci HBM2e do uczenia i wnioskowania oraz 24 porty Ethernet 200 GB, które umożliwiają skalowanie serwerów.

Nowy akcelerator AI firmy Intel jest kompatybilny ze strukturą PyTorch oraz zaawansowanymi modelami transformatorów i dyfuzorów Hugging Face. Firma nawiązała już współpracę z IBM w celu wdrożenia Gaudi 3 w chmurach IBM. Dell Technologies wykorzystuje także infrastrukturę dla swoich centrów danych.