Microsoft dostarczy model sztucznej inteligencji Phi-Silica na urządzeniu ze wszystkimi komputerami Copilot+

Firma Microsoft dostarcza model dużego języka (LLM) na urządzeniu ze wszystkimi komputerami Copilot+. Firma ogłosiła swój najnowszy wariant modelu AI Phi-3 o nazwie Phi-Silica podczas wydarzenia Microsoft Build 2024. Jest to obecnie piąty wariant Phi-3 i oficjalnie najmniejszy LLM (lub SLM) z zaledwie 3,3 miliardami parametrów. Ten nowy model AI będzie teraz dostępny lokalnie w każdej części komputera PC klasy Copilot+ AI PC. Warto zauważyć, że podczas wydarzenia Surface firma Microsoft ogłosiła także kilka nowych funkcji sztucznej inteligencji dla komputerów Copilot+.

Oświadczenie to ogłosił dyrektor generalny Microsoft, Satya Nadella, podczas sesji programowej wydarzenia Build, podczas którego zaprezentowano nowy model AI Phi-Silica jako LLM na urządzeniu dla komputerów Copilot+. Będą one działać na lokalnym sprzęcie jednostki przetwarzania neuronowego (NPU) wyposażonym w te urządzenia. Mając zaledwie 3,3 miliarda parametrów, model jest stosunkowo mniejszy niż większość SLM. Takie mniejsze modele są na ogół lepsze pod względem konkretnych zadań, ale nie mają ogólnych możliwości konwersacyjnych LLM, takich jak GPT-4 OpenAI, Google Gemini 1.5 Pro lub Claude 3 firmy Anthropic.

Rozwój ten jest nadal uważany za kamień milowy, ponieważ jest to pierwszy przypadek dodania modeli sztucznej inteligencji do komputerów PC od razu po wyjęciu z pudełka. Chociaż modele typu open source są dostępne dla entuzjastów do pobrania i uruchomienia lokalnego, takie jak LLM wydane przez Mixtral, nie były one oferowane przez producenta OEM ani po stronie systemu operacyjnego. Uważa się, że zintegrowanie Phi-Silica z przepływem pracy systemu Windows spowoduje również zoptymalizowanie jego funkcjonalności.

Rozmawiam z rzecznikiem Microsoftu, VentureBeat raport zauważył, że zróżnicowanie Phi-Silica polega na tym, że jest to pierwszy lokalnie wdrożony model językowy systemu Windows. Rzecznik potwierdził również, że model jest zoptymalizowany do pracy na komputerach Copilot+ NPU i będzie działać stosunkowo bez opóźnień. Nie są jednak znane jego szczegółowe funkcje. Co więcej, komputery te zostaną również zintegrowane z biblioteką Windows Copilot, która będzie działać na serwerach i oferować wszystkie istniejące i przyszłe funkcje Copilot.

Firma Microsoft ogłosiła także ogólną dostępność zaprezentowanych wcześniej modeli Phi-3, a także zaprezentowała nowy model Phi-3-vision, który jest wyposażony w możliwości multimodalnego i komputerowego przetwarzania obrazu.