W środę Qualcomm ogłosił partnerstwo z firmą Mistral zajmującą się sztuczną inteligencją (AI). Ogłoszone na Snapdragon Summit partnerstwo umożliwi zoptymalizowanie dwóch modeli AI Mistral – Ministral 3B i Ministral 8B – do działania na urządzeniach wyposażonych w różne chipsety z serii Snapdragon Elite. Firma stwierdziła, że te modele sztucznej inteligencji dodadzą możliwości sztucznej inteligencji do smartfonów, komputerów stacjonarnych, pojazdów i nie tylko. Posunięcie to ma na celu poprawę prędkości przetwarzania i zmniejszenie zużycia energii przez zadania AI.
Qualcomm i Mistral łączą siły, aby wprowadzić modele AI na urządzeniach
W komunikacie prasowym producent chipów oficjalnie ogłosił, że Qualcomm i Mistral będą współpracować nad wprowadzeniem konkretnych modeli sztucznej inteligencji zaprojektowanych do działania na urządzeniu. Posunięcie to ma na celu zmniejszenie uzależnienia zadań AI od przetwarzania brzegowego i chmurowego, które jest uważane za zarówno energochłonne, jak i wolniejsze w porównaniu z przetwarzaniem lokalnym. Qualcomm dodał również, że te modele sztucznej inteligencji zostaną zoptymalizowane nie tylko pod kątem platform mobilnych, ale także komputerów stacjonarnych i ekosystemu pojazdów.
Dzięki tej współpracy Ministral 3B i Ministral 8B zostaną zoptymalizowane do działania na urządzeniach wyposażonych w niedawno wprowadzony na rynek procesor Snapdragon 8 Elite dla smartfonów, Snapdragon Cockpit Elite i Snapdragon Ride Elite dla samochodów oraz Snapdragon X Elite dla komputerów PC ze sztuczną inteligencją.
Modele Ministral 3B i 8B AI były wystrzelony ostatni tydzień. Są to pierwsze duże modele językowe (LLM) firmy przeznaczone do użytku komercyjnego. Modele te obsługują wywoływanie funkcji, co czyni je idealnymi do zastosowań w interfejsie programowania aplikacji (API). Według Mistrala modele AI obsługują kontekst o długości do 1 28 000 tokenów.
Qualcomm stwierdził, że modele sztucznej inteligencji na urządzeniach zapewnią użytkownikom końcowym wiele korzyści, w tym lepszą prywatność, mniejsze opóźnienia, wyższą niezawodność, efektywność energetyczną i oszczędności. „Mistral 3B i Ministral 8B firmy Mistral AI umożliwią producentom urządzeń, dostawcom oprogramowania i dostawcom usług cyfrowych dostarczanie innowacyjnych rozwiązań, takich jak asystenci AI i inne aplikacje, które rozumieją pragnienia i potrzeby użytkowników” – powiedziała Durga Malladi, starszy wiceprezes i dyrektor generalny Menedżer ds. technologii, planowania i rozwiązań brzegowych w Qualcomm Technologies.
Obecnie programiści mogą uzyskać dostęp do modelu AI Mistral 7B v0.3 za pośrednictwem Qualcomm AI Hub. W nadchodzących tygodniach do centrum zostaną dodane dwa modele AI Ministral AI.
