W środę Oppo ogłosiło nową funkcję sztucznej inteligencji (AI) zaprojektowaną dla smartfonów. Firma planuje wdrożyć architekturę sztucznej inteligencji złożoną z ekspertów (MoE), aby znacznie zmniejszyć zużycie energii, a jednocześnie poprawić szybkość przetwarzania. Oppo współpracowało z wiodącymi producentami chipsetów w celu opracowania technologii dla smartfonów i podobnych urządzeń. Nie ujawnił jednak, które nadchodzące smartfony będą wyposażone w tę technologię. Firma niedawno zaprezentowała ColorOS 15 z nowymi funkcjami AI, a flagowa seria Find X8 zostanie wprowadzona na rynek 24 października.
Oppo przedstawia architekturę MoE AI dla smartfonów
Firma udostępniła bliższe dane nowej, własnej technologii dla smartfonów. Architektura MoE nie jest nowa i została spopularyzowana przez firmę Mixtral zajmującą się sztuczną inteligencją, która wydała kilka modeli sztucznej inteligencji opartych na MoE o otwartym kodzie źródłowym.
W przeciwieństwie do dużych modeli językowych (LLM), które mają jeden ogromny, scentralizowany system i mogą wykonywać różnorodne zadania AI, architektura MoE opiera się na małych modelach językowych (SLM). Te SLM specjalizują się w jednym konkretnym zadaniu i mogą je wykonywać z większą dokładnością i szybkością dzięki mniejszym, ale bardziej odpowiednim zbiorom danych.
Wdrożenie architektury AI na urządzeniu złożonej z ekspertów
Źródło zdjęcia: Oppo
W architekturze MoE wiele SLM jest sparowanych razem w backendie i oferuje zsynchronizowany interfejs na frontonie. Ilekroć użytkownik żąda zadania, system przydziela je SLM, który jest w stanie go najlepiej obsłużyć. Dzięki temu system może przetwarzać równolegle i pomimo jednoczesnej realizacji wielu zadań, prędkość przetwarzania nie ulega znaczącemu wpływowi.
Przetwarzanie równoległe w połączeniu z wykorzystaniem SLM zmniejsza również zużycie energii. Oppo twierdzi, że znalazło sposób na wdrożenie tej architektury na urządzeniu, co przełoży się na szybsze przetwarzanie AI, a także wydłużenie czasu pracy baterii.
Na podstawie wewnętrznych testów chiński producent smartfonów twierdzi, że systemy AI oparte na MoE mogą przetwarzać zadania AI o 40 procent szybciej niż tradycyjna alternatywa.
Oppo podkreśliło również, że architektura MoE na urządzeniu zapewni użytkownikom większą prywatność, ponieważ na serwerach będzie trzeba przetwarzać mniej zadań AI. Oznaczałoby to, że dane są przechowywane lokalnie i tylko użytkownik ma do nich dostęp.
