Badacze firmy Adobe opublikowali artykuł szczegółowo opisujący nowy model sztucznej inteligencji (AI), który może przetwarzać dokumenty lokalnie na urządzeniu. W opublikowanym w zeszłym tygodniu artykule podkreślono, że badacze eksperymentowali z istniejącymi modelami dużego języka (LLM) i małymi modelami języka (SLM), aby znaleźć sposób na zmniejszenie rozmiaru modelu sztucznej inteligencji przy jednoczesnym zachowaniu jego zdolności przetwarzania i dużej szybkości wnioskowania. W wyniku eksperymentów badaczom udało się opracować model sztucznej inteligencji nazwany SlimLM, który może całkowicie działać w smartfonie i przetwarzać dokumenty.
Naukowcy Adobe opracowują SlimLM
Przetwarzanie dokumentów oparte na sztucznej inteligencji, które pozwala chatbotowi odpowiadać na zapytania użytkowników dotyczące jego treści, jest ważnym przypadkiem zastosowania generatywnej sztucznej inteligencji. Wiele firm, w tym Adobe, wykorzystało tę aplikację i udostępniło narzędzia oferujące tę funkcjonalność. Jednak ze wszystkimi tego typu narzędziami jest jeden problem – przetwarzanie AI odbywa się w chmurze. Przetwarzanie danych na serwerze budzi obawy dotyczące prywatności danych i sprawia, że przetwarzanie dokumentów zawierających informacje wrażliwe jest procesem obarczonym ryzykiem.
Ryzyko wynika głównie z obaw, że firma oferująca rozwiązanie może przeszkolić w tym zakresie sztuczną inteligencję lub incydent naruszenia bezpieczeństwa danych może spowodować wyciek wrażliwych informacji. Jako rozwiązanie badacze firmy Adobe opublikowali plik papier w internetowym czasopiśmie arXiv szczegółowo opisał nowy model sztucznej inteligencji, który może przetwarzać dokumenty całkowicie na urządzeniu.
Najmniejszy wariant modelu AI, nazwany SlimLM, zawiera zaledwie 125 milionów parametrów, co umożliwia integrację z systemem operacyjnym smartfona. Naukowcy twierdzą, że może działać lokalnie, bez konieczności połączenia z Internetem. Dzięki temu użytkownicy mogą bez obaw przetwarzać nawet najbardziej wrażliwe dokumenty, ponieważ dane nigdy nie opuszczają urządzenia.
W artykule badacze podkreślili, że przeprowadzili kilka eksperymentów na Samsungu Galaxy S24, aby znaleźć równowagę między wielkością parametrów, szybkością wnioskowania i szybkością przetwarzania. Po optymalizacji zespół wstępnie umieścił model na fundamencie SlimPajama-627B i dopracował go za pomocą specjalistycznego oprogramowania DocAssist do przetwarzania dokumentów.
Warto zauważyć, że arXiv jest czasopismem przedpremierowym, którego publikacja nie wymaga recenzowania. W związku z tym nie można zweryfikować zasadności twierdzeń zawartych w artykule badawczym. Jeśli jednak to prawda, model sztucznej inteligencji może w przyszłości zostać dostarczony z platformami Adobe.
