OpenAI ogłasza API w czasie rzeczywistym, szybki coaching i dostrajanie wizji na GPT-4o dla programistów

OpenAI było we wtorek gospodarzem dorocznej konferencji DevDay w San Francisco i ogłosiło kilka nowych aktualizacji wersji ChatGPT interfejsu programowania aplikacji (API), którą można przebudować i udoskonalić w celu obsługi innych aplikacji i oprogramowania. Wśród nich najważniejsze nowości to API czasu rzeczywistego, szybki coaching i dostrajanie wizji za pomocą GPT-4o. Firma ułatwia także programistom proces destylacji modeli. OpenAI ogłosiło również zakończenie rundy finansowania i oświadczyło, że podczas wydarzenia zebrało 6,6 miliarda dolarów (około 55 tysięcy crore rupii).

OpenAI ogłasza nowe funkcje dla programistów

W kilku postach na blogu firma zajmująca się sztuczną inteligencją podkreśliła nowe funkcje i narzędzia dla programistów. The Pierwszy to API czasu rzeczywistego, które będzie dostępne dla płatnych abonentów ChatGPT API. Ta nowa funkcja zapewnia wielomodalne doświadczenie o niskim opóźnieniu, umożliwiając konwersacje mowy na mowę podobne do zaawansowanego trybu głosowego ChatGPT. Programiści mogą także skorzystać z sześciu gotowych głosów, które zostały wcześniej dodane do API.

Kolejną nowością jest możliwość szybkiego coachingu w interfejsie API. OpenAI wprowadza tę funkcję, aby programiści mogli zaoszczędzić na często używanych monitach. Firma zauważyła, że ​​programiści zwykle wysyłają te same monity o wprowadzenie danych podczas edycji bazy kodu lub prowadzenia wieloetapowej rozmowy z chatbotem. Dzięki szybkiemu coachingowi mogą teraz ponownie wykorzystać ostatnio używane podpowiedzi po obniżonej cenie. Przetwarzanie tego samego będzie również szybsze. Nowe stawki można sprawdzić Tutaj.

Model GPT-4o również może być dostrojony do zadań związanych ze wzrokiem. Programiści mogą dostosować model dużego języka (LLM), ucząc go na ustalonym zestawie danych wizualnych i poprawiając jego wydajność wyjściową. Jak wynika z wpisu na blogu, wydajność GPT-4o w zadaniach wzrokowych można poprawić już przy 100 obrazach.

Wreszcie firma przeprowadza również proces destylacja modelowa łatwiejsze dla programistów. Destylacja modelu to proces budowania mniejszych, dopracowanych modeli sztucznej inteligencji na podstawie większego modelu językowego. Wcześniej proces ten był skomplikowany i wymagał zastosowania podejścia wieloetapowego. Teraz OpenAI oferuje nowe narzędzia, takie jak Stored Completions (do łatwego generowania zestawów danych destylacyjnych), Evals (do przeprowadzania niestandardowych ocen i pomiaru wydajności) oraz Fine-Tuning (dostrajanie mniejszych modeli bezpośrednio po uruchomieniu Eval).

Warto zauważyć, że wszystkie te funkcje są obecnie dostępne w wersji beta i będą dostępne dla wszystkich programistów korzystających z płatnej wersji API w późniejszym terminie. Ponadto firma stwierdziła, że ​​podejmie kroki w celu dalszego obniżenia kosztów tokenów wejściowych i wyjściowych.