OpenAI po raz kolejny ograniczyło swoje działania skupiające się na bezpieczeństwie, rozwiązując zespół AGI Readiness – grupę zajmującą się przygotowaniem do wprowadzenia tak zwanej sztucznej inteligencji ogólnej. Miles Brundage, starszy doradca w zespole, przekazał tę wiadomość w poście na swoim Substacku środę, co również potwierdziło jego odejście ze spółki.
Wartość finansowania OpenAI wycenia firmę na 157 miliardów dolarów
W poście Brundage zasugerował rosnącą potrzebę niezależności w swojej pracy, sugerując, że jego odejście odzwierciedla pragnienie większej wolności w miarę dalszego odkrywania szybko zmieniającego się krajobrazu sztucznej inteligencji.
„Zdecydowałem, że chcę wpływać na rozwój sztucznej inteligencji spoza branży, a nie od wewnątrz” – napisał Brundage, dodając: „Zrobiłem wiele z tego, co sobie założyłem w OpenAI”.
Zmienna prędkość światła
Następnie Brundage wyraził szersze obawy, stwierdzając: „Ani OpenAI, ani żadne inne pionierskie laboratorium nie jest gotowe, a świat też nie jest gotowy”. Według Brundage nie jest to odosobnione zdanie — wielu członków kadry kierowniczej OpenAI podziela te zastrzeżenia. Jeśli chodzi o zespół AGI Readiness, jego dawni członkowie zostaną przeniesieni do innych działów OpenAI.
Sam Altman ustępuje ze stanowiska szefa grupy ds. bezpieczeństwa OpenAI
Rzecznik firmy powiedział CNBC popierają decyzję Brundage’a o przejściu dalej. Mimo to czas jest trudny dla OpenAI, które radzi sobie z exodusem kadry kierowniczej wyższego szczebla w momencie, gdy kluczowa jest stabilność. Chociaż udało mu się pozyskać czołowego badacza sztucznej inteligencji z firmy Microsoft, dodatek ten nie wypełnia wielu ostatnich luk w czołowych rankingach OpenAI.
Zmiany przywództwa i rozwiązania zespołów nie pomagają stłumić narastających obaw związanych z dążeniem OpenAI do AGI, szczególnie od czasu kontrowersyjnego ogłoszenia przez nią planu przekształcenia się w firmę w pełni nastawioną na zysk po rozpoczęciu działalności jako organizacja non-profit.
W maju firma rozwiązała zespół SuperAlignment – grupę, której zadaniem było dokonanie pionierskich „przełomów naukowych i technicznych w zakresie sterowania i kontrolowania systemów sztucznej inteligencji znacznie mądrzejszych od nas”. Mniej więcej w tym samym czasie OpenAI również zmieniło przydział jej czołowy lider w zakresie bezpieczeństwa sztucznej inteligencjiwywołując zdziwienie w społeczności zajmującej się etyką sztucznej inteligencji i poza nią.
