OpenAI tworzy Komitet ds. Bezpieczeństwa i Ochrony, rozpoczynając testowanie swojego kolejnego głównego modelu sztucznej inteligencji

We wtorek OpenAI ogłosiło utworzenie nowego komitetu, który będzie nadzorował środki bezpieczeństwa podejmowane w projektach i operacjach firmy. Komisja ds. Bezpieczeństwa i Ochrony składa się z wybranych członków zarządu, a jej zadaniem jest ocena i dalszy rozwój procesów i zabezpieczeń firmy AI z siedzibą w San Francisco. Nowy komitet powstał, gdy OpenAI rozpoczęło testowanie nowej generacji modelu sztucznej inteligencji (AI). Warto zauważyć, że firma niedawno udostępniła swoją specyfikację modelu, czyli dokument podkreślający podejście firmy do budowania odpowiedzialnego i etycznego modelu sztucznej inteligencji.

Komitet Bezpieczeństwa i Ochrony OpenAI

W post na blogu, firma przedstawiła szczegóły dotyczące nowo utworzonego komitetu. W poście napisano: „Dzisiaj Zarząd OpenAI utworzył Komitet ds. Bezpieczeństwa i Ochrony, na którego czele stoją dyrektorzy Bret Taylor (przewodniczący), Adam D’Angelo, Nicole Seligman i Sam Altman (CEO). Komisja ta będzie odpowiedzialna za wydawanie rekomendacji dla całego Zarządu w sprawie kluczowych decyzji dotyczących bezpieczeństwa i ochrony projektów i operacji OpenAI.

Oprócz dyrektorów w skład komitetu wezmą udział także dyrektor ds. gotowości OpenAI Aleksander Madry, szef ds. systemów bezpieczeństwa John Schulman, szef ds. bezpieczeństwa Matt Knight i główny naukowiec Jakub Pachocki.

Pierwszym zadaniem komisji będzie ocena i dalszy rozwój procesów i zabezpieczeń firmy AI w ciągu najbliższych 90 dni. Następnie komisja podzieli się swoimi ustaleniami i zaleceniami z pełnym zarządem. Zalecenia zostaną poddane ocenie Zarządu, po czym OpenAI udostępni publicznie przyjęte rekomendacje.

OpenAI rozpoczyna testowanie modelu sztucznej inteligencji nowej generacji

Te nowe rozwiązania w OpenAI są powiązane z nową inicjatywą firmy. Rozpoczął testowanie kolejnej generacji swojego modelu AI. Nazywając go „pograniczym” modelem sztucznej inteligencji, podkreślono, że ten niedostatecznie przetestowany model wielkojęzykowy (LLM) przybliży firmę o krok do sztucznej inteligencji ogólnej (AGI).

AGI to rodzaj sztucznej inteligencji, który potrafi rozumieć, uczyć się i stosować wiedzę w szerokim zakresie rzeczywistych zadań porównywalnych z ludzką inteligencją. Niektóre definicje AGI podkreślają również, że jest ono zdolne do autonomicznego funkcjonowania i może rozwinąć pewien poziom samoświadomości.