SACRAMENTO, 30 września (AP) Gubernator Kalifornii Gavin Newsom zawetował w niedzielę przełomową ustawę mającą na celu ustanowienie pierwszych w kraju środków bezpieczeństwa dla dużych modeli sztucznej inteligencji.
Decyzja ta stanowi poważny cios dla wysiłków mających na celu ograniczenie krajowego przemysłu, który szybko rośnie przy niewielkim nadzorze. Zwolennicy twierdzą, że ustawa ustanowiłaby jedne z pierwszych w kraju przepisów dotyczących wielkoskalowych modeli sztucznej inteligencji i utorowałaby drogę przepisom bezpieczeństwa dotyczącym sztucznej inteligencji w całym kraju.
Przeczytaj także | Hassan Nasrallah zabity: Izrael wykorzystał szpiega Intela z Iranu do zamordowania przywódcy Hezbollahu – wynika z raportu.
Na początku tego miesiąca demokratyczny gubernator powiedział publiczności na Dreamforce, corocznej konferencji organizowanej przez giganta oprogramowania Salesforce, że Kalifornia powinna przejąć wiodącą rolę w regulowaniu sztucznej inteligencji w obliczu bezczynności władz federalnych, ale propozycja ta „może zaszkodzić branży”.
Newsom powiedział, że propozycja, która spotkała się z ostrym sprzeciwem start-upów, gigantów technologicznych i kilku członków Izby Demokratycznej, może zaszkodzić krajowemu przemysłowi poprzez nałożenie bardziej rygorystycznych wymagań.
Przeczytaj także | Wojna rosyjsko-ukraińska: Rosyjskie wojsko zestrzeliło ponad 100 ukraińskich dronów w jednym z największych wypadków tej wojny.
„Chociaż SB 1047 ma dobre intencje, nie bierze pod uwagę tego, czy system sztucznej inteligencji jest wdrażany w środowiskach wysokiego ryzyka, wiąże się z podejmowaniem kluczowych decyzji lub wykorzystuje wrażliwe dane” – Newsom stwierdził w oświadczeniu. „Zamiast tego ustawa nakładałaby bardziej rygorystyczne standardy nawet na podstawowe funkcje – do czasu, aż duży system to uwzględni”.
Zamiast tego Newsom ogłosił, że stan będzie współpracował z kilkoma ekspertami branżowymi, w tym z liderem AI Fei-Fei Li, aby zbudować mury wokół potężnych modeli sztucznej inteligencji. Lee sprzeciwił się propozycji bezpieczeństwa AI.
Środek ten, mający na celu ograniczenie potencjalnych zagrożeń stwarzanych przez sztuczną inteligencję, wymagałby od przedsiębiorstw testowania swoich modeli i publicznego ujawniania protokołów bezpieczeństwa, zanim modele mogłyby zostać uruchomione, na przykład w wyniku zniszczenia państwowej sieci energetycznej lub pomocy w budowie broni chemicznej. Eksperci twierdzą, że takie scenariusze mogą stać się możliwe w przyszłości wraz z szybkim rozwojem branży. Zapewniła także pracownikom ochronę sygnalistów.
Autor projektu ustawy, senator stanu Scott Weiner z Partii Demokratycznej, nazwał weto „porażką każdego, kto wierzy w kontrolowanie gigantycznych korporacji, które podejmują ważne decyzje mające wpływ na bezpieczeństwo i dobrobyt społeczeństwa oraz przyszłość planety”.
„Firmy opracowujące zaawansowane systemy sztucznej inteligencji zdają sobie sprawę, że ryzyko, jakie te modele stanowią dla ludzi, jest realne i szybko rośnie. Chociaż główne laboratoria sztucznej inteligencji podjęły godne podziwu zobowiązania w zakresie monitorowania i łagodzenia tych zagrożeń, prawda jest taka, że dobrowolne zobowiązania branży są niewykonalne i rzadko sprawdzają się opinii publicznej” – stwierdził Wiener w oświadczeniu.
Wiener powiedział, że debata wokół projektu ustawy znacząco posunęła się do przodu w kwestii bezpieczeństwa sztucznej inteligencji i będzie nadal to podkreślał.
Przepisy te znajdują się wśród ustaw przyjętych przez legislaturę w tym roku w celu uregulowania sztucznej inteligencji, zwalczania oszustw i ochrony pracowników. Ustawodawcy stanowi stwierdzili, że Kalifornia powinna podjąć działania w tym roku, powołując się na trudne lekcje, jakie wyciągnęli z upadających firm z branży mediów społecznościowych, gdy miały taką szansę.
Zwolennicy tego rozwiązania, w tym Elon Musk i Anthropic, twierdzą, że propozycja może wprowadzić poziom przejrzystości i odpowiedzialności w odniesieniu do wielkoskalowych modeli sztucznej inteligencji, ponieważ programiści i eksperci twierdzą, że nadal nie w pełni rozumieją, jak zachowują się modele sztucznej inteligencji. Dlaczego
Projekt ustawy dotyczy systemów, których budowa będzie kosztować ponad 100 milionów dolarów. Żaden obecny model sztucznej inteligencji nie osiągnął tego progu, ale niektórzy eksperci twierdzą, że może się to zmienić w ciągu przyszłego roku.
„Wynika to z ogromnego wzrostu inwestycji w tym obszarze” – powiedział Daniel Cocotailo, były badacz OpenAI, który zrezygnował w kwietniu z powodu braku uwagi firmy na zagrożenia związane ze sztuczną inteligencją. „Kontrolowanie prywatnej firmy bez odpowiedzialności to szalona władza i jest niezwykle niebezpieczna”.
Stany Zjednoczone już pozostają w tyle za Europą pod względem regulacji sztucznej inteligencji w celu ograniczenia ryzyka. Propozycja Kalifornii nie była tak radykalna, jak przepisy obowiązujące w Europie, ale był dobrym krokiem w kierunku wzniesienia murów wokół szybko rozwijającej się technologii, która budzi obawy związane z utratą miejsc pracy, dezinformacją, naruszeniem prywatności i uprzedzeniami dotyczącymi automatyzacji.
W zeszłym roku wiele wiodących firm zajmujących się sztuczną inteligencją dobrowolnie zgodziło się przestrzegać zabezpieczeń określonych przez Biały Dom, takich jak testowanie i udostępnianie danych na temat swoich modeli. Zwolennicy tego rozwiązania twierdzili, że kalifornijska ustawa wymagałaby od twórców sztucznej inteligencji spełnienia wymogów podobnych do tych obowiązków.
Jednak krytycy, w tym była spikerka Izby Reprezentantów Nancy Pelosi, twierdzą, że ustawa „zabije kalifornijską technologię” i zdusi innowacje. Powiedzieli, że zniechęci to twórców sztucznej inteligencji do inwestowania w duże modele lub udostępniania oprogramowania typu open source.
Decyzja Newsoma o zawetowaniu ustawy to kolejne kalifornijskie zwycięstwo dużych firm technologicznych i twórców sztucznej inteligencji, z których wielu lobbowało w zeszłym roku w Kalifornijskiej Izbie Handlowej, aby odwieść gubernatora i prawodawców od ulepszania przepisów dotyczących sztucznej inteligencji.
Dwie inne szeroko zakrojone propozycje dotyczące sztucznej inteligencji, które również spotkały się z rosnącym sprzeciwem ze strony branży technologicznej i innych osób, upadły przed terminami legislacyjnymi w zeszłym miesiącu.
Gubernator powiedział na początku lata, że chce chronić status Kalifornii jako światowego lidera w dziedzinie sztucznej inteligencji, zauważając, że 32 z 50 największych firm zajmujących się sztuczną inteligencją na świecie ma swoje siedziby w tym stanie.
Jako pierwszy kraj na świecie przyjęła Kalifornię, ponieważ stan ten będzie mógł wkrótce korzystać z narzędzi opartych na sztucznej inteligencji, aby zmniejszyć zatory na autostradach, zapewnić wytyczne podatkowe i usprawnić programy dla bezdomnych. W zeszłym miesiącu stan ogłosił również dobrowolne partnerstwo z gigantem sztucznej inteligencji Nvidią, aby pomóc w szkoleniu studentów, profesorów uczelni, programistów i analityków danych. Kalifornia rozważa również nowe zasady przeciwdziałające dyskryminacji AI w praktykach rekrutacyjnych.
Na początku tego miesiąca Newsom podpisał jedne z najsurowszych w kraju przepisów chroniących przed oszustwami wyborczymi oraz środki chroniące pracowników Hollywood przed nieuprawnionym wykorzystaniem sztucznej inteligencji. (AP)
(To jest nieedytowana i automatycznie wygenerowana historia z kanału Syndicated News, personel LatestLY mógł edytować tekst treści lub nie)
