Gubernator Kalifornii Gavin Newsom w niedzielę zawetował gorąco kwestionowaną ustawę o bezpieczeństwie sztucznej inteligencji po tym, jak branża technologiczna zgłosiła zastrzeżenia, twierdząc, że może ona wyprzeć firmy zajmujące się sztuczną inteligencją ze stanu i utrudniać innowacje.
Newsom stwierdził, że projekt ustawy „nie bierze pod uwagę tego, czy system sztucznej inteligencji jest wdrażany w środowiskach wysokiego ryzyka, wiąże się z podejmowaniem kluczowych decyzji lub wykorzystaniem wrażliwych danych” i nakładałby „rygorystyczne standardy nawet w przypadku najbardziej podstawowych funkcji – pod warunkiem, że wdraża go duży system.”
Newsom powiedział, że zwrócił się do czołowych ekspertów w dziedzinie generatywnej sztucznej inteligencji o pomoc w Kalifornii w „opracowaniu praktycznych poręczy”, które skupiałyby się „na opracowaniu empirycznej, opartej na nauce analizy trajektorii”. Nakazał także agencjom państwowym rozszerzenie oceny ryzyka wynikającego z potencjalnych katastrofalnych zdarzeń związanych z wykorzystaniem sztucznej inteligencji.
Generatywna sztuczna inteligencja, która może tworzyć teksty, zdjęcia i filmy w odpowiedzi na otwarte podpowiedzi, wzbudziła podekscytowanie, a także obawy, że może sprawić, że niektóre stanowiska pracy staną się przestarzałe, wywrócić wybory do góry nogami i potencjalnie obezwładnić ludzi, co będzie miało katastrofalne skutki.
Autor projektu ustawy, senator stanu Demokratycznego Scott Wiener, stwierdził, że ustawodawstwo jest konieczne, aby chronić społeczeństwo, zanim postęp w sztucznej inteligencji stanie się nieporęczny lub niemożliwy do kontrolowania. Branża sztucznej inteligencji szybko rozwija się w Kalifornii i niektórzy przywódcy kwestionują przyszłość tych firm w stanie, jeśli ustawa wejdzie w życie.
Wiener powiedział w niedzielę, że weto czyni Kalifornię mniej bezpieczną i oznacza, że „firmom dążącym do stworzenia niezwykle potężnej technologii nie obowiązują żadne wiążące ograniczenia”. Dodał, że „dobrowolne zobowiązania branży nie są wykonalne i rzadko sprawdzają się dobrze dla społeczeństwa”.
„Nie możemy sobie pozwolić na czekanie, aż nastąpi poważna katastrofa, zanim podejmiemy działania mające na celu ochronę społeczeństwa” – powiedział Newsom, ale dodał, że się z tym nie zgadza. „Musimy zadowolić się rozwiązaniem, które nie opiera się na empirycznej analizie trajektorii systemów sztucznej inteligencji i możliwości.”
Newsom powiedział, że podczas następnej sesji będzie współpracował z ustawodawcą nad ustawodawstwem dotyczącym sztucznej inteligencji. Orzeczenie to nadeszło, gdy ustawodawstwo Kongresu USA mające na celu ustanowienie zabezpieczeń utknęło w martwym punkcie, a administracja Bidena przedstawia propozycje regulacyjne dotyczące nadzoru nad sztuczną inteligencją.
Newsom powiedział, że „podejście obejmujące wyłącznie Kalifornię może być uzasadnione – zwłaszcza w przypadku braku działań federalnych ze strony Kongresu”.
Chamber of Progress, koalicja branży technologicznej, pochwaliła weto Newsoma, mówiąc, że „kalifornijska gospodarka technologiczna zawsze prosperowała dzięki konkurencji i otwartości”.
Rozwiązanie to wymagałoby między innymi testowania bezpieczeństwa wielu najbardziej zaawansowanych modeli sztucznej inteligencji, których opracowanie kosztuje ponad 100 milionów dolarów (około 838 crore rupii), lub takich, które wymagają określonej mocy obliczeniowej. Twórcy oprogramowania AI działającego w państwie musieliby również określić metody wyłączania modeli sztucznej inteligencji, co byłoby skutecznym wyłącznikiem awaryjnym.
Ustawa powołałaby podmiot państwowy, który miałby nadzorować rozwój tzw. „modeli granicznych”, które przekraczałyby możliwości obecne w najbardziej zaawansowanych istniejących modelach.
Projekt ustawy spotkał się z silnym sprzeciwem różnych grup. Firmy Alphabet, Google, OpenAI i Meta Platforms wspierane przez Microsoft, z których wszystkie opracowują generatywne modele sztucznej inteligencji, wyraziły swoje obawy dotyczące tej propozycji.
Niektórzy Demokraci w Kongresie USA, w tym przedstawicielka Nancy Pelosi, również byli temu przeciwni. Wśród zwolenników znalazł się dyrektor generalny Tesli Elon Musk, który prowadzi także firmę zajmującą się sztuczną inteligencją o nazwie xAI. Wspierana przez Amazon firma Anthropic stwierdziła, że korzyści wynikające z ustawy prawdopodobnie przewyższają koszty, choć dodała, że nadal istnieją pewne aspekty, które wydają się niepokojące lub niejednoznaczne.
Newsom osobno podpisał przepisy wymagające od stanu oceny potencjalnych zagrożeń stwarzanych przez generatywną sztuczną inteligencję dla infrastruktury krytycznej Kalifornii.
Państwo analizuje ryzyko związane z infrastrukturą energetyczną i powołało wcześniej dostawców z sektora energetycznego i w nadchodzącym roku przeprowadzi taką samą ocenę ryzyka z dostawcami infrastruktury wodnej, a później z sektorem komunikacyjnym, powiedział Newsom.
© Thomson Reuters 2024
(Ta historia nie została edytowana przez personel NDTV i została wygenerowana automatycznie z kanału dystrybucyjnego.)
