Seul został wybrany na organizację szczytu na temat odpowiedzialnej sztucznej inteligencji w wojsku. Podjęto tam próbę określenia czerwonych linii wykorzystania technologii w sprawach wojskowych; coś, co wydaje się oczywiste: że sztuczna inteligencja nie kontroluje czerwonego przycisku bez nadzoru człowieka. Szczyt, który zakończył się podpisami wszystkich uczestników z wyjątkiem jednego: Chin.
Czy maszyny powinny podejmować decyzje o użyciu broni nuklearnej? Czy eskalacja technologiczno-wojskowa jest nieunikniona? Gdzie w tym wyścigu jest Europa?
Czym jest szczyt AI w Korei Południowej?
To drugi szczyt będący kontynuacją tego, który odbył się w zeszłym roku w Hadze. Przy tej okazji około 60 krajów, w tym Chiny i Ukraina, poparło skromny apel o odpowiedzialne wykorzystanie sztucznej inteligencji w wojsku. „Technologia ma coraz większy wpływ na geostrategię” – wyjaśnia Mario Yáñez, konsultant ds. technologii w kilku firmach, takich jak Kyndryl w La Linterna. „Widzieliśmy to obecnie w eksplozjach wyszukiwarek w Libanie lub w przypadku dronów sterowanych przez sztuczną inteligencję używanych podczas wojny na Ukrainie. Tym razem próbowali zawrzeć porozumienie w tej sprawie” – podał jako przykład.
Ponadto w 2024 r. omawiano potrzebę zapobiegania wykorzystywaniu sztucznej inteligencji do rozprzestrzeniania broni masowego rażenia przez podmioty takie jak grupy terrorystyczne, a także znaczenie utrzymania kontroli człowieka i udziału w użyciu broni nuklearnej. „Obejmuje to ustalenie ocen ryzyka i ważnych warunków, takich jak kontrola ludzka i współpraca międzynarodowa” – dodaje Yáñez z COPE.
Dlaczego sztuczna inteligencja jest blokowana tylko dla grup terrorystycznych
Autor artykułu „La Linterna” zapewnia, że dzięki sztucznej inteligencji i zaawansowanej technologii dzieje się „coś podobnego do tego, co stało się z bronią nuklearną”. „Dobrzy są dobrzy, dopóki nie przestaną być dobrzy, a co więcej, ci, którzy już mają tę technologię, nie zrezygnują z niej” – komentuje, odnosząc się do tego, że wielkie mocarstwa nie mają przeszkód w korzystaniu z niej. „Bardzo trudno będzie osiągnąć porozumienie między wszystkimi, którzy walczą o tę dominację technologiczną i militarną”.
Chiny głosują na „nie”
Po dwóch dniach rozmów ponad sto krajów, w tym Stany Zjednoczone, Chiny, Wielka Brytania, Holandia i Ukraina, opracowało niewiążący prawnie dokument, który potwierdza, że to ludzie, a nie sztuczna inteligencja, powinni odgrywać kluczową rolę w decyzji w sprawie użycia broni jądrowej oraz że zdolności sztucznej inteligencji w obszarze wojskowym muszą być stosowane zgodnie z prawem krajowym i międzynarodowym oraz muszą być etyczne i skupiać się na człowieku. Porozumienie, które podpisali wszyscy z wyjątkiem Chin i Rosji, której wyrzucono ze szczytu.
Dlaczego Chiny nie przystąpią do porozumienia
Odpowiedź Chin, wyjaśnia Yáñez, jest symptomem obecnych napięć geopolitycznych. „Po raz pierwszy Chiny mogą odebrać im przewagę w technologii wojskowej” – mówi współpracownik COPE. Z raportu opublikowanego w sierpniu przez Australijski Instytut Polityki Strategicznej wynika, że Chiny umocniły swoją pozycję wiodącego kraju badawczego w takich kategoriach, jak zaawansowana analiza danych, algorytmy sztucznej inteligencji czy uczenie maszynowe i kontradyktoryjna sztuczna inteligencja.
Ponadto istnieją już chińskie firmy, takie jak Tencent Holdings, Alibaba i Huawei Technologies, które znajdują się w pierwszej dziesiątce firm prowadzących badania nad sztuczną inteligencją na świecie.