Naukowcy: superinteligentna sztuczna inteligencja zagraża ludzkości

ikona publikacji - ciemny
Opublikowano: 15 września 2022
ikona autora biały
sztuczna inteligencja ai

Superinteligentna sztuczna inteligencja może zawieść i zniszczyć ludzkość. Naukowcy z Uniwersytetu Oksfordzkiego i laboratorium DeepMind ostrzegli przed tym w nowej pracy badawczej.

Zespół próbował przewidzieć, jak AI z systemami nagród może wymknąć się spod kontroli i zaszkodzić ludziom. Naukowcy oparli swoje badania na generatywno-adwersyjnych sieciach neuronowych (GAN), które składają się z dwóch części: generatora i dyskryminatora.

Pierwszy komponent przeznaczony jest do generowania obrazów, natomiast drugi do ich oceny.

Badacze zasugerowali, że w pewnym momencie zaawansowana AI kontrolująca ważną funkcję może uciec się do strategii oszustwa, aby uzyskać nagrodę. Dr Michael Cohen z University of Oxford stwierdził:

W danych warunkach nasz wniosek jest znacznie silniejszy niż jakakolwiek wcześniejsza publikacja - katastrofa egzystencjalna jest nie tylko możliwa, jest prawdopodobna.

Naukowiec uważa, że w świecie o ograniczonych zasobach, sztucznie stworzone systemy będą próbowały przechytrzyć konkurencję.

Dla ilustracji badacze przedstawili scenariusze, w których zaawansowany program mógłby interweniować w celu uzyskania nagrody bez osiągnięcia danego celu. Na przykład AI może chcieć "wyeliminować potencjalne zagrożenia" i "wykorzystać całą dostępną energię", aby zapewnić kontrolę nad swoją nagrodą.

Powinniśmy być bardziej podejrzliwi wobec sztucznych agentów, których dziś wdrażamy, a nie tylko ślepo oczekiwać, że będą wykonywać przydzielone im zadania.

Badacze zasugerowali również, że na obecnym etapie rozwoju AI, rozwój superinteligentnych algorytmów powinien zostać spowolniony lub wstrzymany.

Co uważa Google?

Google, który jest właścicielem DeepMind, powiedział w komentarzu dla Motherboard, że nie był zaangażowany w prace. Według rzecznika giganta technologicznego, jeden ze współautorów pracy, Marcus Hutter, wypowiadał się w imieniu Australian National University. W oświadczeniu Google możemy przeczytać:

DeepMind nie był zaangażowany w tę pracę, a autorzy artykułu poprosili o poprawki, które to odzwierciedlają. DeepMind ma szeroki zakres perspektyw i zainteresowań akademickich. Wielu członków naszego zespołu ma również tytuły profesorskie na uniwersytetach i prowadzi badania naukowe niezależnie od pracy w DeepMind dzięki swoim afiliacjom uniwersyteckim.

Firma poparła jednak wysiłki naukowców, aby zapewnić bezpieczne wykorzystanie algorytmów AI.

Kategoria wpisu:

Podobne tematy

Biały Dom przedstawia niewiążącą Ustawę o Prawach Sztucznej Inteligencji

Biuro Polityki Naukowej i Technologicznej Białego Domu (OSTP) opublikowało projekt AI Bill of Rights mający na celu "ochronę amerykańskiego społeczeństwa". Informacje na ten temat podaje Engadget. Według informacji prasowej, dokument opowiada się za pięcioma zasadami: Bezpieczeństwo i wydajność systemów; algorytmiczne zabezpieczenie przed dyskryminacją; prywatność danych; zgłoszenie i wyjaśnienie celu stosowania systemów AI; alternatywy dla człowieka, […]

Algorytmy Facebooka oskarżone o "przyczynianie się" do ludobójstwa w Birmie

W 2017 roku algorytmy generowania treści przez Facebooka "bezpośrednio przyczyniły się do morderstw i innych okrucieństw" popełnianych przez wojsko Myanmaru wobec muzułmańskiej mniejszości Rohingya. Tak wynika z dochodzenia przeprowadzonego przez Amnesty International. W 74-stronicowym raporcie działacze praw człowieka wymienili naruszenia praw Rohingya w ciągu ostatnich pięciu lat wśród systematycznych prześladowań i apartheidu. Od 2017 roku […]

Pekin wymaga od kierowców autobusów noszenia bransoletek "nastroju"

Władze Pekinu wprowadziły obowiązek noszenia przez kierowców autobusów dalekobieżnych elektronicznych bransoletek z technologią rozpoznawania emocji, aby monitorować ich stan skupienia. Informację na ten temat podał dziennik "South China Morning Post". Inicjatorem tego posunięcia jest Beijing State Public Transport Holding Group. Ma ono na celu zapewnienie bezpieczeństwa obywatelom. Władze wydały około 1800 opasek kierowcom autobusów na […]

Revolut dodaje 29 kryptowalut dla klientów z USA

Firma fintech Revolut ogłosiła dodanie 29 nowych kryptowalut dla klientów z USA. Takie informacje podaje The Block. Wśród nowych tokenów znalazły się m.in. Dogecoin, Solana, Avalanche i Shiba Inu. Pełna lista nie została sprecyzowana. Niektóre kryptowaluty wymagają zgody NYDFS. Inicjatywa ta była częścią programu rozszerzenia usług związanych z aktywami cyfrowymi. W przyszłości przewidywane jest dodanie […]

Nvidia prezentuje nowe chipy i usługi AI

Nvidia na konferencji GTC 2022 zaprezentowała procesory do przetwarzania zadań związanych ze sztuczną inteligencją, a także szereg usług dla deweloperów. CEO firmy Techgiant, Jensen Huang, zademonstrował nową generację kart graficznych z serii GeForce RTX 40. Akceleratory oparte są na architekturze Ada Lovelace i reprezentowane są przez dwa modele: RTX 4090 i RTX 4080 w dwóch […]
0 0 Głosy
Oceń artykuł
guest
0 komentarzy
Inline Feedbacks
View all comments
© FintechPortal.pl 2021 Wszelkie prawa zastrzeżone
star