Naukowcy: superinteligentna sztuczna inteligencja zagraża ludzkości

ikona publikacji - ciemny
Opublikowano: 15 września 2022
ikona autora biały
sztuczna inteligencja ai

Superinteligentna sztuczna inteligencja może zawieść i zniszczyć ludzkość. Naukowcy z Uniwersytetu Oksfordzkiego i laboratorium DeepMind ostrzegli przed tym w nowej pracy badawczej.

Zespół próbował przewidzieć, jak AI z systemami nagród może wymknąć się spod kontroli i zaszkodzić ludziom. Naukowcy oparli swoje badania na generatywno-adwersyjnych sieciach neuronowych (GAN), które składają się z dwóch części: generatora i dyskryminatora.

Pierwszy komponent przeznaczony jest do generowania obrazów, natomiast drugi do ich oceny.

Badacze zasugerowali, że w pewnym momencie zaawansowana AI kontrolująca ważną funkcję może uciec się do strategii oszustwa, aby uzyskać nagrodę. Dr Michael Cohen z University of Oxford stwierdził:

W danych warunkach nasz wniosek jest znacznie silniejszy niż jakakolwiek wcześniejsza publikacja - katastrofa egzystencjalna jest nie tylko możliwa, jest prawdopodobna.

Naukowiec uważa, że w świecie o ograniczonych zasobach, sztucznie stworzone systemy będą próbowały przechytrzyć konkurencję.

Dla ilustracji badacze przedstawili scenariusze, w których zaawansowany program mógłby interweniować w celu uzyskania nagrody bez osiągnięcia danego celu. Na przykład AI może chcieć "wyeliminować potencjalne zagrożenia" i "wykorzystać całą dostępną energię", aby zapewnić kontrolę nad swoją nagrodą.

Powinniśmy być bardziej podejrzliwi wobec sztucznych agentów, których dziś wdrażamy, a nie tylko ślepo oczekiwać, że będą wykonywać przydzielone im zadania.

Badacze zasugerowali również, że na obecnym etapie rozwoju AI, rozwój superinteligentnych algorytmów powinien zostać spowolniony lub wstrzymany.

Co uważa Google?

Google, który jest właścicielem DeepMind, powiedział w komentarzu dla Motherboard, że nie był zaangażowany w prace. Według rzecznika giganta technologicznego, jeden ze współautorów pracy, Marcus Hutter, wypowiadał się w imieniu Australian National University. W oświadczeniu Google możemy przeczytać:

DeepMind nie był zaangażowany w tę pracę, a autorzy artykułu poprosili o poprawki, które to odzwierciedlają. DeepMind ma szeroki zakres perspektyw i zainteresowań akademickich. Wielu członków naszego zespołu ma również tytuły profesorskie na uniwersytetach i prowadzi badania naukowe niezależnie od pracy w DeepMind dzięki swoim afiliacjom uniwersyteckim.

Firma poparła jednak wysiłki naukowców, aby zapewnić bezpieczne wykorzystanie algorytmów AI.

Kategoria wpisu:

Podobne tematy

Sztuczna inteligencja: ogromny trend technologiczny czy bańka?

Wprowadzenie ChatGPT przez OpenAI i związany z tym szum sprawiły, że generatywna AI znalazła się na radarze firm venture capital i technologicznych, które chcą zainwestować pieniądze w czasach kryzysu. Narzędzia generatywnej sztucznej inteligencji OpenAI mogą pozornie robić wszystko, od pisania poezji i kodu po tworzenie dzieł sztuki. wywołało wiele emocji w tej dziedzinie. A zarówno […]

Revolut opóźnia wydanie własnej kryptowaluty

Revolut, londyński challenger bank z siedzibą w Londynie, opóźnił uruchomienie swojej natywnej kryptowaluty o nazwie RevCoin. Financial News (FN) poinformował, że upadek giełdy kryptowalut FTX może być głównym powodem, powołując się na osoby zaznajomione ze sprawą. Revolut opóźnia debiut RevCoin Kryptowaluta miała ujrzeć światło dzienne pod koniec ubiegłego roku, ale plany Revoluta uległy zmianie. Przedłużająca […]

Akcje Google (GOOGL)  - jak inwestować, cena, kurs, wykres, dywidendy, gdzie kupić

Google (Alphabet) to amerykańska firma technologiczna, która zaczynała od produktów i usług w branży internetowej i oprogramowania komputerowego. Dziś jednak jej macki sięgają znacznie dalej i można ją nazwać gigantem technologicznym. Jest właścicielem wielu spółek zależnych, które zajmują się rozwojem sztucznej inteligencji, uczenia maszynowego, technologii chmury czy środków służących poprawie ludzkiego zdrowia. W 2009 roku […]

Tysiące użytkowników PayPal ofiarą wycieku danych

Konta 34 942 użytkowników PayPal zostały zhakowane między 2 a 6 grudnia 2022 roku przez nieuprawnione osoby poprzez atak typu credential stuffing. Hakerzy potencjalnie uzyskali dostęp do danych osobowych klientów, w tym ich imienia i nazwiska, adresu, daty urodzenia, numeru identyfikacji podatkowej i numeru ubezpieczenia społecznego. Ataki typu credential stuffing mają miejsce, gdy hakerzy próbują […]

Akcje Apple (AAPL) - jak inwestować, cena, kurs, wykres, dywidendy, gdzie kupić

Na świecie jest ponad 600 milionów użytkowników Apple. Posiadają oni około 1,4 miliarda aktywnych urządzeń Apple (iPhone, iPad, iPod, Mac i inne). Same te liczby są niesamowite, a także stawiają Apple w czołówce najbardziej wartościowych firm na świecie (według magazynu Forbes). To oczywiście czyni firmę bardzo interesującą z perspektywy inwestowania w akcje. W tym obszernym […]
0 0 Głosy
Oceń artykuł
guest
0 komentarzy
Inline Feedbacks
View all comments
© FintechPortal.pl 2021 Wszelkie prawa zastrzeżone
star