Facebook Twitter Instagram
    piątek, 9 czerwca
    Facebook Twitter Instagram
    Fintech Portal
    • Newsy
    • Sztuczna inteligencja
    • Podstawy finansów
      • Ekonomia
    • CBDC
    • Inwestycje
    • Blockchain
      • Kryptowaluty
    • Portfele cyfrowe
    Fintech Portal
    You are at:Strona główna » Naukowcy: superinteligentna sztuczna inteligencja zagraża ludzkości
    Newsy

    Naukowcy: superinteligentna sztuczna inteligencja zagraża ludzkości

    maciekBy maciek15 września 2022002 Mins Read
    Share Facebook Twitter Pinterest LinkedIn Tumblr Email
    sztuczna inteligencja ai
    Share
    Facebook Twitter LinkedIn Pinterest Email

    Superinteligentna sztuczna inteligencja może zawieść i zniszczyć ludzkość. Naukowcy z Uniwersytetu Oksfordzkiego i laboratorium DeepMind ostrzegli przed tym w nowej pracy badawczej.

    Zespół próbował przewidzieć, jak AI z systemami nagród może wymknąć się spod kontroli i zaszkodzić ludziom. Naukowcy oparli swoje badania na generatywno-adwersyjnych sieciach neuronowych (GAN), które składają się z dwóch części: generatora i dyskryminatora.

    Pierwszy komponent przeznaczony jest do generowania obrazów, natomiast drugi do ich oceny.

    Badacze zasugerowali, że w pewnym momencie zaawansowana AI kontrolująca ważną funkcję może uciec się do strategii oszustwa, aby uzyskać nagrodę. Dr Michael Cohen z University of Oxford stwierdził:

    W danych warunkach nasz wniosek jest znacznie silniejszy niż jakakolwiek wcześniejsza publikacja – katastrofa egzystencjalna jest nie tylko możliwa, jest prawdopodobna.

    Naukowiec uważa, że w świecie o ograniczonych zasobach, sztucznie stworzone systemy będą próbowały przechytrzyć konkurencję.

    Dla ilustracji badacze przedstawili scenariusze, w których zaawansowany program mógłby interweniować w celu uzyskania nagrody bez osiągnięcia danego celu. Na przykład AI może chcieć „wyeliminować potencjalne zagrożenia” i „wykorzystać całą dostępną energię”, aby zapewnić kontrolę nad swoją nagrodą.

    Powinniśmy być bardziej podejrzliwi wobec sztucznych agentów, których dziś wdrażamy, a nie tylko ślepo oczekiwać, że będą wykonywać przydzielone im zadania.

    Badacze zasugerowali również, że na obecnym etapie rozwoju AI, rozwój superinteligentnych algorytmów powinien zostać spowolniony lub wstrzymany.

    Co uważa Google?

    Google, który jest właścicielem DeepMind, powiedział w komentarzu dla Motherboard, że nie był zaangażowany w prace. Według rzecznika giganta technologicznego, jeden ze współautorów pracy, Marcus Hutter, wypowiadał się w imieniu Australian National University. W oświadczeniu Google możemy przeczytać:

    DeepMind nie był zaangażowany w tę pracę, a autorzy artykułu poprosili o poprawki, które to odzwierciedlają. DeepMind ma szeroki zakres perspektyw i zainteresowań akademickich. Wielu członków naszego zespołu ma również tytuły profesorskie na uniwersytetach i prowadzi badania naukowe niezależnie od pracy w DeepMind dzięki swoim afiliacjom uniwersyteckim.

    Firma poparła jednak wysiłki naukowców, aby zapewnić bezpieczne wykorzystanie algorytmów AI.

    Share. Facebook Twitter Pinterest LinkedIn Tumblr Email
    Previous ArticleChiny mogą wygrać wyścig o AI do 2030 r.
    Next Article PayU uzyskało wsparcie regulacyjne dla przejęcia kolumbijskiego fintechu Ding
    maciek

    Ostatnie artykuły w tej kategorii:

    Newsy By maciek

    Autor „Bitcoin Standard” zostaje doradcą ekonomicznym Salwadoru

    7 czerwca 2023
    Newsy By maciek

    SEC pozywa Binance i Coinbase. Jaka jest treść pozwów i czego możemy spodziewać się w przyszłości?

    7 czerwca 2023
    Newsy By maciek

    Nasdaq na nowym rocznym szczycie. Co ciągnie rynki akcji w górę i jakie są zagrożenia?

    2 czerwca 2023
    0 0 Głosy
    Oceń artykuł
    guest
    guest
    0 komentarzy
    Inline Feedbacks
    View all comments

    Newsy

    Autor „Bitcoin Standard” zostaje doradcą ekonomicznym Salwadoru

    By maciek7 czerwca 2023

    Saifedean Ammous, autor książki o Bitcoinie zatytułowanej The Bitcoin Standard, został mianowany doradcą ekonomicznym Salwadorskiego…

    Newsy

    SEC pozywa Binance i Coinbase. Jaka jest treść pozwów i czego możemy spodziewać się w przyszłości?

    By maciek7 czerwca 2023

    Amerykańska Komisja Papierów Wartościowych i Giełd (SEC) kontynuuje kampanię przeciwko kryptowalutom, dodając dwóch bardzo znanych…

    Newsy

    Nasdaq na nowym rocznym szczycie. Co ciągnie rynki akcji w górę i jakie są zagrożenia?

    By maciek2 czerwca 2023

    Rynki akcji doświadczają obecnie pewnego boomu, który jest wyraźnie napędzany pozytywnymi oczekiwaniami związanymi z segmentem…

    Newsy

    Złoto wciąż walczy w pobliżu rekordowych poziomów. Trend wzrostowy jest nadal możliwy

    By maciek2 czerwca 2023

    Złoto wciąż znajduje się stosunkowo blisko swojego rekordowego poziomu, który wynosi około 2080 USD za…

    Kategorie
    • Akcje (4)
    • Aplikacje mobilne (4)
    • Banki (7)
    • Bezpieczeństwo (2)
    • Blockchain (2)
    • CBDC (13)
    • Ekonomia (5)
    • Giełdy kryptowalut (3)
    • Gospodarka (6)
    • Inwestycje (10)
    • Karty płatnicze (2)
    • Kredyty (2)
    • Kryptowaluty (6)
    • Newsy (558)
    • Płatności bezgotówkowe (5)
    • Podatki (1)
    • Podstawy finansów (5)
    • Porady i instrukcje (23)
    • Portfele cyfrowe (6)
    • Pożyczki (2)
    • Prawo (5)
    • Sztuczna inteligencja (79)
    • Tokeny (1)
    • Ubezpieczenia (2)
    • Wydarzenia (4)

    Autor „Bitcoin Standard” zostaje doradcą ekonomicznym Salwadoru

    SEC pozywa Binance i Coinbase. Jaka jest treść pozwów i czego możemy spodziewać się w przyszłości?

    Nasdaq na nowym rocznym szczycie. Co ciągnie rynki akcji w górę i jakie są zagrożenia?

    Złoto wciąż walczy w pobliżu rekordowych poziomów. Trend wzrostowy jest nadal możliwy

    © 2023 FintechPortal.pl

    Type above and press Enter to search. Press Esc to cancel.

    wpDiscuz