Facebook Twitter Instagram
    piątek, 9 czerwca
    Facebook Twitter Instagram
    Fintech Portal
    • Newsy
    • Sztuczna inteligencja
    • Podstawy finansów
      • Ekonomia
    • CBDC
    • Inwestycje
    • Blockchain
      • Kryptowaluty
    • Portfele cyfrowe
    Fintech Portal
    You are at:Strona główna » OpenAI ostrzega przed dezinformacją
    Newsy

    OpenAI ostrzega przed dezinformacją

    maciekBy maciek17 stycznia 2023013 Mins Read
    Share Facebook Twitter Pinterest LinkedIn Tumblr Email
    openai
    Share
    Facebook Twitter LinkedIn Pinterest Email

    OpenAI ostrzegło przed rosnącym zagrożeniem wykorzystania technologii sztucznej inteligencji do szerzenia dezinformacji. Startup przeprowadził wspólne badanie z Georgetown University’s Center for Security and Emerging Technologies (CSET) oraz Stanford Internet Observatory.

    We're publishing a report, co-authored with @CSETGeorgetown and @stanfordio, analyzing how language models could be misused for disinformation and how to mitigate those risks. https://t.co/nHiVp7GoxI

    — OpenAI (@OpenAI) January 11, 2023

    Zdaniem badaczy, powszechna dostępność modeli językowych wpłynie na wszystkie trzy aspekty operacji wpływu:

    • aktorzy;
    • zachowania;
    • treść.

    Naukowcy uważają, że modele językowe zmniejszą koszty kampanii dezinformacyjnych poprzez udostępnienie ich szerszemu gronu podmiotów. Są też w stanie wymyślić nowe taktyki, jak tworzenie treści w czasie rzeczywistym w chatbotach.

    Narzędzia oparte na modelach językowych pomogą również generować bardziej perswazyjne teksty niż tradycyjne metody. W opracowaniu możemy przeczytać:

    „Dotyczy to zwłaszcza tych [twórców kampanii], którzy nie mają odpowiednich umiejętności językowych lub wiedzy kulturowej o celu. Może to sprawić, że operacje wpływu będą mniej widoczne, ponieważ wygenerowane treści nie będą tak łatwo rozpoznawalne”

    Naukowcy twierdzą, że zamknięcie się w schematach językowych nie pomoże w odgrodzeniu się od dezinformacji. Kampanie prawdopodobnie będą zmierzać w kierunku systemów open-source lub alternatyw opracowanych przez rząd/

    Badanie zwraca uwagę na kluczowe, nieznane czynniki związane z wykorzystaniem modeli językowych. Obecnie nie wiadomo, jakie możliwości dezinformacji pojawią się w przyszłości, nawet przy obecnych badaniach i inwestycjach finansowych w technologię.

    Co więcej, nie wiadomo też, ile zainwestuje się w modele językowe i kiedy łatwe w użyciu narzędzia do tworzenia i dystrybucji takich treści staną się ogólnie dostępne.

    Jak zapobiec nadużyciom?

    Aby zapobiec przyszłym nadużyciom takich technologii, badacze wezwali do opracowania odpowiednich środków.

    „Kluczowe jest przeanalizowanie zagrożenia związanego z operacjami wpływu z wykorzystaniem AI i nakreślenie serii działań, zanim modele językowe zostaną wykorzystane do operacji wpływu na dużą skalę”.

    Badacze zasugerowali, że twórcy AI powinni stworzyć modele bardziej wrażliwe na fakty lub nałożyć surowsze ograniczenia na ich stosowanie.

    Badacze zalecają, aby platformy AI i dostawcy koordynowali działania mające na celu identyfikację zautomatyzowanych treści, a także, aby instytucje angażowały się w kampanie na rzecz umiejętności korzystania z mediów.

    Sugerują również, że rządy mogą nakładać ograniczenia na gromadzenie danych i kontrolować dostęp do sprzętu w celu szkolenia algorytmów.

    Badacze zalecają powszechne stosowanie standardów cyfrowej proweniencji w celu śledzenia źródła treści AI. Blockchain i cyfrowe identyfikatory mogą w tym pomóc – konkludują.

    Przypomnijmy, że w grudniu 2022 roku OpenAI odsłoniło ChatGPT, chatbota opartego na modelu językowym.

    W tym samym miesiącu wykładowca amerykańskiego uniwersytetu przyłapał studenta na używaniu narzędzia do pisania eseju.

    W styczniu 2023 roku nowojorskie szkoły zakazały ChatGPT na sprzęcie instytucjonalnym. Podobne działania podjęły największe uniwersytety w Australii.

    Share. Facebook Twitter Pinterest LinkedIn Tumblr Email
    Previous ArticleJak dywersyfikować portfel inwestycyjny? 5 wskazówek
    Next Article AI przekształciła kryptowaluty w transformersów
    maciek

    Ostatnie artykuły w tej kategorii:

    Newsy By maciek

    Autor „Bitcoin Standard” zostaje doradcą ekonomicznym Salwadoru

    7 czerwca 2023
    Newsy By maciek

    SEC pozywa Binance i Coinbase. Jaka jest treść pozwów i czego możemy spodziewać się w przyszłości?

    7 czerwca 2023
    Newsy By maciek

    Nasdaq na nowym rocznym szczycie. Co ciągnie rynki akcji w górę i jakie są zagrożenia?

    2 czerwca 2023
    0 0 Głosy
    Oceń artykuł
    guest
    guest
    0 komentarzy
    Inline Feedbacks
    View all comments

    Newsy

    Autor „Bitcoin Standard” zostaje doradcą ekonomicznym Salwadoru

    By maciek7 czerwca 2023

    Saifedean Ammous, autor książki o Bitcoinie zatytułowanej The Bitcoin Standard, został mianowany doradcą ekonomicznym Salwadorskiego…

    Newsy

    SEC pozywa Binance i Coinbase. Jaka jest treść pozwów i czego możemy spodziewać się w przyszłości?

    By maciek7 czerwca 2023

    Amerykańska Komisja Papierów Wartościowych i Giełd (SEC) kontynuuje kampanię przeciwko kryptowalutom, dodając dwóch bardzo znanych…

    Newsy

    Nasdaq na nowym rocznym szczycie. Co ciągnie rynki akcji w górę i jakie są zagrożenia?

    By maciek2 czerwca 2023

    Rynki akcji doświadczają obecnie pewnego boomu, który jest wyraźnie napędzany pozytywnymi oczekiwaniami związanymi z segmentem…

    Newsy

    Złoto wciąż walczy w pobliżu rekordowych poziomów. Trend wzrostowy jest nadal możliwy

    By maciek2 czerwca 2023

    Złoto wciąż znajduje się stosunkowo blisko swojego rekordowego poziomu, który wynosi około 2080 USD za…

    Kategorie
    • Akcje (4)
    • Aplikacje mobilne (4)
    • Banki (7)
    • Bezpieczeństwo (2)
    • Blockchain (2)
    • CBDC (13)
    • Ekonomia (5)
    • Giełdy kryptowalut (3)
    • Gospodarka (6)
    • Inwestycje (10)
    • Karty płatnicze (2)
    • Kredyty (2)
    • Kryptowaluty (6)
    • Newsy (558)
    • Płatności bezgotówkowe (5)
    • Podatki (1)
    • Podstawy finansów (5)
    • Porady i instrukcje (23)
    • Portfele cyfrowe (6)
    • Pożyczki (2)
    • Prawo (5)
    • Sztuczna inteligencja (79)
    • Tokeny (1)
    • Ubezpieczenia (2)
    • Wydarzenia (4)

    Autor „Bitcoin Standard” zostaje doradcą ekonomicznym Salwadoru

    SEC pozywa Binance i Coinbase. Jaka jest treść pozwów i czego możemy spodziewać się w przyszłości?

    Nasdaq na nowym rocznym szczycie. Co ciągnie rynki akcji w górę i jakie są zagrożenia?

    Złoto wciąż walczy w pobliżu rekordowych poziomów. Trend wzrostowy jest nadal możliwy

    © 2023 FintechPortal.pl

    Type above and press Enter to search. Press Esc to cancel.

    wpDiscuz