OpenAI ostrzega przed dezinformacją

ikona publikacji - ciemny
Opublikowano: 17 stycznia 2023
ikona autora biały
openai

OpenAI ostrzegło przed rosnącym zagrożeniem wykorzystania technologii sztucznej inteligencji do szerzenia dezinformacji. Startup przeprowadził wspólne badanie z Georgetown University's Center for Security and Emerging Technologies (CSET) oraz Stanford Internet Observatory.

Zdaniem badaczy, powszechna dostępność modeli językowych wpłynie na wszystkie trzy aspekty operacji wpływu:

  • aktorzy;
  • zachowania;
  • treść.

Naukowcy uważają, że modele językowe zmniejszą koszty kampanii dezinformacyjnych poprzez udostępnienie ich szerszemu gronu podmiotów. Są też w stanie wymyślić nowe taktyki, jak tworzenie treści w czasie rzeczywistym w chatbotach.

Narzędzia oparte na modelach językowych pomogą również generować bardziej perswazyjne teksty niż tradycyjne metody. W opracowaniu możemy przeczytać:

"Dotyczy to zwłaszcza tych [twórców kampanii], którzy nie mają odpowiednich umiejętności językowych lub wiedzy kulturowej o celu. Może to sprawić, że operacje wpływu będą mniej widoczne, ponieważ wygenerowane treści nie będą tak łatwo rozpoznawalne"

Naukowcy twierdzą, że zamknięcie się w schematach językowych nie pomoże w odgrodzeniu się od dezinformacji. Kampanie prawdopodobnie będą zmierzać w kierunku systemów open-source lub alternatyw opracowanych przez rząd/

Badanie zwraca uwagę na kluczowe, nieznane czynniki związane z wykorzystaniem modeli językowych. Obecnie nie wiadomo, jakie możliwości dezinformacji pojawią się w przyszłości, nawet przy obecnych badaniach i inwestycjach finansowych w technologię.

Co więcej, nie wiadomo też, ile zainwestuje się w modele językowe i kiedy łatwe w użyciu narzędzia do tworzenia i dystrybucji takich treści staną się ogólnie dostępne.

Jak zapobiec nadużyciom?

Aby zapobiec przyszłym nadużyciom takich technologii, badacze wezwali do opracowania odpowiednich środków.

"Kluczowe jest przeanalizowanie zagrożenia związanego z operacjami wpływu z wykorzystaniem AI i nakreślenie serii działań, zanim modele językowe zostaną wykorzystane do operacji wpływu na dużą skalę".

Badacze zasugerowali, że twórcy AI powinni stworzyć modele bardziej wrażliwe na fakty lub nałożyć surowsze ograniczenia na ich stosowanie.

Badacze zalecają, aby platformy AI i dostawcy koordynowali działania mające na celu identyfikację zautomatyzowanych treści, a także, aby instytucje angażowały się w kampanie na rzecz umiejętności korzystania z mediów.

Sugerują również, że rządy mogą nakładać ograniczenia na gromadzenie danych i kontrolować dostęp do sprzętu w celu szkolenia algorytmów.

Badacze zalecają powszechne stosowanie standardów cyfrowej proweniencji w celu śledzenia źródła treści AI. Blockchain i cyfrowe identyfikatory mogą w tym pomóc - konkludują.

Przypomnijmy, że w grudniu 2022 roku OpenAI odsłoniło ChatGPT, chatbota opartego na modelu językowym.

W tym samym miesiącu wykładowca amerykańskiego uniwersytetu przyłapał studenta na używaniu narzędzia do pisania eseju.

W styczniu 2023 roku nowojorskie szkoły zakazały ChatGPT na sprzęcie instytucjonalnym. Podobne działania podjęły największe uniwersytety w Australii.

Kategoria wpisu:

Podobne tematy

Sztuczna inteligencja: ogromny trend technologiczny czy bańka?

Wprowadzenie ChatGPT przez OpenAI i związany z tym szum sprawiły, że generatywna AI znalazła się na radarze firm venture capital i technologicznych, które chcą zainwestować pieniądze w czasach kryzysu. Narzędzia generatywnej sztucznej inteligencji OpenAI mogą pozornie robić wszystko, od pisania poezji i kodu po tworzenie dzieł sztuki. wywołało wiele emocji w tej dziedzinie. A zarówno […]

Revolut opóźnia wydanie własnej kryptowaluty

Revolut, londyński challenger bank z siedzibą w Londynie, opóźnił uruchomienie swojej natywnej kryptowaluty o nazwie RevCoin. Financial News (FN) poinformował, że upadek giełdy kryptowalut FTX może być głównym powodem, powołując się na osoby zaznajomione ze sprawą. Revolut opóźnia debiut RevCoin Kryptowaluta miała ujrzeć światło dzienne pod koniec ubiegłego roku, ale plany Revoluta uległy zmianie. Przedłużająca […]

Akcje Google (GOOGL)  - jak inwestować, cena, kurs, wykres, dywidendy, gdzie kupić

Google (Alphabet) to amerykańska firma technologiczna, która zaczynała od produktów i usług w branży internetowej i oprogramowania komputerowego. Dziś jednak jej macki sięgają znacznie dalej i można ją nazwać gigantem technologicznym. Jest właścicielem wielu spółek zależnych, które zajmują się rozwojem sztucznej inteligencji, uczenia maszynowego, technologii chmury czy środków służących poprawie ludzkiego zdrowia. W 2009 roku […]

Tysiące użytkowników PayPal ofiarą wycieku danych

Konta 34 942 użytkowników PayPal zostały zhakowane między 2 a 6 grudnia 2022 roku przez nieuprawnione osoby poprzez atak typu credential stuffing. Hakerzy potencjalnie uzyskali dostęp do danych osobowych klientów, w tym ich imienia i nazwiska, adresu, daty urodzenia, numeru identyfikacji podatkowej i numeru ubezpieczenia społecznego. Ataki typu credential stuffing mają miejsce, gdy hakerzy próbują […]

Akcje Apple (AAPL) - jak inwestować, cena, kurs, wykres, dywidendy, gdzie kupić

Na świecie jest ponad 600 milionów użytkowników Apple. Posiadają oni około 1,4 miliarda aktywnych urządzeń Apple (iPhone, iPad, iPod, Mac i inne). Same te liczby są niesamowite, a także stawiają Apple w czołówce najbardziej wartościowych firm na świecie (według magazynu Forbes). To oczywiście czyni firmę bardzo interesującą z perspektywy inwestowania w akcje. W tym obszernym […]
0 0 Głosy
Oceń artykuł
guest
0 komentarzy
Inline Feedbacks
View all comments
© FintechPortal.pl 2021 Wszelkie prawa zastrzeżone
star