Meta zaprezentowała model językowy LLaMA

ikona publikacji - ciemny
Opublikowano: 28 lutego 2023
ikona autora biały
meta facebook

Meta wydała duży model języka, LLaMA, dla badaczy sztucznej inteligencji z 13 miliardami i 65 miliardami parametrów.

Według twórców, mniejsza wersja LaMMA-13B wypadła lepiej "w większości testów" niż GPT-3 firmy OpenAI. Większy system LLaMA-65B jest "konkurencyjny wobec zaawansowanych modeli", takich jak Chinchilla70B firmy DeepMind i PaLM 540B firmy Google.

Liczby w nazwach systemów odnoszą się do miliardów parametrów w każdym z nich. Kryterium to jest często używane do mierzenia złożoności modelu, ale te dwie cechy nie muszą skalować się synchronicznie.

Po wytrenowaniu LLaMA-13B może być uruchomiony na pojedynczym procesorze graficznym Nvidia Tesla V100. Według twórców, "demokratyzuje" to obliczenia dla mniejszych instytucji nieposiadających potężnego sprzętu.

Meta wierzy, że LaMMA pomoże ekspertom AI zidentyfikować problemy z modelami językowymi pod kątem stronniczości, toksyczności i tendencji do wymyślania informacji. W tym celu udostępnili algorytm na licencji niekomercyjnej.

"Wierzymy, że cała społeczność […] musi współpracować, aby stworzyć jasne wytyczne dla odpowiedzialnej AI w ogóle i odpowiedzialnych dużych modeli językowych w szczególności" - powiedziała firma.

Według dyrektora generalnego korporacji Marka Zuckerberga, modele językowe wykazują obiecujące wyniki w tworzeniu tekstów, konwersacji i przewidywaniu struktury białek.

Gigant technologiczny wcześniej wydał własne modele językowe, ale często były one krytykowane. W sierpniu 2022 roku Meta uruchomiła publiczną wersję chatbota Blenderbot 3 ze 175 miliardami parametrów. System został później oskarżony o antysemityzm.

Inny chatbot o nazwie Galactica Meta zamknął się zaledwie trzy dni po uruchomieniu. Zaprojektowany do streszczania prac naukowych system został oskarżony o tworzenie fałszywych informacji.

Przypomnijmy, że w listopadzie 2022 roku Meta odsłoniła algorytm AI Cicero, który gra w planszową grę strategiczną Diplomacy na poziomie człowieka.

W tym samym miesiącu laboratorium AI giganta technologicznego ujawniło sieć neuronową ESM-2 z 15 miliardami parametrów do przewidywania struktury białek.

Kategoria wpisu:

Podobne tematy

Złoto na nowych szczytach, jaka będzie jego przyszłość?

Złoto przełamało psychologiczny poziom 2 000 USD! Poszukiwanie bezpiecznej przystani dla kapitału inwestycyjnego to niekończący się proces, w którym pieniądze są przenoszone z jednego aktywa na drugie, w celu utrzymania wartości kapitału, a najlepiej jej zwiększenia. Złoto w ciągu ostatnich 6 miesięcy wykazało się wzorowym wzrostem - cena tego towaru zyskała ponad 24%. W tym […]

Rosnące stopy procentowe zawsze prowadziły do krachu giełdowego

W tej chwili akcje są mniej więcej na plusie. Jak na razie jest to powściągliwy wzrost, ale z czasem może się to zmienić. Wszystko obecnie kręci się wokół ostatniego posiedzenia Rezerwy Federalnej. My jednak dziś chcemy się skupić na obecnym cyklu stóp procentowych. I pokazać, co działo się z rynkiem akcji w przeszłości, gdy Fed […]

Swift chwali się wynikami pilotażu blockchaina dla danych z działań korporacyjnych

Międzybankowa kooperatywa Swift z powodzeniem zakończyła swój pilotażowy program działań korporacyjnych oparty na blockchainie, opisując go jako "przekonujące rozwiązanie". Pilotaż - przeprowadzony z sześcioma uczestnikami branży papierów wartościowych, w tym American Century Investments, Citi i Northern Trust - miał na celu zbadanie sposobów zmniejszenia kosztownych ograniczeń związanych z komunikowaniem istotnych wydarzeń korporacyjnych inwestorom. W wyniku […]

Amerykańscy scenarzyści porównują AI do plagiatu

Writers Guild of America East (WGA) stwierdziła, że algorytmy sztucznej inteligencji nie powinny być wykorzystywane do pisania. The WGA’s proposal to regulate use of material produced using artificial intelligence or similar technologies ensures the Companies can’t use AI to undermine writers’ working standards including compensation, residuals, separated rights and credits. #WGAStrong 🧵 1/7 — Writers […]

Te akcje spadły o kilkadziesiąt procent od swoich rekordów - Czy to czas, aby je kupić?

Przy niepokojących poziomach inflacji i rosnących stopach procentowych, które wprowadzają na rynek niedźwiedzie nastroje, ostatnie miesiące były trudne dla inwestorów skoncentrowanych na technologii, co widać na wykresie indeksu Nasdaq 100. Tymczasem rynki akcji prawdopodobnie pozostaną niestabilne. Jednak silne spółki będą w stanie przetrwać trudne czasy, a obecna seria problemów makroekonomicznych doprowadziła do obniżenia wycen niektórych […]
0 0 Głosy
Oceń artykuł
guest
0 komentarzy
Inline Feedbacks
View all comments
© FintechPortal.pl 2021 Wszelkie prawa zastrzeżone
star