WebTech Rodos: Η Meta κυκλοφόρησε σήμερα μια ενημερωμένη έκδοση του βοηθού AI που τρέχει το Llama 3, τη νεότερη έκδοση του μεγάλου γλωσσικού μοντέλου (LLM), το οποίο είναι επίσης ανοιχτού κώδικα.
“Με αυτό το νέο μοντέλο, πιστεύουμε ότι το Meta AI είναι πλέον ο πιο έξυπνος βοηθός AI που μπορείτε να χρησιμοποιήσετε δωρεάν”, δήλωσε ο διευθύνων σύμβουλος της Meta, Μαρκ Ζούκερμπεργκ, σε ένα βίντεο στο Instagram με το οποίο ανακοινώθηκε η ενημέρωση.
Το Meta AI θα ενσωματωθεί στα πλαίσια αναζήτησης στο WhatsApp, το Instagram, το Facebook και το Messenger, καθώς και στο meta.ai στο διαδίκτυο. Ο Zuckerberg λέει επίσης ότι θα αντλεί “γνώση σε πραγματικό χρόνο” από την Google και το Bing.
Κάτω από το καπό βρίσκεται το Llama 3. Η Meta έδωσε σήμερα στη δημοσιότητα το πρώτο σετ μοντέλων Llama 3 με 8 και 70 δισεκατομμύρια παραμέτρους, και αυτή τη στιγμή εκπαιδεύει ένα μοντέλο 400 δισεκατομμυρίων (θεωρητικά, όσο περισσότερες παράμετροι, τόσο πιο διαφοροποιημένο και πολύπλοκο το μοντέλο).
Η Meta λέει ότι χρησιμοποίησε ένα σύνολο δεδομένων εκπαίδευσης επτά φορές μεγαλύτερο από το Llama 2 και έκανε βελτιώσεις στην προ-εκπαίδευση και στη μετεκπαίδευση για να μειώσει τον αριθμό των σφαλμάτων, ενώ βελτίωσε σημαντικά τις δεξιότητες συλλογισμού. Χρησιμοποιεί επίσης έναν tokenizer με λεξιλόγιο 128K tokens “που κωδικοποιεί τη γλώσσα πολύ πιο αποτελεσματικά”.
Τα σύνολα δεδομένων του Llama 3 καλύπτουν πάνω από 30 γλώσσες, αν και η Meta λέει ότι αποδίδει καλύτερα στα αγγλικά.
πηγή: pcmag.com