Κυκλοφόρησε το xAI Colossus του Elon Musk

03 Σεπτεμβρίου, 2024

Το xAI του Elon Musk κυκλοφόρησε το Colossus - το πιο ισχυρό σήμερα σύστημα εκπαίδευσης AI - θέτοντας ένα νέο σημείο αναφοράς στον αγώνα AI με ένα εκπαιδευτικό σύμπλεγμα 100.000 H100 που σύντομα θα διπλασιαστεί σε μέγεθος.

Δεν είναι μυστικό ότι ο αγώνας για τη δημιουργία των πιο ισχυρών μοντέλων τεχνητής νοημοσύνης είναι σε εξέλιξη και το Σαββατοκύριακο η πλατφόρμας κοινωνικών μέσων X, ανέβηκε στην κορυφή. Στις 2 Σεπτεμβρίου, ο Musk δημοσίευσε ότι η ομάδα του στην xAI – την εταιρεία ανάπτυξης και έρευνας τεχνητής νοημοσύνης του – έφερε online το εκπαιδευτικό σύμπλεγμα Colossus 100.000 H100. Η ομάδα χρειάστηκε 122 ημέρες για να ολοκληρώσει τη διαδικασία εισαγωγής του Colossus στο διαδίκτυο και τους επόμενους δύο μήνες, θα διπλασιαστεί σε μέγεθος, φτάνοντας τις 200.000!

This weekend, the @xAI team brought our Colossus 100k H100 training cluster online. From start to finish, it was done in 122 days.

Colossus is the most powerful AI training system in the world. Moreover, it will double in size to 200k (50k H200s) in a few months.

Excellent…

— Elon Musk (@elonmusk) September 2, 2024

Το Colossus διαφημίζεται πλέον ως το πιο ισχυρό διαθέσιμο σύστημα εκπαίδευσης AI. Αυτός ο αριθμός βασίζεται στον αριθμό των μονάδων επεξεργασίας γραφικών (GPU) που τροφοδοτούν το μοντέλο. Ένας χρήστης X επεσήμανε την πραγματική κλίμακα αυτής της εξέλιξης, ξεπερνώντας κάθε σημαντικό μοντέλο που έχει κυκλοφορήσει μέχρι σήμερα. Συγκριτικά, το πιο ισχυρό μοντέλο του OpenAI χρησιμοποιεί 80.000 GPU.

Το μοντέλο αναπτύχθηκε σε συνεργασία με την Nvidia, τον κορυφαίο κατασκευαστή ημιαγωγών στον κόσμο. Το H200 της Nvidia είναι ένας από τους πιο περιζήτητους ημιαγωγούς στην αγορά, αν και πρόσφατα ξεπέρασε το τελευταίο τσιπ Blackwell της εταιρείας, που παρουσιάστηκε τον Μάρτιο του 2024. Συγκριτικά, το H200 είναι εξοπλισμένο με 141 gigabyte μνήμης HBM3E και 4,8 terabyte ανά δευτερόλεπτο εύρους ζώνης. Η κορυφαία χωρητικότητα της Blackwell είναι 36,2% υψηλότερη από την H200 και 66,7% υψηλότερη σε συνολικό εύρος ζώνης. Η Nvidia χαιρέτησε την αποκάλυψη του Colossus.

Exciting to see Colossus, the world’s largest GPU #supercomputer, come online in record time. Colossus is powered by @nvidia's #acceleratedcomputing platform, delivering breakthrough performance with exceptional gains in #energyefficiency.

Congratulations to the entire team! https://t.co/UXHtPCELly

— NVIDIA Data Center (@NVIDIADC) September 2, 2024

Σε όλες τις πλατφόρμες κοινωνικής δικτύωσης, υπήρξε μια συντριπτική ανταπόκριση από χρήστες του κλάδου που αποκαλούσαν αυτό ένα «τεράστιο» επίτευγμα στον τομέα της τεχνητής νοημοσύνης. Τον Απρίλιο του 2023, αναφέρθηκε ευρέως ότι ο Musk αγόραζε μεγάλες ποσότητες GPU, με ορισμένες πηγές να αναφέρουν έως και σχεδόν 10.000 μονάδες επεξεργασίας γραφικών με τις οποίες σκόπευε να προωθήσει τα έργα του xAI.

Ο Musk ενώ ηγείται της επανάστασης της τεχνητής νοημοσύνης, έχει υποστηρίξει επίσης κανονισμούς που προωθούν την ασφαλή τεχνητή νοημοσύνη. Είναι υπέρμαχος της ρύθμισης της τεχνητής νοημοσύνης για περισσότερες από δύο δεκαετίες και το θεωρεί παρόμοιο με τους κανονισμούς για «οποιοδήποτε προϊόν/τεχνολογία που αποτελεί δυνητικό κίνδυνο για το κοινό».