Τα chips τεχνητής νοημοσύνης της Huawei φέρονται να ξεπερνούν το Nvidia Η800 chip, κάτι που είναι μια τεράστια νίκη της Huawei στους περιορισμούς από τις ΗΠΑ. Η εταιρεία δήλωσε πρόσφατα ότι τα τσιπ της εξακολουθούν να βρίσκονται μια γενιά πίσω από τις ξένες τεχνολογίες, αν και η τελευταία έκθεση επισημαίνει κάτι άλλο.
Σύμφωνα με την τελευταία έκθεση όμως, τα chips της Huawei ξεπέρασαν σε απόδοση τα Nvidia H800, που χρησιμοποιήθηκαν στο μοντέλο DeepSeek R1. Η επιτυχία αυτή οφείλεται στο ολοκαίνουριο AI CloudMartix 384.
Μάλιστα, στο παρελθόν ο CEO της Nvidia, Jensen Huang, έχει επαινέσει πολλές φορές το CloudMatrix της Huawei, όμως είναι η πρώτη φορά που η εταιρεία μοιράζεται τα οφέλη του στην τεχνητή νοημοσύνη.
Η SiliconFlow, μια κινεζική νεοσύστατη εταιρεία τεχνητής νοημοσύνης, και ερευνητές της Huawei έγραψαν αυτήν την εργασία και όρισαν τις βασικές λεπτομέρειες και χαρακτηριστικά της νέας τεχνολογίας υπερκόμβων τεχνητής νοημοσύνης.
Το CloudMatrix χρησιμοποιεί 384 μονάδες νευρωνικής επεξεργασίας (NPUs) Ascend 910C και 192 επεξεργαστές Kunperg. Αυτά τα SoC είναι διασυνδεδεμένα μέσω ενός ενοποιημένου διαύλου που προσφέρει εξαιρετικά υψηλό εύρος ζώνης και χαμηλή καθυστέρηση, βελτιώνοντας τη συνολική απόδοση.
Η Huawei πιστεύει πως με το CloudMartix 384 μπορεί να ξεπεράσει τα εμπόδια από τους ελέγχους των ΗΠΑ, επιτρέποντας στην Κίνα να θέσει τα θεμέλια για την δική της υποδομή τεχνητής νοημοσύνης.
Σύμφωνα με την μελέτη το CloudMatrix 384 επιτρέπει στα Ascend chips να ξεπεράσουν κάποιες από τις σημαντικότερες τεχνολογίες τεχνητής νοημοσύνης στον κόσμο, που χρησιμοποιούνται στο DeepSeek R1. Παράλληλα, μπορεί να κάνει θαύματα στα κέντρα δεδομένων και να διαχειριστεί την υπολογιστική υποδομή.
Η Cosmote δίνει οπτική ίνα μέχρι το σπίτι σε μεγάλη έκπτωση
Ο υπερκόμβος τεχνητής νοημοσύνης της Huawei έχει απόδοση 6688 tokens ανά δευτερόλεπτο ανά NPU για μήκος γραμμής εντολών 4000 tokens. Εδώ, τα tokens αναφέρονται στη βασική μονάδα των LLM. Εν τω μεταξύ, το μήκος του token επηρεάζει το κόστος, τον χρόνο και τις δυνατότητες κατανόησης των μοντέλων τεχνητής νοημοσύνης.
Το CloudMatrix παρουσίασε 1943 tokens ανά δευτερόλεπτο, ανά NPU, για μήκος 4.000, στις τελευταίες μετρήσεις των chips τεχνητής νοημοσύνης της Huawei. Αυτές είναι επιδόσεις ανώτερες από εκείνες που έχουμε στα chips της Nvidia, που χρησιμοποιούν τα μεγάλα LLMs.
