Skip to content

Ο επεξεργαστής του iPhone κάνει κάτι που δεν έχουμε ξαναδεί: AI με 27B παραμέτρους

Νέες δοκιμές δείχνουν την τεράστια ισχύ του νέου SoC της Apple, τρέχοντας προηγμένα γλωσσικά μοντέλα τοπικά στη συσκευή με διπλάσια ταχύτητα.

Baladis Koumpouras
Baladis Koumpouras
Κοινοποίηση:
Ο επεξεργαστής του iPhone κάνει κάτι που δεν έχουμε ξαναδεί: AI με 27B παραμέτρους

Σύνοψη Άρθρου

  • Ο επεξεργαστής A20 Pro του iPhone 18 Pro φέρει μια διπλή 16-core Neural Engine, η οποία μπορεί να διαχειριστεί AI workloads με τρόπο που δεν έχει καταφέρει κανένα άλλο SoC μέχρι σήμερα, αποτελώντας μια ουσιαστική αναβάθμιση.
  • Ο Adrien Grondin απέδειξε ότι το iPhone 18 Pro μπορεί να τρέξει το μοντέλο Bonsai των 27 δισεκατομμυρίων παραμέτρων, με την παραγωγή των tokens να παρουσιάζει διπλάσια ταχύτητα σε σχέση με τα iPhone 17 Pro και iPhone 17 Pro Max.
  • Ενώ ο Apple A20 Pro επιτρέπει στο iPhone 18 Pro να τρέχει τοπικά μοντέλα τεχνητής νοημοσύνης 27 δισεκατομμυρίων παραμέτρων με διπλάσια ταχύτητα, υπάρχουν όρια στο μέγεθος των μοντέλων που μπορεί να φιλοξενήσει λόγω της περιορισμένης RAM.
Το κείμενο της σύνοψης ελέγχεται από συντάκτη του Techmaniacs

Για πρώτη φορά στην ιστορία των επεξεργαστών της Apple, ο A20 Pro φέρει μια διπλή 16-core Neural Engine (dual 16-core Neural Engine), η οποία μπορεί να διαχειριστεί AI workloads με τρόπο που δεν έχει καταφέρει κανένα άλλο SoC μέχρι σήμερα, αποτελώντας μια ουσιαστική αναβάθμιση.

Στην Ελλάδα τα νέα iPhone 18 Pro είναι ιδιαίτερα ακριβά, συνοδευόμενα από σημαντικές αυξήσεις τιμών, όπως είχε γράψει η ιστοσελίδα μας πριν από μερικές μέρες. Σε κάθε περίπτωση, πάντως, τα νέα smartphones αποδεικνύονται πραγματικά «τέρατα» επιδόσεων.

Ακριβώς αυτό απέδειξε πρόσφατα ο Adrien Grondin, τρέχοντας το μοντέλο Bonsai των 27 δισεκατομμυρίων παραμέτρων πάνω σε ένα iPhone 18 Pro, με την παραγωγή (generation) των tokens να παρουσιάζει διπλάσια ταχύτητα σε σχέση με τα iPhone 17 Pro και iPhone 17 Pro Max.

Δοκιμές με το μοντέλο Bonsai 27B

Βέβαια, αξίζει να σημειωθεί ότι κάτι τέτοιο δεν ισχύει για τη νεότερη έκδοση του Bonsai, το Bonsai 2 με 2-bit quantization, το οποίο φαίνεται να ξεπερνά τα διαθέσιμα όρια μνήμης και να μην μπορεί να εκτελεστεί.

Ωστόσο, αυτό δεν συμβαίνει με το 1-bit Bonsai 27B, το οποίο λειτουργεί απίστευτα ικανοποιητικά ακόμη και σε συσκευές με 4 GB RAM, πόσο μάλλον στο iPhone 18 Pro, το οποίο όχι μόνο ενσωματώνει τον A20 Pro, αλλά διαθέτει και σημαντικά ταχύτερη μνήμη, με το unified memory bandwidth να αγγίζει τα 115,2 GB/s.

Ο Apple A20 Pro είναι ένα τέρας, κάνοντας το iPhone 18 Pro να μπορεί να τρέξει τοπικά ένα μοντέλο τεχνητής νοημοσύνης 27 δισεκατομμυρίων παραμέτρων, με περίπου διπλάσια ταχύτητα σε σχέση με το iPhone 17 Pro, αλλά από την άλλη πλευρά όμως υπάρχουν και όρια στο πόσο μεγάλα μοντέλα μπορεί να φιλοξενήσει. Ο λόγος; Δεν είναι άλλος από τη RAM που το περιορίζει.

Πηγή: twitter.com

Ακολουθήστε μας

Ακολουθήστε το Techmaniacs.gr στο Google News για να διαβάζετε πρώτοι όλα τα τεχνολογικά νέα, ή προσθέστε μας στον RSS feed reader και στα social media σας.

Baladis Koumpouras

Baladis Koumpouras

Editor in Chief @ techmaniacs.gr με μεγάλη αγάπη για τα κινητά τηλέφωνα και την επιστήμη. Ξεκίνησε το 2018 να εργάζεται στο techmaniacs.gr μετά από ένα σύντομο πέρασμα από myphone.gr και digitallife.gr. Από τότε συνεχίζει μέχρι και σήμερα να κάνει αυτό που αγαπάει. Περισσότερα στο https://baladiskoumpouras.link/

Tags: apple
Loading comments...
Loading more stories...
Loading reviews...

Μείνε ενημερωμένος

Ακολούθησέ μας στα social media και πρόσθεσέ μας στις αγαπημένες σου πηγές για να μη χάνεις καμία είδηση.