Η τεχνητή νοημοσύνη στην άκρη του δικτύου σπάνια σημαίνει μόνο συμπεράσματα.που εκτελούνται όλα ταυτόχροναΤα πολυλειτουργικά αυτά φορτία εργασίας απαιτούν στενό συντονισμό και υψηλή βεβαιότητα, και οι σχεδιαστές δυσκολεύονται να ανταποκριθούν στις απαιτήσεις αυτές χρησιμοποιώντας βασικό υλικό τεχνητής νοημοσύνης.
Δύο παράγοντες κάνουν αυτό το πρόβλημα ακόμη πιο περίπλοκο. Πρώτον, τα μοντέλα τεχνητής νοημοσύνης αναπτύσσονται με εκπληκτικό ρυθμό, ωθώντας τους σχεδιαστές να υιοθετήσουν πλατφόρμες που υποστηρίζουν ταχείς ενημερώσεις αλγόριθμων.Πολλά συστήματα άκρων χρησιμοποιούνται επί τόπου για διάστημα έως δέκα ετών ή περισσότερο.Δεύτερον, η διαδρομή από τα καλά εκπαιδευμένα μοντέλα στην ανάπτυξη και εφαρμογή του συστήματος εξακολουθεί να είναι κατακερματισμένη.Οι επιστήμονες δεδομένων χρησιμοποιούν PyTorch και TensorFlow, ενώ οι ενσωματωμένες ομάδες χρησιμοποιούν εντελώς διαφορετικές αλυσίδες εργαλείων, γεγονός που δημιουργεί τριβή κατά τη διάρκεια της διαδικασίας παράδοσης και επιβραδύνει την ταχύτητα παραγωγής.
Για την αντιμετώπιση αυτών των προκλήσεων, οι πλατφόρμες πρέπει να είναι σε θέση να συνδυάζουν επεξεργασία υψηλής απόδοσης τεχνητής νοημοσύνης με καθοριστική συμπεριφορά, ευέλικτη I / O και μακροπρόθεσμη προσαρμοστικότητα,τα οποία όλα πρέπει να επιτυγχάνονται εντός του τυπικού εύρους κατανάλωσης ισχύος της περιορισμένης ανάπτυξης άκρων.
Αυτό το άρθρο επικεντρώνεται στα σενάρια εφαρμογής και τις σχετικές απαιτήσεις που προκαλούν τους σχεδιαστές να εξερευνήσουν νέες αρχιτεκτονικές AI.εισήγαγε τις συσκευές και τα εργαλεία λογισμικού της Altera που υποστηρίζουν την άκρη της τεχνητής νοημοσύνης, και έδειξε πώς να τα χρησιμοποιήσει για να ανταποκριθεί στις διαφορετικές απαιτήσεις απόδοσης και ισχύος αυτών των εφαρμογών.
Η εξέλιξη της άκρως τεχνολογικής τεχνητής νοημοσύνης απαιτεί αρχιτεκτονική καινοτομία
Τα συστήματα Edge υιοθετούν όλο και περισσότερο διαφορετικές τεχνολογίες τεχνητής νοημοσύνης, συμπεριλαμβανομένης της κλασικής μηχανικής μάθησης (ML) για ανίχνευση ανωμαλιών, των συμπυκνωτικών νευρωνικών δικτύων (CNN) για αντίληψη,και μετατροπείς για μεγάλα γλωσσικά μοντέλα (LLM)Αυτοί οι υπολογιστικά εντατικοί αλγόριθμοι συχνά συνυπάρχουν με απαιτητικές λειτουργίες μη τεχνητής νοημοσύνης, όπως επεξεργασία σήματος, επικοινωνία δικτύου και έλεγχος σε πραγματικό χρόνο.
Τα αυτόνομα συστήματα είναι ένα καλό παράδειγμα. Συνήθως πρέπει να συλλέγουν δεδομένα από πολλαπλές μορφές αισθητήρων όπως βίντεο, ήχος, ραντάρ, LiDAR και ανατροφοδότηση κίνησης / θέσης,Προεπεξεργασία αυτών των ροών δεδομένων με υψηλή απόδοση, αναλύουν τα αποτελέσματα χρησιμοποιώντας σύνθετη τεχνητή νοημοσύνη και στη συνέχεια διαχειρίζονται κυκλώματα ελέγχου υψηλής ακρίβειας, τα οποία απαιτούν όλα αξιόπιστη αποφασιστικότητα.
Υπάρχουν πολλά παρόμοια παραδείγματα στις βιομηχανικές εφαρμογές αυτοματοποίησης, ιατρικής απεικόνισης, άμυνας και τηλεπικοινωνιών.Μια κοινή πρόκληση που αντιμετωπίζουν είναι ότι οι παραδοσιακές αρχιτεκτονικές δυσκολεύονται να προσαρμοστούν σε συνεχώς συγκλίνουσες φορτίες εργασίας.
Γιατί το FPGA είναι ιδιαίτερα κατάλληλο για την τεχνητή νοημοσύνη
Αντίθετα, αυτές οι απαιτήσεις είναι πλήρως συμβατές με τη λειτουργικότητα του FPGA.με τη συμπεριφορά χρονολόγησης του ενσωματωμένη στο χρόνο σχεδιασμού αντί να κυμαίνεται κατά τη διάρκεια της εκτέλεσηςΑυτή η αρχιτεκτονική μπορεί να επιτύχει καθορισμό χαμηλής καθυστέρησης, το οποίο είναι κρίσιμο για την άκρη της τεχνητής νοημοσύνης.που μπορούν να συνδεθούν με διάφορους αισθητήρες και ενεργοποιητές για να επιτευχθεί στενή σύνδεση με την επεξεργασία AI.
Το FPGA περιλαμβάνει επίσης κατανεμημένη εσωτερική μνήμη, η οποία επιτρέπει την πρόσβαση σε δεδομένα από τη λογική που λειτουργεί πάνω σε αυτό.Αυτό μειώνει το πρόβλημα που προκύπτει όταν πολλά στάδια επεξεργασίας πρέπει να ανταγωνίζονται για την πρόσβαση στο κοινόχρηστο λεωφορείο μνήμης, ο οποίος είναι ένας κοινός περιορισμός στις αρχιτεκτονικές που βασίζονται σε επεξεργαστές.
Πολλές FPGA ενσωματώνουν επίσης εξειδικευμένο υλικό επεξεργασίας ψηφιακού σήματος (DSP).Αυτά τα ενισχυμένα κυκλώματα παρέχουν υψηλότερες επιδόσεις και καλύτερη ενεργειακή απόδοση για φορτία επεξεργασίας σήματοςΟρισμένα FPGA ενσωματώνουν επίσης συστήματα σκληροσύνδετων επεξεργαστών που μπορούν να εκτελούν τυποποιημένα στοίβια λογισμικού (συμπεριλαμβανομένου του Linux), επιτρέποντας την παραδοσιακή ανάπτυξη λογισμικού για εργασίες όπως η δικτύωση, η ανάπτυξη προγραμμάτων, η ανάπτυξη προγραμμάτων, η ανάπτυξη προγραμμάτων, η ανάπτυξη προγραμμάτων, η ανάπτυξη προγραμμάτων, η ανάπτυξη προγραμμάτων, η ανάπτυξη προγραμμάτων, η ανάπτυξη προγραμμάτων, η ανάπτυξη προγραμμάτων, η ανάπτυξη προγραμμάτων, η ανάπτυξη προγραμμάτων, η ανάπτυξη προγραμμάτων, η ανάπτυξη προγραμμάτων.Διαχείριση συσκευών, και τη διεπαφή χρήστη.
Εν ολίγοις, ένα ενιαίο FPGA μπορεί να ενσωματώσει λειτουργίες που διαφορετικά μπορεί να απαιτούν ξεχωριστά τσιπ I/O, επιταχυντές τεχνητής νοημοσύνης, DSP και επεξεργαστές ελέγχου.συρρικνώσει την περιοχή της πλακέτας κυκλώματος, μειωμένη κατανάλωση ενέργειας, διατηρώντας παράλληλα τη χαμηλή καθυστέρηση και βεβαιότητα που απαιτούνται για εφαρμογές AI edge.
Πώς να ανοίξετε νέες δυνατότητες με την προσθήκη των τεσσάρων τεσσάρων τεμαχίων τεχνητής νοημοσύνης
Το παραδοσιακό υλικό FPGA DSP είναι ήδη πολύ κατάλληλο για πολλά workloads edge, αλλά η συμπερίληψη AI βασίζεται συχνά σε πυκνές αλλά χαμηλής ακρίβειας πράξεις πολλαπλασιασμού.Οι συσκευές Agilex 3 και Agilex 5 της Altera χρησιμοποιούν βελτιωμένα DSP με τετραγωνικά τεσσάρων τεμαχίων AIΑυτό είναι εξειδικευμένο υλικό για τον πολλαπλασιασμό μήτρας μήτρας και διανυσματικό μήτρας, το οποίο εμφανίζεται επανειλημμένα σε AI υπολογιστικά γράφημα.
Ο πυρήνας αυτής της μεθόδου είναι το κλιματικό πλεονέκτημα και η μηχανή πρόσθεσης / συσσωρευτή (Σχήμα 1).η σκληρή καλωδιωμένη μηχανή σημείων χρησιμοποιεί είσοδο 8-bit και προγεμισμένα βάρη 8-bit για να εκτελέσει ένα προϊόν σημείων 10 στοιχείωνΓια να επεκταθεί το δυναμικό εύρος,η διαδρομή δεδομένων μπορεί επίσης να χρησιμοποιήσει κοινό "κοινό δείκτη" για την κλιμάκωση πλανώδους στροφής μπλοκ για να αντιμετωπίσει τυπικά σενάρια όπου η συμπερίληψη τεχνητής νοημοσύνης απαιτεί συνήθως υψηλό δυναμικό εύρος αλλά χαμηλή ακρίβεια.