Η αμερικανική startup Gimlet Labs συγκέντρωσε 80 εκατ. δολάρια σε Series A για λογισμικό που ενοποιεί ετερογενείς υπολογιστικούς πόρους AI. Η προσέγγιση υπόσχεται έως και δεκαπλάσια αποδοτικότητα στη φάση inference, μειώνοντας δραστικά το κόστος data centers.
Μια από τις πιο κρίσιμες προκλήσεις της τρέχουσας έκρηξης τεχνητής νοημοσύνης είναι το λεγόμενο «bottleneck του inference», δηλαδή το τεράστιο υπολογιστικό και ενεργειακό κόστος για να τρέξουν στην πράξη τα μεγάλα μοντέλα. Η νεοφυής εταιρεία Gimlet Labs, με επικεφαλής τον Zain Asgar, αναδεικνύεται σε έναν από τους πιο ενδιαφέροντες παίκτες σε αυτό το πρόβλημα, εξασφαλίζοντας χρηματοδότηση Series A ύψους 80 εκατ. δολαρίων, με επικεφαλής τη Menlo Ventures.
«Multi‑silicon inference cloud» και αξιοποίηση ανενεργών πόρων
Η Gimlet Labs παρουσιάζει αυτό που χαρακτηρίζει ως το πρώτο «multi‑silicon inference cloud»: ένα λογισμικό ενορχήστρωσης που επιτρέπει ένα φορτίο AI να εκτελείται ταυτόχρονα σε διαφορετικούς τύπους chips και αρχιτεκτονικών. Πρακτικά, η πλατφόρμα μπορεί να μοιράζει την εργασία μιας εφαρμογής AI σε κλασικούς επεξεργαστές (CPUs), σε εξειδικευμένες κάρτες γραφικών για AI (GPUs) αλλά και σε συστήματα με πολύ υψηλή μνήμη.
Όπως εξηγεί ο Asgar, «τρέχουμε πάνω σε οποιοδήποτε διαθέσιμο hardware». Στην πράξη, οι σύγχρονοι «agents» τεχνητής νοημοσύνης αποτελούνται από πολλαπλά βήματα με διαφορετικά χαρακτηριστικά: το inference είναι έντονα υπολογιστικά απαιτητικό, το decoding είναι κυρίως memory‑bound, ενώ οι κλήσεις εργαλείων (tool calls) είναι network‑bound. Κανένα chip σήμερα δεν καλύπτει άριστα όλα τα στάδια, ενώ η αγορά γεμίζει με νέο hardware και παλαιότερες GPUs επαναχρησιμοποιούνται σε δεύτερες ή τρίτες γραμμές.
Εδώ παρεμβαίνει η Gimlet, προσφέροντας το λογισμικό στρώμα που «ράβει» μαζί αυτόν τον πολυσχιδή στόλο chips. Σύμφωνα με τον βασικό επενδυτή Tim Tully της Menlo Ventures, ο «multi‑silicon στόλος» υπάρχει ήδη, αλλά λείπει το λογισμικό που θα τον μετατρέψει σε ενιαίο, αποδοτικό πόρο.
Τριπλάσια έως δεκαπλάσια ταχύτητα για μεγάλους παίκτες AI
Η εταιρεία υποστηρίζει ότι μπορεί να επιταχύνει αξιόπιστα το inference κατά 3 έως 10 φορές, για το ίδιο κόστος και κατανάλωση ισχύος. Επιπλέον, δεν περιορίζεται στην απλή δρομολόγηση αιτημάτων: μπορεί να «κόψει» το ίδιο το μοντέλο σε τμήματα και να τα εκτελέσει σε διαφορετικές αρχιτεκτονικές, επιλέγοντας το καταλληλότερο chip για κάθε μέρος.
Η προσέγγιση αυτή αποκτά ιδιαίτερη βαρύτητα αν επιβεβαιωθούν οι εκτιμήσεις της McKinsey ότι οι επενδύσεις σε data centers μπορεί να φτάσουν τα 7 τρισ. δολάρια έως το 2030. Ο Asgar εκτιμά ότι οι σημερινές εφαρμογές χρησιμοποιούν το ήδη εγκατεστημένο hardware μόλις κατά 15%–30% του χρόνου. «Με άλλα λόγια, σπαταλάτε εκατοντάδες δισ. δολάρια αφήνοντας ανενεργούς πόρους», σημειώνει, θέτοντας ως στόχο τη δεκαπλάσια βελτίωση της αποδοτικότητας των φορτίων AI.
Η Gimlet έχει ήδη εξασφαλίσει συνεργασίες με μεγάλους κατασκευαστές chips, όπως NVIDIA, AMD, Intel, ARM, Cerebras και d‑Matrix. Το προϊόν της διατίθεται ως λογισμικό ή μέσω API στο δικό της Gimlet Cloud και στοχεύει όχι τον μέσο developer, αλλά τα μεγαλύτερα εργαστήρια μοντέλων και τους παρόχους data centers.
Ισχυρό ιδρυτικό σχήμα και έντονο επενδυτικό ενδιαφέρον
Ο Asgar και οι συνιδρυτές του Michelle Nguyen, Omid Azizi και Natalie Serrino είχαν συνεργαστεί στο παρελθόν στην Pixie, startup παρατηρησιμότητας για Kubernetes που εξαγοράστηκε από τη New Relic μόλις δύο μήνες μετά το λανσάρισμά της. Η Gimlet βγήκε δημόσια από το stealth mode τον Οκτώβριο, δηλώνοντας ήδη έσοδα οκταψήφιου μεγέθους και από τότε έχει υπερδιπλασιάσει τη βάση πελατών της, στην οποία περιλαμβάνονται ένας μεγάλος κατασκευαστής μοντέλων AI και ένας πολύ μεγάλος πάροχος cloud.
Με τον νέο γύρο, η εταιρεία έχει συγκεντρώσει συνολικά 92 εκατ. δολάρια, με συμμετοχή επενδυτών όπως οι Factory (επικεφαλής του seed), Eclipse Ventures, Prosperity7 και Triatomic, αλλά και σειρά γνωστών angels, από ακαδημαϊκούς του Stanford έως κορυφαία στελέχη της βιομηχανίας chips. Η ομάδα αριθμεί σήμερα περίπου 30 άτομα.
Για το παγκόσμιο οικοσύστημα AI, η Gimlet Labs αποτελεί ενδεικτικό παράδειγμα της μετατόπισης αξίας από το «γυμνό» hardware προς έξυπνα λογισμικά ενορχήστρωσης, τα οποία υπόσχονται να μετατρέψουν μια δαπανηρή κούρσα εξοπλισμού σε πιο βιώσιμη, αποδοτική υποδομή.
Σχόλιο 
: Η Gimlet Labs δείχνει πού μετακινείται η υπεραξία στην εποχή της τεχνητής νοημοσύνης: όχι σε ακόμη περισσότερα, ακριβότερα chips, αλλά σε λογισμικό που αξιοποιεί πλήρως τους ήδη εγκατεστημένους πόρους. Για τους παρόχους cloud και τα μεγάλα εργαστήρια μοντέλων, τέτοιες λύσεις μπορεί να αποδειχθούν πιο στρατηγικές από την επόμενη γενιά hardware, καθώς αγγίζουν άμεσα τη γραμμή κόστους και την ενεργειακή κατανάλωση.
#AI #Startups #DataCenters #GimletLabs #VentureCapital
