Nella corsa per portare l’intelligenza artificiale nelle imprese, una startup piccola ma ben finanziata sta facendo un’affermazione coraggiosa: il problema che frena l’adozione dell’intelligenza artificiale nei settori complessi non sono mai stati i modelli stessi.
IA contestualeuna società nata due anni e mezzo sostenuta da investitori tra cui Spedizioni di Bezos E Bain Capital Ventureslunedì presentato Agente compositoreuna piattaforma progettata per aiutare gli ingegneri del settore aerospaziale, della produzione di semiconduttori e di altri settori tecnicamente impegnativi a creare agenti di intelligenza artificiale in grado di automatizzare il tipo di lavoro advert alta intensità di conoscenza che ha resistito a lungo all’automazione.
L’annuncio arriva in un momento cruciale per l’intelligenza artificiale aziendale. Quattro anni dopo che ChatGPT ha innescato una frenesia di iniziative aziendali legate all’intelligenza artificiale, molte organizzazioni rimangono bloccate in programmi pilota, faticando a trasformare i progetti sperimentali in una produzione su vasta scala. I direttori finanziari e i chief delle enterprise unit stanno diventando sempre più impazienti di fronte agli sforzi interni che hanno consumato milioni di dollari ma hanno prodotto rendimenti limitati.
Douwe Kielaamministratore delegato di Contextual AI, ritiene che il settore si sia concentrato sul collo di bottiglia sbagliato. “Il modello è quasi mercificato a questo punto”, ha detto Kiela in un’intervista a VentureBeat. “Il collo di bottiglia è il contesto: l’intelligenza artificiale può effettivamente accedere ai tuoi documenti, specifiche e conoscenze istituzionali proprietarie? Questo è il problema che risolviamo.”
Perché l’intelligenza artificiale aziendale continua a fallire e cosa avrebbe dovuto risolvere la generazione aumentata di recupero
Per capire cosa IA contestuale sta tentando, aiuta a comprendere un concetto che è diventato centrale per lo sviluppo moderno dell’intelligenza artificiale: generazione aumentata con recupero, o STRACCIO.
Quando modelli linguistici di grandi dimensioni come quelli di OpenAI, GoogleO Antropico generano risposte, attingono alla conoscenza incorporata durante la formazione. Ma quella conoscenza ha una knowledge limite e non può includere i documenti proprietari, le specifiche tecniche e la conoscenza istituzionale che costituiscono la linfa vitale della maggior parte delle imprese.
I sistemi RAG tentano di risolvere questo problema recuperando i documenti rilevanti dai database dell’azienda e inserendoli nel modello insieme alla domanda dell’utente. Il modello può quindi basare la sua risposta su dati aziendali reali anziché fare affidamento esclusivamente sulla sua formazione.
Kiela ha contribuito a fare da pioniere in questo approccio durante il suo periodo come ricercatore presso Ricerca sull’intelligenza artificiale di Facebook e successivamente come responsabile della ricerca presso Volto che abbraccial’influente società di intelligenza artificiale open supply. Ha conseguito un dottorato di ricerca. da Cambridge e lavora come professore a contratto in sistemi simbolici presso l’Università di Stanford.
Ma i primi sistemi RAG, riconosce Kiela, erano rozzi.
“I primi RAG erano piuttosto rozzi: prendi un retriever customary, collegalo a un generatore, spera per il meglio”, ha detto. “Errori aggravati attraverso il gasdotto. Le allucinazioni erano comuni perché il generatore non period addestrato a rimanere a terra.”
Quando Kiela fondò IA contestuale nel giugno 2023 ha deciso di risolvere sistematicamente questi problemi. L’azienda ha sviluppato quello che definisce un “livello di contesto unificato”, un insieme di strumenti che si collocano tra i dati di un’azienda e i suoi modelli di intelligenza artificiale, garantendo che le informazioni giuste raggiungano il modello nel formato giusto al momento giusto.
L’approccio ha guadagnato il riconoscimento. Secondo un case examine di Google Cloud, l’intelligenza artificiale contestuale ha raggiunto l’obiettivo prestazioni più elevate sul benchmark FACTS di Google per risultati radicati e resistenti alle allucinazioni. L’azienda ha messo a punto i modelli open supply Llama di Meta sulla piattaforma Vertex AI di Google Cloud, concentrandosi specificamente sulla riduzione della tendenza dei sistemi di intelligenza artificiale a inventare informazioni.
All’interno di Agent Composer, la piattaforma che promette di trasformare complessi flussi di lavoro di ingegneria in pochi minuti di lavoro
Agente compositore estende la piattaforma esistente dell’intelligenza artificiale contestuale con funzionalità di orchestrazione: la capacità di coordinare più strumenti di intelligenza artificiale in più passaggi per completare flussi di lavoro complessi.
La piattaforma offre tre modi per creare agenti AI. Gli utenti possono iniziare con agenti predefiniti progettati per flussi di lavoro tecnici comuni come l’analisi delle trigger principali o il controllo della conformità. Possono descrivere un flusso di lavoro in linguaggio naturale e lasciare che il sistema generi automaticamente un’architettura di agenti funzionanti. Oppure possono creare da zero utilizzando un’interfaccia visiva drag-and-drop che non richiede codifica.
Ciò che distingue Agent Composer dagli approcci concorrenti, afferma l’azienda, è la sua architettura ibrida. I staff possono combinare regole rigorose e deterministiche per le fasi advert alto rischio (controlli di conformità, convalida dei dati, cancelli di approvazione) con un ragionamento dinamico per l’analisi esplorativa.
“Per flussi di lavoro altamente critici, gli utenti possono scegliere passaggi completamente deterministici per controllare il comportamento degli agenti ed evitare incertezze”, ha affermato Kiela.
La piattaforma comprende anche ciò che l’azienda chiama “ottimizzazione dell’agente con un clic,” che raccoglie il suggestions degli utenti e regola automaticamente le prestazioni dell’agente. Ogni fase del processo di ragionamento di un agente può essere controllata e le risposte arrivano con citazioni a livello di frase che mostrano esattamente dove hanno avuto origine le informazioni nei documenti di origine.
Da otto ore a 20 minuti: cosa dicono i primi clienti sulle prestazioni della piattaforma nel mondo reale
IA contestuale afferma che i primi clienti hanno segnalato significativi miglioramenti in termini di efficienza, anche se l’azienda riconosce che queste cifre provengono da autodichiarazioni dei clienti piuttosto che da verifiche indipendenti.
“Questi provengono direttamente dalle valutazioni dei clienti, che sono approssimazioni dei flussi di lavoro del mondo reale”, ha affermato Kiela. “I numeri sono riportati dai nostri clienti poiché descrivono lo state of affairs prima e dopo l’adozione dell’intelligenza artificiale contestuale.”
I risultati dichiarati sono comunque sorprendenti. Un produttore avanzato ha ridotto i tempi di analisi delle trigger principali da otto ore a 20 minuti automatizzando l’analisi dei dati dei sensori e la correlazione dei registri. Un’azienda chimica specializzata ha ridotto la ricerca sui prodotti da ore a minuti utilizzando agenti che ricercano brevetti e database normativi. Un produttore di apparecchiature di prova ora genera il codice di prova in pochi minuti invece che in giorni.
Keith Schaub, vicepresidente della tecnologia e della strategia presso Avvantestuna società di apparecchiature di prova per semiconduttori, ha offerto il suo sostegno. “L’intelligenza artificiale contestuale è stata una parte importante dei nostri sforzi di trasformazione dell’intelligenza artificiale”, ha affermato Schaub. “La tecnologia è stata estesa a più staff di Advantest e a clienti finali selezionati, consentendo un notevole risparmio di tempo in attività che vanno dalla generazione del codice di check ai flussi di lavoro di ingegneria del cliente.”
Gli altri clienti dell’azienda includono Qualcommil gigante dei semiconduttori; ShipBobun fornitore di servizi logistici abilitato alla tecnologia che afferma di aver raggiunto una risoluzione dei problemi 60 volte più rapida; E Nvidiail produttore di chip i cui processori grafici alimentano la maggior parte dei sistemi di intelligenza artificiale.
L’eterno dilemma aziendale: le aziende dovrebbero costruire i propri sistemi di intelligenza artificiale o acquistarli già pronti?
Forse la sfida più grande IA contestuale faces non sono prodotti concorrenti ma l’istinto delle organizzazioni ingegneristiche di costruire le proprie soluzioni.
“L’obiezione più grande è ‘lo costruiremo noi stessi'”, ha riconosciuto Kiela. “Alcuni staff ci provano. Sembra entusiasmante da fare, ma è eccezionalmente difficile farlo bene su larga scala. Molti dei nostri clienti hanno iniziato con il fai-da-te e si sono ritrovati ancora a eseguire il debug delle pipeline di recupero invece di risolvere problemi reali 12-18 mesi dopo.”
L’alternativa – soluzioni pronte all’uso – presenta i suoi problemi, sostiene l’azienda. Tali strumenti vengono implementati rapidamente ma spesso si rivelano poco flessibili e difficili da personalizzare per casi d’uso specifici.
Agente compositore tenta di occupare una through di mezzo, offrendo un approccio alla piattaforma che combina componenti precostruiti con ampie opzioni di personalizzazione. Il sistema supporta modelli di OpenAI, Anthropic e Google, nonché il Grounded Language Mannequin di Contextual AI, che è stato appositamente addestrato per rimanere fedele ai contenuti recuperati.
Il prezzo parte da $ 50 al mese per l’utilizzo self-service, con prezzi aziendali personalizzati per implementazioni più ampie.
“La giustificazione per i CFO è in realtà quella di aumentare la produttività e portarli alla produzione più velocemente con le loro iniziative di intelligenza artificiale”, ha affermato Kiela. “Ogni staff tecnico ha difficoltà advert assumere i migliori talenti ingegneristici, quindi rendere i staff esistenti più produttivi è una priorità enorme in questi settori.”
La strada da percorrere: coordinamento multi-agente, azioni di scrittura e corsa per costruire sistemi di intelligenza artificiale composti
Guardando al futuro, Kiela ha delineato tre priorità per il prossimo anno: automazione del flusso di lavoro con azioni di scrittura effettive sui sistemi aziendali anziché limitarsi a leggere e analizzare; migliore coordinamento tra più agenti specializzati che lavorano insieme; e una specializzazione più rapida attraverso l’apprendimento automatico dal suggestions della produzione.
“L’effetto composto è importante qui”, ha detto. “Ogni documento che inserisci, ogni ciclo di suggestions che chiudi, questi miglioramenti si accumulano. Le aziende che costruiscono questa infrastruttura ora saranno difficili da catturare.”
Il mercato dell’intelligenza artificiale aziendale rimane fortemente competitivo, con offerte dei principali fornitori di servizi cloud, fornitori di software program affermati e decine di startup che inseguono tutti gli stessi clienti. Se la scommessa dell’intelligenza artificiale contestuale sul contesto piuttosto che sui modelli ripagherà dipenderà dal fatto che le imprese arrivino a condividere la visione di Kiela secondo cui le guerre dei modelli di base contano meno dell’infrastruttura che le circonda.
Ma c’è una certa ironia nel posizionamento dell’azienda. Per anni, l’industria dell’intelligenza artificiale si è concentrata sulla costruzione di modelli sempre più grandi e potenti, investendo miliardi nella corsa all’intelligenza artificiale generale. L’intelligenza artificiale contestuale sostiene un argomento più tranquillo: che per la maggior parte del lavoro nel mondo reale, la magia non è nel modello. Sta nel sapere dove guardare.
