Come l’intelligenza artificiale cambia i conti per le startup, secondo un vicepresidente di Microsoft

Per 24 anni, Amanda Silver di Microsoft ha lavorato per aiutare gli sviluppatori e, negli ultimi anni, ciò ha significato creare strumenti per l’intelligenza artificiale. Dopo un lungo periodo trascorso su GitHub Copilot, Silver è ora vicepresidente aziendale presso la divisione CoreAI di Microsoft, dove lavora su strumenti per la distribuzione di app e sistemi di agenti all’interno delle aziende.

Il suo lavoro è focalizzato su il sistema della Fonderia all’interno di Azure, progettato come un portale AI unificato per le imprese, offrendole una visione ravvicinata di come le aziende utilizzano effettivamente questi sistemi e dove le implementazioni finiscono per fallire.

Ho parlato con Silver delle attuali capacità degli agenti aziendali e del motivo per cui secondo lei questa è la più grande opportunità per le startup dopo il cloud pubblico.

Questa intervista è stata modificata per motivi di lunghezza e chiarezza.

Pertanto, il tuo lavoro si concentra sui prodotti Microsoft per sviluppatori esterni, spesso startup che altrimenti non sarebbero focalizzate sull’intelligenza artificiale. Come vedi l’impatto dell’intelligenza artificiale su queste aziende?

Considero questo un momento di svolta per le startup tanto profondo quanto il passaggio al cloud pubblico. Se ci pensate, il cloud ha avuto un impatto enorme per le startup perché significava che non avevano più bisogno di spazio per ospitare i loro rack e non avevano bisogno di spendere tanti soldi nell’infusione di capitale per ospitare l'{hardware} nei loro laboratori e cose del genere. Tutto è diventato più economico. Ora l’intelligenza artificiale degli agenti continuerà a ridurre nuovamente il costo complessivo delle operazioni software program, perché molti dei lavori coinvolti nella creazione di una nuova impresa – che si tratti di personale di supporto, indagini legali – molti di essi possono essere svolti più velocemente e in modo più economico con gli agenti di intelligenza artificiale. Penso che ciò porterà a più iniziative imprenditoriali e al lancio di più startup. E poi vedremo startup di valore più elevato con meno persone al timone. E penso che sia un mondo entusiasmante.

Che cosa significa in pratica?

Stiamo sicuramente assistendo a un utilizzo molto diffuso degli agenti multistep in tutti i diversi tipi di attività di codifica, giusto? Advert esempio, una cosa che gli sviluppatori devono fare per mantenere una base di codice è rimanere aggiornati con le ultime versioni delle librerie da cui dipende. Potresti avere una dipendenza da una versione precedente del runtime dot-net o da Java SDK. E possiamo fare in modo che questi sistemi advert agenti ragionino sull’intera base di codice e la aggiornino molto più facilmente, con una riduzione forse del 70% o dell’80% del tempo necessario. E per farlo deve davvero essere un agente multistep distribuito.

Le operazioni sul sito stay sono un’altra: se pensi di mantenere un sito internet o un servizio e qualcosa va storto, si sente un tonfo nella notte e qualcuno deve essere di guardia per essere svegliato e rispondere all’incidente. Abbiamo ancora persone reperibili 24 ore su 24, 7 giorni su 7, nel caso in cui il servizio dovesse interrompersi. Ma period un lavoro davvero detestato perché ti svegliavi abbastanza spesso per questi piccoli incidenti. E ora abbiamo costruito un sistema genetico per diagnosticare con successo e in molti casi mitigare completamente i problemi che emergono in queste operazioni sul sito vivo in modo che gli umani non debbano essere svegliati nel cuore della notte e andare intontiti ai loro terminali e provare a diagnosticare cosa sta succedendo. E questo ci aiuta anche a ridurre drasticamente il tempo medio necessario per la risoluzione di un incidente.

Uno degli altri enigmi di questo momento presente è che il dispiegamento degli agenti non è avvenuto così velocemente come ci aspettavamo nemmeno sei mesi fa. Sono curioso di sapere perché pensi che sia così.

Se pensi alle persone che stanno costruendo agenti, cosa impedisce loro di avere successo, in molti casi, si tratta di non sapere veramente quale dovrebbe essere lo scopo dell’agente. C’è un cambiamento culturale che deve avvenire nel modo in cui le persone costruiscono questi sistemi. Qual è il caso d’uso aziendale che stanno cercando di risolvere? Cosa stanno cercando di ottenere? Devi essere molto chiaro su quale sia la definizione di successo per questo agente. E devi pensare, quali sono i dati che sto fornendo all’agente in modo che possa ragionare su come svolgere questo particolare compito?

Consideriamo queste cose come gli ostacoli più grandi, più dell’incertezza generale relativa al rilascio degli agenti. Chiunque vada a guardare questi sistemi vede il ritorno sull’investimento.

Hai menzionato l’incertezza generale, che penso sembri un grande ostacolo dall’esterno. Perché lo consideri un problema minore nella pratica?

Prima di tutto, penso che sarà molto comune che i sistemi advert agenti abbiano scenari con presenza umana nel ciclo. Pensa a qualcosa come la restituzione di un pacco. In passato si aveva un flusso di lavoro per l’elaborazione del reso automatizzato al 90% e all’intervento umano al 10%, in cui qualcuno doveva andare a guardare il pacco e valutare quanto fosse danneggiato il pacco prima di decidere di accettare il reso.

Questo è un esempio perfetto di are available realtà ora i modelli di visione artificiale stanno diventando così buoni che in molti casi non abbiamo bisogno di avere la stessa supervisione umana sull’ispezione della confezione e sulla presa di story decisione. Ci saranno ancora alcuni casi limite, in cui forse la visione artificiale non è ancora abbastanza buona per effettuare una chiamata, e forse si verificherà un’escalation. È un po’ come, quanto spesso hai bisogno di chiamare il supervisor?

Ci sono alcune cose che avranno sempre bisogno di una sorta di supervisione umana, perché sono operazioni così critiche. Pensa a incorrere in un obbligo legale contrattuale o a distribuire codice in una codebase di produzione che potrebbe potenzialmente influire sull’affidabilità dei tuoi sistemi. Ma anche in questo caso, resta la questione di quanto lontano potremmo arrivare nell’automazione del resto del processo.