Come IBM utilizza l'IA generativa per il successo dei clienti

Una conversazione con Mahmoud Elmashni, Managing Partner presso IBM Consulting

In questo episodio...

Brian Bohan, Director of Consulting Partner COE presso AWS, incontra Mahmoud Elmashni, Managing Partner presso IBM Consulting, per discutere di come IBM utilizza l'IA generativa per trasformare il successo dei clienti. Mahmoud illustra il framework “Quattro P” di IBM (Persone, Processo, Partnership e Piattaforma) e spiega come l'azienda sta formando la propria organizzazione di 160.000 persone per utilizzare l'IA generativa in modo efficace. La conversazione approfondisce il modo in cui l'IA generativa sta accelerando le tempistiche della modernizzazione da anni a mesi, migliorando il ROI per i clienti e trovando applicazioni pratiche in tutti i settori, da quello pubblico ai servizi finanziari.

Trascrizione della conversazione

Con Brian Bohan, Director of Consulting Partner COE presso AWS, e Mahmoud Elmashni, Managing Partner presso IBM Consulting

Brian Bohan (29:58):
Buongiorno e benvenuti al podcast Executive Insights. Sono Brian Bohan e sono a capo del Centro di eccellenza dei partner di consulenza di AWS. Oggi sono qui con Mahmoud Elmashni, Managing Partner presso IBM Consulting e responsabile della AWS Alliance dell'azienda. Mahmoud, grazie per essere qui oggi. Sono davvero entusiasta di parlare con te.

Mahmoud Elmashni (30:17):
Grazie a voi per avermi invitato. Sono felice di essere qui.

Brian Bohan (06:22):    
Allora, puoi parlarci un po' del tuo lavoro in IBM Consulting? Qual è il tuo ruolo e quali sono le tue responsabilità?

Mahmoud Elmashni (06:27):
Gestisco la nostra attività AWS a livello globale. Tra le nostre partnership, è davvero una delle attività più in rapida crescita in assoluto. Ora, nell'azienda, le persone certificate solo su AWS sono più di 25.000. Il numero di competenze, il numero di testimonianze dei clienti congiunti, tutto. L'attività è andata davvero a razzo negli ultimi due anni ed è stato davvero fantastico farne parte.

Brian Bohan (07:03):
La prima cosa di cui volevo parlare è l'IA generativa. Ne abbiamo già parlato prima, è una tecnologia che ha davvero il potenziale e il potere di trasformare davvero i processi e le applicazioni aziendali, nonché le attività end-to-end nella loro interezza. Mi interessa molto sapere quali sono le tue impressioni in IBM Consulting, in termini di come sta cambiando il lavoro nella pratica e di come l'organizzazione stessa interagisce con i clienti. E poi, come state adottando l'IA generativa con i vostri clienti?

Mahmoud Elmashni (07:27):
Ascolta, parlando di IA generativa nello specifico, vorrei partire da una cosa che ho sentito dire mesi fa a Werner Vogels a Tokyo, durante il summit. Ha detto che si arriverà a un punto in cui l'IA generativa sarà una tecnologia come qualsiasi altra tecnologia. In questo senso, non parliamo della tecnologia alla base di un forno a microonde, ma scaldiamo semplicemente il nostro cibo.

(07:52):
Non parliamo della tecnologia alla base dei cavi in fibra ottica, ma usiamo Internet e basta. Quindi la nostra impressione è che il digitale non è aumentato in ogni aspetto, ma c'è una particolare attenzione per l'IA generativa, qui e ora. E in qualità di società di consulenza, penso che l'aspetto più importante che abbiamo notato è che l'IA generativa non sostituisce le persone. Al contrario, l'idea è di integrare le persone e renderle molto più produttive per poter svolgere il proprio lavoro.

(08:21):
Quindi è proprio su questo che ci siamo concentrati come azienda: se stai cercando di scalare la tua attività per cercare di affrontare queste trasformazioni sempre più complicate per i clienti, come puoi dare la possibilità ai tuoi professionisti e all'intera organizzazione di lavorare con l'IA generativa? Introducendo questi assistenti per renderli molto più produttivi al fine di poter garantire risultati ai clienti. Quindi, nel nostro caso, abbiamo semplificato un po' il processo e abbiamo introdotto la piattaforma IBM Consulting Advantage in modo che i dipendenti possano accedere a tutti questi assistenti mentre svolgono il loro lavoro quotidiano.

Brian Bohan (08:56):
Mi piace sentirti dire che in futuro parleremo meno di progetti di IA generativa e più di quello che facciamo ogni giorno, ovvero aiutare i nostri clienti a trasformare le loro attività e ottenere valore, e parte di questo lavoro sarà alimentato dall'IA generativa. Certamente. E queste considerazioni valgono anche per la partnership stessa e per il modo in cui collaborano IBM Consulting e AWS? Hai notato cambiamenti o effetti in questo senso?

Mahmoud Elmashni (09:21):
Da questo punto di vista abbiamo concentrato la nostra attività su quella che chiamiamo la scienza della consulenza. È incentrata sulle quattro P, così è più facile da ricordare, giusto? Persone, processo, partnership e piattaforma. Quindi, guardando brevemente alle persone, significa assicurarsi che abbiano accesso agli strumenti di cui hanno bisogno per essere più produttive. Per quanto riguarda il processo, tutti corrono in giro nel purgatorio del proof of concept, come mi piace chiamarlo scherzosamente, fino a quando non riescono a capire cosa vogliono e non vogliono fare. L'aspetto della partnership, invece, è stato assolutamente fondamentale per noi al fine di avere la possibilità di scalare.

(10:03)
Ho parlato di IBM Consulting Advantage, che nel nostro caso è la piattaforma. In realtà è possibile accedere ad HAQM Q, e a tutto ciò che AWS e HAQM stanno annunciando in ogni dove, e concentrarsi sull'IA generativa in modo che i nostri professionisti possano soddisfare le richieste dei nostri clienti, per semplificare loro la vita. Quindi abbiamo a disposizione quell'unica piattaforma, ma siamo comunque in grado di accedere a tutta la tecnologia AWS. Abbiamo investito molto nella formazione delle nostre risorse affinché siano in grado di utilizzarla, comprenderla, sapere quando ricorrervi e sapere quali servizi utilizzare per poter garantire risultati ai nostri clienti.

Brian Bohan (25:30):
È grandioso. Questo mi rende davvero entusiasta della nostra collaborazione. Una parte importante della partnership è aiutare i nostri clienti a uscire dai propri data center e modernizzare le applicazioni e i carichi di lavoro. E penso che sia un aspetto davvero entusiasmante dell'IA generativa. In passato, c'è sempre stato questo compromesso. Puoi eseguire il lift and shift e poi modernizzare. E, se si effettua la modernizzazione durante la migrazione, potrebbero esserci conseguenze per le tempistiche o un aumento dei costi. E penso che ora, con Q Transform e l'IA generativa, possiamo avere entrambe le cose. Possiamo migrare e modernizzare simultaneamente, mantenendo le tempistiche e i costi fissi proprio come in passato. E sono davvero curioso di sapere come tutto ciò si riflette sui vostri clienti in IBM: come li state aiutando ad applicare l'IA generativa a queste modernizzazioni?

Mahmoud Elmashni (26:14):
Sì, ascolta, se sei CIO e hai intenzione di proporre un programma decennale per la modernizzazione, stai praticamente andando incontro a una condanna a morte. Voglio dire, la verità è che l'IA generativa ci ha permesso di esplorare una serie di tecnologie per essere in grado di modernizzare in tempi molto più rapidi. Ora parliamo di tempi da sei a 12, 18 mesi. Non più pluriennali. Cosa si può fare immediatamente? Questo approccio può essere applicato alla modernizzazione del mainframe o alla modernizzazione VMware. Può essere applicato anche, come dicevi… Penso a questi grandi data center e mi dico, va bene, come posso uscire da questo data center in tempi rapidi che non si protrarranno fino alla prossima generazione?

(27:07)
E anche alcune cose semplici come l'aggiornamento del codice Java per un cliente possono essere svolte in qualche mese e non più in anni.

Brian Bohan (27:35):
Certamente. Fantastico. Sì, stiamo riscontrando la stessa cosa e siamo davvero entusiasti perché prima riusciamo a portare i clienti nel cloud e a modernizzare, prima potranno vederne il valore.

Mahmoud Elmashni (27:45):
E penso anche il ritorno sull'investimento per loro stessi, no? Perché tutti hanno come obiettivo la crescita dei ricavi, quindi si chiederanno: come posso prendere questo denaro e reinvestirlo nella mia attività? E come posso evitare di spendere una fortuna per far fronte a questo debito tecnico che mi strozza? Vero? Quindi…

Brian Bohan (28:00):
Certamente.

Mahmoud Elmashni (28:00):
... Penso che questa sia una delle grandi cose che possiamo fare per molti dei nostri clienti comuni.

Brian Bohan (10:58):
Allora, parliamo ancora un po' delle persone. Hai nominato le quattro P e, chiaramente, IBM Consulting è un'azienda basata sulle persone. E, in fin dei conti, sono le persone che lavorano con i clienti per raggiungere i risultati. Quindi, parlami ancora un po' delle competenze e della formazione, ma anche del livello tecnico ed esecutivo, e di come state affrontando questi aspetti.

Mahmoud Elmashni (11:22):
Allora, quando abbiamo iniziato il percorso di IA generativa e di formazione associata, volevamo davvero assicurarci che tutti all'interno dell'organizzazione avessero un certo livello di comprensione. Non parliamo solo di HAQM Q Developer, non parliamo solo degli sviluppatori. Fondamentalmente, tutti devono avere una conoscenza di base delle piattaforme, dei vari LLM, di come accedere ai diversi servizi, eccetera.

(11:50)
Così abbiamo organizzato una formazione completa, partendo dai partner di gestione, il livello dirigenziale più alto della nostra organizzazione, fino ad arrivare agli sviluppatori di livello base. Fortunatamente, abbiamo utilizzato l'IA generativa per personalizzarla. Abbiamo sviluppato programmi specifici per ogni individuo. In questo modo, ognuno sa come portare avanti conversazioni sul tema e soddisfare le richieste dei propri clienti. Allo stesso tempo, ci siamo persino dati alla personalizzazione. L'anno scorso, proprio in questo periodo, AWS ha annunciato una formazione per molti partner. Quindi abbiamo colto l'occasione: l'abbiamo integrata nella versione della nostra formazione sull'IA generativa di AWS e l'abbiamo implementata. Ora stiamo per fare un altro passo avanti perché, all'inizio di quest'anno, AWS ha annunciato anche le prime due certificazioni di IA generativa intorno a luglio. Incredibile. Erano basate sui dati, giusto? Voglio dire, i dati e il loro utilizzo con l'IA generativa sembrano essere l'altro grande tema comune dei nostri giorni.

(12:53)
Quindi, per la nostra organizzazione, abbiamo investito molto per consentire ai nostri dipendenti di disporre di questo tipo di conoscenza, sia per approfondire l'argomento e ottenere una certificazione, sia per avere una comprensione generale dell'IA e ottenere la formazione AWS associata per poter svolgere il lavoro. E abbiamo utilizzato l'IA generativa anche internamente per ottimizzare questa formazione e distribuirla molto più velocemente al nostro personale.

Brian Bohan (13:18):
È fantastico. Quindi è possibile seguire la nostra formazione più tecnica sull'IA generativa, ma, soprattutto se applicata ai partner di gestione che hanno competenze approfondite sul dominio ed esperienza nel settore, è poi possibile contestualizzarla per i clienti.

Mahmoud Elmashni (13:30):
Certamente. È un'organizzazione di 160.000 persone. Quindi il piano era, letteralmente: come si arriva a 160.000 persone?

Brian Bohan (13:38):
È una grande sfida.

Mahmoud Elmashni (13:38):
Certamente. Non si trattava solo di sviluppatori, solo di partner o solo di una formazione di vendita. Era una formazione per l'intero personale.

Brian Bohan (13:45):
Fantastico. Una cosa, passando un po' a un'altra P che hai nominato, quella del processo. Si tratta del processo relativo alla creazione del valore. E c'è una cosa che stiamo sicuramente notando, nella speranza di uscire dal purgatorio del proof of concept, come l'hai giustamente chiamato tu. Abbiamo visto aumentare i clienti che parlano del valore reale proveniente dall'IA generativa. Inoltre, stiamo assistendo a un passaggio dalle semplici preoccupazioni legate ai costi a vere e proprie discussioni sul ROI. Quale sarà il valore aziendale ricavato in base al mio investimento? Sono curioso, come state aiutando i vostri clienti a pensare veramente al calcolo del ROI e del valore dell'IA generativa in IBM?

Mahmoud Elmashni (14:24):
Sì, allora, è possibile creare moltissimi proof of concept e hanno insegnato molto a noi e ai nostri clienti.

(14:32)
Anche in termini di sapere cosa chiedere e cosa non chiedere, no? Quindi, analizzare l'aspetto del processo significa prendere in considerazione l'intero valore end-to-end di ciò che dovrebbe essere quel ROI per il cliente. Non si tratta di dire semplicemente: va bene, questa soluzione ha funzionato per questo posto? Sì o no? Sì, ha funzionato alla grande. È stato fantastico. Ho ottenuto i risultati che volevo, ma mi è costato una piccola fortuna visti gli LLM che uso.

(15:01)
Quindi serve tenere in considerazione anche questo. Una delle battute che avevo già sentito è che gli LLM possono essere sinonimo di grandi perdite di denaro se si sbaglia. Per questo, vogliamo assicurarci di adottare un approccio end-to-end e di ottenere i risultati desiderati, ma chiedendoci anche qual è il modo più efficiente per raggiungerli. E a tal proposito, la tecnologia non deve necessariamente essere applicata a tutto. Quindi stiamo vedendo anche qualche caso di questo tipo. Se tutto funziona come deve o se decidi di abbandonare quell'app, perché dovresti investire per uno sforzo di rifattorizzazione solo per fare tutto questo adesso?

(15:37)
Di conseguenza, stiamo cercando di adottare questo approccio olistico a tutto campo e i proof of concept ci hanno dato un'ottima base per sapere come analizzare il ROI per un cliente. Allo stesso tempo, ora i nostri clienti hanno imparato cosa chiedere e cosa non chiedere per alcuni di questi POC, giusto? Devono comprendere meglio quali modelli vogliono davvero usare. Devono capire meglio quale piattaforma utilizzare per accedervi. Quindi, ad esempio, Bedrock è un'opzione. È questo che stiamo riscontrando nelle nostre valutazioni complete del ROI per molti dei nostri clienti. E durante le consulenze o i SI, i clienti ci chiedono un'opinione, vogliono un parere. Per esempio: voglio che funzioni, ma cosa ne pensi? Dove pensi che mi porterà e quali risultati mi farà ottenere quel programma nei prossimi 12-24 mesi?

Brian Bohan (16:27):
Certamente. Voglio dire, questo è uno dei motivi per cui parliamo così tanto di selezione e scelta: siamo davvero agli inizi di questo percorso e ci sono tantissime applicazioni diverse che potremmo adottare con questa tecnologia. Per questo, vogliamo assicurarci di avere i chip giusti per il rapporto qualità-prezzo, i modelli giusti in base al caso d'uso giusto, ma avere un'ampia scelta significa appunto avere un'ampia scelta.

Brian Bohan (17:26):
E quindi, parlando sempre dei clienti, visto che avete una vasta esperienza nel settore, mi interessa sapere: quali tendenze state riscontrando? In che modo i clienti stanno adottando l'IA generativa e come stanno collaborando con IBM Consulting per trasformarla in uno strumento significativo per le proprie attività?

Mahmoud Elmashni (17:42):
Allora, probabilmente i casi d'uso più comuni che vediamo sono nell'ambito del contact center intelligence. Incredibile. Elaborazione di immagini e documenti, capacità di riepilogo, questo genere di cose. Applicazioni, migrazione, modernizzazione, governance, sicurezza, no? Se dovessi trovare delle tendenze, direi che questo è quello che stiamo vedendo dappertutto. E non sorprende che ogni annuncio sia incentrato su queste cinque aree.
    
(18:15)
Ed è una tendenza diffusa in diversi settori, giusto? Qualsiasi settore, dalle scienze biologiche al settore sanitario, dai servizi finanziari al settore pubblico. Non pensavo che il settore pubblico avrebbe adottato questa tecnologia così in fretta, ma incredibilmente anche questo settore si è unito agli altri. Tutti vogliono cercare di diventare più efficienti o di fare di più con meno, no? Anche le telecomunicazioni e il settore automobilistico. Quindi ora stiamo cercando di assicurarci di adottare un approccio specifico per ogni settore. Abbiamo sempre guardato al mercato per settore. Quindi cerchiamo di prendere l'IA generativa e applicarla al settore per avere qualcosa in più rispetto alla semplice capacità dell'IA generativa e essere in grado di garantire risultati per i nostri clienti.

(18:59)
In sostanza, prendiamo questi casi d'uso e li applichiamo al settore per assicurarci di soddisfare le loro richieste. Per fare un semplice esempio, ho parlato del settore pubblico e stiamo lavorando con un'agenzia governativa e utilizziamo l'IA generativa per tradurre il codice in codice Java. Sostanzialmente alla velocità della luce rispetto alle ore di lavoro manuale. Voglio dire, è pazzesco quanto tempo si può risparmiare in questo modo ed eseguendo i controlli in background rispetto a dover effettuare una conversione manuale per apportare un aggiornamento da questo punto di vista. Quindi per l'agenzia sarà tutto molto più efficiente nel corso del tempo. Otterrà risparmi sui costi perché avrà bisogno di meno hardware per eseguire il codice. Di conseguenza, è una soluzione vantaggiosa per tutti. Non solo in termini di velocità di esecuzione, ma anche per i risparmi a lungo termine.

Brian Bohan (19:44):
Questo è un ottimo esempio di un obiettivo facile da raggiungere per dimostrare un valore immediato. HAQM stessa ha risparmiato, credo, 4.500 anni di sviluppo aggiornando tutte le proprie applicazioni Java a Java 17.

Mahmoud Elmashni (20:02):
Certamente. Ed è quello che vedremo sempre di più con l'avanzare del tempo, giusto?

Brian Bohan (20:08):
Mahmoud, grazie mille per esserti unito a me oggi. Sono davvero entusiasta dei progressi e del potenziale della nostra partnership con IBM Consulting. È già chiaro che stiamo ottenendo ottimi risultati nell'ambito dell'IA generativa per i nostri clienti comuni. Quindi, ti ringrazio ancora una volta e non vedo l'ora di scoprire cosa faremo insieme nel 2025.

Mahmoud Elmashni (20:25):
Certamente. Grazie per avermi invitato, anche io sono entusiasta per il futuro.

Mahmoud Elmashni:

“Una delle battute che avevo già sentito è che gli LLM possono essere sinonimo di grandi perdite di denaro se si sbaglia.”

Iscriviti e ascolta

Ascolta l'episodio sulla tua piattaforma di podcast preferita: