在本集中…

AWS 諮詢合作夥伴 COE 總監 Brian Bohan 與 IBM Consulting 管理合夥人 Mahmoud Elmashni 一起探討 IBM 如何善用生成式 AI 來推動客戶成功。Mahmoud 分享了 IBM 的「4P」框架 (人員、程序、合作夥伴和平台),並討論了公司如何培訓其 16 萬名員工的組織,以有效利用生成式 AI。對話深入探討了生成式 AI 如何將現代化時間表從數年縮短至幾月、改善客戶的投資報酬率、以及推動從公共部門到金融服務等各個產業的實際應用。

對話的轉寫

嘉賓包括 AWS 諮詢合作夥伴 COE 總監 Brian Bohan 以及 IBM Consulting 管理合夥人 Mahmoud Elmashni

Brian Bohan (29:58):
您好,歡迎收聽 Executive Insights 播客。我是 AWS 卓越諮詢合作夥伴中心負責人 Brian Bohan,今天參與我們討論的是 Mahmoud Elmashni,他是 IBM Consulting 的管理合夥人,也是 AWS 聯盟的負責人。Mahmoud,非常感謝您參加我們今天的討論。能夠與您對談,我真的太開心了。

Mahmoud Elmashni (30:17):
感謝您的邀請。很高興來到這裡。

Brian Bohan (06:22):    
能否簡單介紹一下您在 IBM Consulting 的工作、角色與職責?

Mahmoud Elmashni (06:27):
我負責全球的 AWS 業務。事實上,這是我們透過合作建立的業務,也是整體成長最快的業務之一。現在,僅在 AWS 上獲得認證的人員就超過 25,000 人。能力的數量、我們發表的共同客戶案例的數量等等,都非常可觀。過去幾年,AWS 的發展速度像火箭一樣快,所以能夠加入其中真的很酷。

Brian Bohan (07:03):
我想先談談生成式 AI,我們之前已經討論過這個話題,它真的有潛力和能力真正全面變革業務流程、應用程式與端對端業務。我非常想聽聽您對 IBM Consulting 的看法,無論是從它如何改變實務的角度,還是從組織本身如何與客戶互動的角度。您是如何藉助生成式 AI 為客戶服務的?

Mahmoud Elmashni (07:27):
具體說到生成式 AI,我想引用 Werner Vogels 幾個月前在東京峰會上說過的一些話。他說,生成式 AI 將會演變成一種技術,就像其他技術一樣。我們不會談論微波爐背後的技術,我們只加熱食物。

(07:52):
我們不會談論光纖電纜背後的技術,我們只使用網際網路。因此對我們來說,我們看到的,不再是無處不在的數位化,我們更關註此時此地的生成式 AI。對諮詢公司而言,我認為我們看到的最重要的一點是,生成式 AI 並不是要取代人。其目的是與人形成互補,協助人更有效率地完成任務。

(08:21):
這是我們真正關注的領域,如果您試圖擴展業務,並嘗試為客戶進行這些越來越複雜的變革,應該如何確保從業人員和整個組織能夠使用生成式 AI 來達成目的? 您引入這些助手是為了讓人更有效率,從而更好地為客戶服務。因此我們稍微進行了簡化並引入 IBM Consulting Advantage 平台,以便他們可以利用所有助手處理日常工作。

Brian Bohan (08:56):
我非常同意您說的,未來我們將減少談論生成式 AI 專案,更多地談論每天所做的事情,協助客戶和顧客推動業務轉型,創造價值,而其中一些工作將由生成式 AI 提供支援。完全同意。您是否僅從合作本身以及 IBM Consulting 與 AWS 如何合作的角度來看待這一點? 這方面是否有變化或影響?

Mahmoud Elmashni (09:21):
有鑒於此,我們將業務重點放在所謂的諮詢科學上。簡而言之,為了更容易讓人記住,諮詢科學圍繞著四個 P: 人員、流程、合作夥伴、平台。關於人員,我們需要確保他們能夠取得所需的資源,從而提高生產力。在這個過程中,每個人都在嘗試做我喜歡開玩笑地稱之為 POC 煉獄的事情,直至他們弄清楚自己想做什麼和不想做什麼。與其他方合作是我們能夠擴大規模的關鍵。

(10:03)
我剛剛提到 IBM Consulting Advantage,它就是適合我們的平台。您可以透過它存取 HAQM Q 以及 AWS 和 HAQM 目前所發佈的有關生成式 AI 的所有內容,以便我們的從業人員能夠為客戶提供服務,讓客戶生活得更加輕鬆。它為我們提供了一個平台,但仍可存取所有 AWS 技術。因此,我們已做重大投入,培訓資源來使用它、了解它、知道何時該調用它、知道何時該藉助何種工具來為客戶服務。

Brian Bohan (25:30):
真不錯。這讓我對合作超級興奮,我們合作的一大部分也是協助客戶和顧客遷出其原來的資料中心,實現應用程式和工作負載的現代化。我認為過去關於生成式 AI,最令人興奮的一件事就是這種權衡取捨。您可以先遷移,然後進行現代化改造。如果在遷移的同時進行現代化改造,可能導致耗時增多或成本增加。現在有了 Q Transform 和生成式 AI,我認為我們可以兩者兼得。遷移和現代化可以同時進行,確保耗時與成本保持不變。我很好奇,您如何協助 IBM 客戶將生成式 AI 套用至這些現代化改造工作中?

Mahmoud Elmashni (26:14):
如果身為資訊長的您拿出一份耗時長達 10 年的現代化改造路線圖,那無異於自取滅亡。我想說,現實狀況是,藉助生成式 AI,我們可以透過多種技術,以更快的速度完成現代化改造。現代化改造所需的時間可能是 6 個月、12 個月、18 個月,而不再是以年為單位。我能即刻做什麼, 以便在同樣的時間內實現大型主機現代化、VMware 現代化?正如您所說,我們可以套用生成式 AI,我看著現有的這些大型資料中心,滿腦子想的都是,我該如何盡快擺脫資料中心,讓下一代不再受其所困。

(27:07)
甚至是為客戶升級 Java 程式碼這樣的事情,只需幾個月即可完成,而不再需要數年時間。

Brian Bohan (27:35):
完全同意。這太妙了。是的,我們也看到同樣的情況,我們真的很興奮,因為可以讓客戶更快地進入雲端並實現現代化,更快地創造價值。

Mahmoud Elmashni (27:45):
我想這也是他們的投資帶來的報酬,對吧? 因為他們都專注於營收的成長,我該如何將這些錢再投資到自己的業務上呢? 同時不用花大錢來因應困擾我的技術債務? 對吧? 那麼-

Brian Bohan (28:00):
是的,當然可以。

Mahmoud Elmashni (28:00):
...我認為這是我們能為許多共同客戶帶來的重大成果之一。

Brian Bohan (10:58):
我們來進一步談談人。您提到 4P 原則,很明顯,IBM Consulting 在很大程度上是一個以人為本的企業。說到底,工作都是人與客戶合作完成的。另外,我們再多談談技能和培訓方面的內容,然後看看技術層面和執行層面的問題,以及您如何解決這些問題。

Mahmoud Elmashni (11:22):
剛開始接觸生成式 AI 並開展相關培訓時,我們想要確保組織中的每個人都對它有一定程度的了解。不只是 HAQM Q for Developers,也不只是開發人員。基本上,每個人都需要對平台、各種 LLM、如何存取不同的資源等等有基本的了解。

(11:50)
因此,我們面向從管理合夥人、組織的高層,一直到初階開發人員的所有人推出培訓計畫。幸運的是,我們已經使用生成式 AI 協助客製化培訓。我們為每個人開發特定的課程,以便他們知道如何開展對話,如何更好地為客戶服務。同時,我們甚至已經開始進行這方面的客製化。大約去年的這個時候,AWS 宣佈將為眾多合作夥伴提供培訓等服務。我們已將其建置到 AWS 生成式 AI 版本的培訓中並完成部署。現在我們要更進一步,因為 AWS 已在今年稍早時宣佈他們的前兩項生成式 AI 認證,大約在七月左右。令人震驚。它們以資料為基礎,對吧? 我的意思是,資料似乎是現今另一個很常被說到的話題,還有如何將其與生成式 AI 一起使用。

(12:53)
我們已投入大量資源讓員工學習這方面的知識,包括深入了解並取得認證的高階學習,以及接觸一般 AI 課程並接受 AWS 培訓,以便提升實際執行能力的初階學習。我們甚至在內部使用生成式 AI 來幫助簡化部分工作,並加快部署速度以便其能夠為所有員工所用。

Brian Bohan (13:18):
我很喜歡這樣。您可以接受我們更常規的生成式 AI 培訓,尤其是面對擁有深厚領域專業知識、產業專業知識的管理合夥人時,以便他們能夠為客戶提供背景資訊。

Mahmoud Elmashni (13:30):
完全同意。這個組織共有 16 萬人。這項計畫的真正目的是如何影響到這 16 萬人?

Brian Bohan (13:38):
這是一個巨大的挑戰。

Mahmoud Elmashni (13:38):
是的,當然可以。這不僅僅涉及開發人員,不僅僅涉及合作夥伴,不僅僅是銷售培訓。這涉及到方方面面。

Brian Bohan (13:45):
太棒了。我們現在稍微把目光轉到您提及的另一個流程,也就是價值創造流程。有一件事我們肯定都知道,我們希望擺脫您所說的 POC 煉獄。我們發現越來越多的客戶開始談論生成式 AI 給他們帶來的真正價值。我們還發現,人們的談話已從僅僅關注成本,轉向實際的投資報酬率。我的投資會帶來什麼樣的商業價值? 我很好奇 IBM 如何協助客戶真正思考生成式 AI 的投資報酬率和價值?

Mahmoud Elmashni (14:24):
是的,您可以執行很多 POC,但它們教會我們很多,也教會客戶很多。

(14:32)
甚至知道可以在哪些方面提供幫助,哪些方面幫不上忙,對吧? 當您檢視流程時,這表示為客戶取得投資報酬率值的整體端對端的價值應該是多少。這並不是簡單地說,對這個客戶是否有用? 是或不是? 是的,效果非常好。非常棒。我得到了想要的結果,但是也為所用的 LLM 花了一大筆錢。

(15:01)
對於您剛剛提到的一點,事實上,我以前聽過一句玩笑話,如果您做錯,LLM 可能成為巨大的損失。因此,我們要確保採用這種端對端的方法,保證您取得想要的結果,但這是實現目標的最有效方法嗎? 順便說一句,並非所有工作都需要套用這項技術。我們已經看到一些這樣的範例。如果一切都按預期執行,或者您要停用這個應用程式,為什麼要花費大量精力和資金進行重構呢?

(15:37)
因此,我們嘗試採取全面的方法,而 POC 為我們奠定了一個良好的基礎,讓我們知道如何為客戶檢視投資報酬率。同時,我們的客戶也知道這些 POC 可以在哪些方面提供幫助,哪些方面幫不上忙,對吧? 我需要更好地了解,哪個模型最適合我? 我需要更好地了解,我可以透過什麼平台存取這個模型? Bedrock 即是範例之一。這就是我們在為眾多客戶執行全面的投資報酬率評估時發現的結果。客戶在聘請諮詢公司或 SI 時會詢問我們的意見。我是說,我想看到模型發揮作用,但您覺得如何? 您認為模型會為我帶來什麼?能幫我確定未來 12 到 24 個月的路線圖嗎?

Brian Bohan (16:27):
完全同意。我想說,這正是我們如此多地談論選項和方案的原因之一,因為我們才剛開始這一段旅程,我們可以用這項技術做很多不同的事。因此,我們希望確保自己擁有適合您的價格效能比要求的晶片、適合使用案例的模型,但選項越多,越難做出選擇。

Brian Bohan (17:26):
說到顧客和客戶,再說一次,大家都有非常深厚的產業專業知識,但不應該僅局限於所看到的東西。 他們如何採用生成式 AI 並與 IBM Consulting 合作,使其真正幫助他們發展業務?

Mahmoud Elmashni (17:42):
我們看到的最常見的使用案例可能是智慧型聯絡中心。令人震驚。它不僅可以處理影像、文件影像,還能做總結之類的工作。應用、遷移、現代化、治理、安全性,對吧? 如果真的要我說,這些就是我們在各地看到的。所以大家的公告都圍繞這五個主題,也就不足為奇了。
    
(18:15)
您看到它橫跨許多產業,對吧? 涉及生命科學、醫療保健、金融服務、公共領域等等。我原本沒有想到公共部門這麼快就加入到這個行列,但令人震驚的是,他們也和其他人一樣。每個人都在嘗試提高效率或用更少的資源做更多的事情,對吧? 電信和汽車產業也是如此。因此,我們正在努力確保採取針對特定產業的方法。我們一直都是依產業進入市場。因此,您必須顧及生成式 AI 的特性,同時考慮到生成式 AI 的能力上限以及產業特性,才能更好地為客戶服務。

(18:59)
因此,請依產業套用這些使用案例,以確保達成目標。一個簡單的範例是,我前面曾經提到公共部門,我們正在與政府機構合作,使用生成式 AI 協助將程式碼翻譯成現代的 Java 程式碼。基本上相當於以光速完成之前需手動完成的作業。我的意思是,相較於手動轉換,在背景中執行檢查能夠節省的資源量,非常非常可觀。對他們來說,效率大幅提升。透過減少執行時所使用的硬體數量,他們節省了成本。所以這是雙贏的局面。這不僅體現在執行速度上,更可為他們節省長期的成本。

Brian Bohan (19:44):
這就是一個很好的範例,展現了生成式 AI 所帶來的即時成果。透過將所有 Java 應用程式升級至 Java 17,HAQM 節省了 4,500 名開發人員的年資。

Mahmoud Elmashni (20:02):
完全同意。我想,隨著時間的推移,這種情況會越來越普遍,對吧?

Brian Bohan (20:08):
Mahmoud,非常感謝您加入今天的討論。我對我們與 IBM Consulting 合作所取得的進展和展示出的潛力感到非常興奮。形勢已經非常清楚,我們正在協助共同客戶在生成式 AI 領域取得一些重大成果。再次感謝您,期待我們在 2025 年的合作再結碩果。

Mahmoud Elmashni (20:25):
完全同意。感謝您的邀請,我也對未來充滿期待。

Mahmoud Elmashni:

「我以前聽過的一個笑話是,如果做錯了,大型語言模型 (LLM) 可能意味著會損失很多錢。」

訂閱並收聽

在您最喜歡的播客平台上收聽節目: