BMW Group 如何利用生成式 AI 推動業務恢復能力

Matthias Patzak：
歡迎收看由 AWS 為您帶來的《領袖觀點》播客。我是 Matthias Patzak。我是 AWS 的企業策略師。

很高興邀請到 BMW 集團企業平台與服務、資料、人工智慧副總裁 Marco Gorgmaier。Marco，感謝您的到來。

Marco Gorgmaier：
感謝您的邀請。

Matthias Patzak：
歡迎收看由 AWS 為您帶來的《領袖觀點》播客。我是 Matthias Patzak。我是 AWS 的企業策略師，很高興今天能夠邀請到 Marco。

Marco Gorgmaier：
您好，Matthias。非常感謝你們的邀約。

Matthias Patzak：
Marco，歡迎參加這個播客。Marco Gorgmaier 是 BMW 集團企業平台與服務、資料、人工智慧副總裁。Marco，您可以介紹一下自己、您在 BMW 集團的職位以及所做的工作嗎？

Marco Gorgmaier：
好。我們是全球平台部門，我們是整個組織內推出和推廣 AI 的一個非常重要的部門，而我們為各團隊提供的平台生態系統是其中的支柱。我們努力提高員工的技能，確保所有員工都了解我們的生態系統，了解他們可以從中獲得的效率提升，並在整個組織得到運用。

Matthias Patzak：
但它不僅僅是一個單一的平台，它不僅僅是一個資料生成式 AI 的單一平台。所以它囊括幾個企業平台。

Marco Gorgmaier：
是的，就是這樣。它實際上是幾個平台的堆疊。其中重要的部分包括 ERP 和 SAP 平台。然後我們有我們的雲端堆疊，我們在其中開發我們的應用程式，自主開發的應用程式，我們稱之為標準雲端平台，並且大量使用受管服務。然後我們有資料和 AI 平台，兩者幾乎是一起發展的。

早在 2017 年，我們就建立了雲端資料中心。那時我們才真正將所有資料整合到一個平台上。我們為我們工作環境中的所有系統建置了擷取管道。我們當時為此成立了一個部門，那時稱為資料轉換辦公室，然後在公司中新增了角色，包括在業務部門設置了資料管理和控管職能，還有資料管理員，他們擁有專業領域的知識和流程知識，能夠從業務角度控制資料的語義。當然還有我們的工程部門，我們的全球中心都配備資料工程師。我們的業務遍及全球，包括美國、德國，當然還有我們的總部，以及位於印度、葡萄牙和南非的軟體開發中心。所以說我們是一個非常非常全球化的組織。我們成立了資料工程團隊，這幫助我們加快了對現有環境的整合。

Matthias Patzak：
你們的平台部門的規模大概有多大？

Marco Gorgmaier：
在全球範圍內，包括中心在內，員工人數超過 1,000 人。

Matthias Patzak：
單算你們的平台部門嗎？

Marco Gorgmaier：
是。

Matthias Patzak：
哇。

Marco Gorgmaier：
確實是一個相當龐大的部門，但我們的平台面向的是整個公司和我們集團所有的工程師。

Matthias Patzak：
平台是我們廣泛使用的一個術語。在最新的 Dora 研究中……平台是一個被廣泛使用的術語。在最新的 Dora 關於 DevOps 的研究報告中，84% 的受訪組織表示，他們從更廣泛的角度使用平台，但這個術語並沒有真正得到很好的定義。在您看來，什麼是平台以及如何使平台成功？

Marco Gorgmaier：
我想對我們而言……這實際上也取決於它是哪個平台，但就我們的標準雲端平台而言，它用於確保應用程式的開發、部署和管理，以及圍繞這些所需的一切。我們會希望它具有可擴展性和效率。所以我的定義和您很容易可以找到的標準定義基本一致。

然而，我認為真正重要的，也是要問的問題是，什麼不是 BMW 集團的平台，我認為重要的是要融入我們獨有的內容。每個大型組織都有自己獨有的內容，具體的政策、網路設定的細節。所有這些。這是我們確保在我們的平台上實現的一點，因為這將大大加快所有使用該平台的新團隊的入門過程。這也使得平台變得更有吸引力，因為當我們已經將治理要求融入其中，一切都已部署妥當，那麼員工就會樂意使用該平台。

Matthias Patzak：
你們的平台有多少使用者？有多少工程師或多少團隊在使用？

Marco Gorgmaier：
就工程師的數量而言，使用我們整個平台堆疊不同平台的工程師有超過 1 萬人。就我們的資料和 AI 生態系統而言，大約有 4 萬名使用者，因為這裡面也包括來自業務部門的使用者。可以說我們部門在公司中的規模算相當的大。

Matthias Patzak：
所以說你們變成了一個大型的軟體開發和技術組織了嗎？

Marco Gorgmaier：
是的，可以這麼說。而且我認為其中的關鍵在於我們建立軟體開發中心的方法。這是一項大規模的內部能力構建工作，我們在過去幾年中組建了工程團隊並不斷壯大，我們最近在羅馬尼亞以及去年在印度新設立了中心。我認為我們將會進一步發展。

Matthias Patzak：
酷。就資料和生成式 AI 而言，你們的平台提供什麼服務？

Marco Gorgmaier：
我們提供的服務非常廣泛。當然，一切都圍繞著資料管理、資料分析，以及與《UEI 法案》等法規相關的資料和 AI 的治理。這對我們來說是非常重要的事情。我們需要遵守法規，尤其是考慮到汽車的法規要求，我們需要完全確保我們符合所有的治理要求。

Matthias Patzak：
所以說你們已經將政府的要求融入到平台的服務中了？

Marco Gorgmaier：
就是這樣。

Matthias Patzak：
平台使用者在使用服務時就會感到簡單、高效、無壓力，尤其是從監管和安全的角度來看。

Marco Gorgmaier：
是的，就是這樣。他們會獲得指導。例如，就我們的 AI 應用程式而言，我們有一個 AI 架構、治理架構，為使用者提供風險評估以及文件的指導。另外一個方面是 AI 模型開發，以及與之相關的一切，就是工作所需的服務。在我們的工廠中，我們也有一些非常酷的使用案例，包括對汽車進行品質檢查，例如檢查縫隙大小、刮痕等等。當然，後來生成式 AI 出現了，我們也有生成式 AI 自助服務平台。那是我們剛剛推出的服務，也面向所有的業務部門使用者。我們 BMW 集團稱之為 Group AI 助理。目的在於為日常工作建立簡單的自助服務應用程式、生成式 AI 應用程式。

Matthias Patzak：
酷。我看到許多組織在建置平台，而建置平台主要是處於技術目的。大部分情況下它可能變得更有效率或更具成本效益，但很少能夠真正支援業務部門。就資料和生成式 AI 而言，您能否分享一下 BMW 集團的業務策略是什麼？

Marco Gorgmaier：
沒問題。我認為您提到的這一點非常重要。我們始終盡力確保……每個平台組織都熱愛技術，喜歡建立平台和功能。因此我認為儘早協調業務和 IT 團隊非常重要。從組織角度來看，我們也希望做到這一點。正如我之前提到的，在我們建立資料轉換辦公室之初，我們會確保每個資料資產 (也就是資料集) 已經經過處理，能夠用於資料分析。我們會確保始終有一個業務負責人，以及資料管理員和工程人員。那時我們就開始使用雲端資料中心來處理資料。

現在對於生成式 AI，我們也採取同樣的做法。我們寧願從使用案例開始，從業務角度來看想要實現的目標是什麼。 例如，我想確保生產過程中的品質，然後會去想可以用什麼技術來實現這一點。 再去想需要什麼資料。

我認為現在生成式 AI 也有新進展，特別是從 AI 代理人的角度來看，我們看到了下一波浪潮的到來。我們現在已將資料擷取到 CDH 中，但現在需要對我們環境中的所有應用程式進行交易存取。我們使用的應用程式眾多，從舊式應用程式，到最先進的雲端原生建置應用程式，以及現成的應用程式。我們的堆疊中包羅萬象。現在需要確保特定使用者的權限和角色能夠存取所有這些系統，以便能夠真正發揮代理人的全部潛力。因此，我認為從一開始就讓業務部門參與進來，並整合他們的流程和領域知識至關重要。

Matthias Patzak：
你們平台團隊的軟體開發人員數量以及開發人員使用者數量令我印象深刻。您能否說說具體的情況和資料，尤其是資料方面的？ 你們會產生什麼類型的資料？每天或每分鐘會產生多少資料？你們擁有什麼類型的資料？

Marco Gorgmaier：
正如我所說，資料來自所有的系統，包括 ERP 系統、SAP 系統，以及自主開發的應用程式。我想在雲端資料中心我們有 1.4 萬個 S3 儲存貯體。我們管理超過 7,000 個資料集並支援超過 1,500 個使用案例。目前我們支援的數量相當大。

Matthias Patzak：
很有意思。那你們是如何知道平台是否被內部使用者採用呢？ 使用你們的平台是強制性的嗎？還是說有任何的激勵措施？

Marco Gorgmaier：
您提到了一個很有意義的問題。對於一個公司而言，這始終是平台使用所面對的一項巨大挑戰。我相信，標準化和效率之間總是存在著某種權衡。從公司的角度而言，當然是希望能夠統一使用，但另一方面，也需要給員工一些自由，這樣才能有創新和實驗的空間。

我認為困難在於找到適當的平衡，而且這是一個持續的過程。這絕不是一勞永逸的事情。我認為我們需要不斷地調整。作為一個平台團隊，另一個大挑戰是確保自己不會成為瓶頸，特別是在權衡的過程中。因此我們的做法是強制使用明確定義的平台，正如我從治理角度提到的那樣。

這是一部分，但我認為主要的驅動力和市場中現象是一樣的，也就是贏者通吃。從雲端資料中心來看，我們管理得非常好，到了某個時刻，大家會發現，已經有這麼多資料了，已經有這麼多精選的資料集了，我可以將這些資料和其他資料結合起來，因此連接到中心絕對是有價值的。 我們為擷取提供了標準的連接器，擷取架構擁有良好的品質。所有這些加起來到了某個時刻，大家就會願意都來使用。這也促進了我們的 AI 平台的發展，因為我們可以沿用原來的經驗。我們現在有了良好的基礎，並且可以進行擴展。

Matthias Patzak：
資料平台的一個常見問題是儲存的資料太多。您可能聽說過「資料是新的石油」這樣的說法，然後每個人都開始收集各種類型的資料。那麼您如何確保只儲存必要的資料呢？

Marco Gorgmaier：
是的，我認為這是一個巨大的挑戰，我們是一家汽車公司，我們非常注重效率。這也是我們努力管理成本的原因，如果像您說的那樣，不加分辨地儲存任何資料的話，成本就會非常高。對於生成式 AI 和非結構化資料，情況更是如此。因此我們實作非常嚴格的生命週期管理。使用者會收到有關未使用的資料集的通知，並且我們會在某個時候刪除這些資料集。我們首先會封存資料，然後再刪除，否則成本就會激增。

另一個方面是，在我們的資料和 AI 入口網站中，我們始終將使用案例連結到資料資產。我們對系統下游有非常清晰的了解，而且還可以了解誰在使用資料集、在哪些使用案例中使用資料集，以及使用案例是否以得到積極的管理。在我們的入口網站內，我們擁有各種統計資料，讓我們能夠進行資料管理，如果新增新的使用案例，我們能夠定義新的來源系統，新增所需的資料。

Matthias Patzak：
許多組織發現，吸引資料領域的人才很困難，因為人才需求量大，競爭非常激烈。你們是如何吸引人才的？

Marco Gorgmaier：
我想其中一個因素是品牌。BMW 集團擁有強大的品牌，這毋庸置疑有所助益。這是一個方面。另一個方面是，我之前也提到過，我認為，在全球範圍內尋找人才庫非常重要，不要只依賴一個市場或我們的總部，而是充分利用全球的人才。我認為這對我們招募合適的人才來說是非常重要的一步。此外，關於資料科學家的討論有很多，他們非常重要，但我們發現，擁有資料工程團隊同樣重要，因為如果來源系統沒有以可靠、穩定的方式相連接，那麼資料科學家就沒有可依據的資料了。

Matthias Patzak：
New Vantage Partners，現為 Wavestone，對大數據進行了一項調查，從他們的角度和服務資料來看，企業採用資料，也就是企業使用資料面臨的最大問題是文化，而不是技術。您對此有何看法？

Marco Gorgmaier：
我相信這是正確的看法。沒錯。這和我的觀察非常吻合。我認為管理層首先要給予支持。我並不太喜歡「資料思維」或「資料驅動的公司」這樣的用詞，我認為我們還是一家產品驅動的公司。然而我們的每個決定、每項作為都必須有資料做後盾。建立這種思維是非常重要的。我認為這是我們多年來努力培養的，而這需要時間。因此必須及早開始。

另一個方面是，我們為員工提供許多幫助。我認為這很重要。我們必須對員工進行培訓，消除員工內心的恐懼。我認為這也適用於現在的 AI。我們需要為員工提供一個可以進行實驗和嘗試，讓人感到安全的環境。這是我們努力在做的事情，不管是對於業務部門的員工，還是工程部門的員工，都是如此。例如，在我們所有的中心，我們都有所謂的平台學院。在上面員工可以取得所有具體資訊，並且我們還與 AWS 就我們的雲端堆疊在這方面展開了密切的合作。

Matthias Patzak：
真有趣。我經常觀察到的情況是，平台只是一味地在建立服務，但並沒有為平台服務的使用者提供幫助和培訓，尤其是那些應該根據資料採取行動的業務部門的人員。這就是為什麼許多組織未能充分利用資料投資的原因。

Matthias Patzak：
您方便分享一些 BMW 集團目前正在研究的創新使用案例嗎？

Marco Gorgmaier：
我很樂意分享一些使用案例，其中一些是非常典型的生成式 AI 使用案例。我們剛剛推出了招標助理……當我們與外部合作夥伴合作時，我們通常會進行招標。為了以標準化的方式編寫這些文件，我們建立了一個小型的生成式 AI 服務，來指導完成所有這些操作，確保其中包含必要的、正確的法律段落。這聽起來可能很簡單，但確實提高了相關流程過程的效率。我們也在行銷文字生成方面做了同樣的創新。我們目前看到的生成式 AI 的典型使用案例我們都有在使用。很多這樣的使用案例都已經有了。我們目前正在推出的另一個功能是 CIC 客服，即客戶互動中心客服與生成式 AI 結合，以提供正確的答案。

現在，我們的網站和手機上的 MyBMW 應用程式中也實現了相同的功能。下一步，我們也會將其引入到汽車上的智慧個人助理。我認為這是平台如何運作的一個很好的例子。您只需建立一次服務，然後可以在不同的環境中重複使用它，並將技術建置組塊重複用於服務。我認為這是一個非常酷的使用案例，確實提高了……

Matthias Patzak：
是的，確實如此。

Marco Gorgmaier：
……我們為客戶提供的服務品質。另外，我們正在與 AWS 進行的一項合作是，我們正在試驗基礎模型持續預訓練的使用案例，其中我們融入了 BMW 模型的細節。這很重要，因為如果想要實現非常短的回應時間，那麼機架是無法滿足要求的。我想這將是一個令人興奮的使用案例，然後在實作上非常重要，例如將它部署到汽車及其他環境中。

Matthias Patzak：
看起來你們面對的是一個非常龐大的組織，它高度分散，使用案例跨越完全不同的領域。您剛剛提到了法律科技、市場技術和客戶服務技術。我很好奇這種高度分散的環境的彈性。你們是如何建立組織架構以實現彈性的？

Marco Gorgmaier：
我認為實際上……確實涵蓋了許多流程。您的觀察一點都沒有錯。從生產物流到客戶品牌銷售，我們確實涉及所有的內部流程。我認為這樣做的好處可以在這一過程中打破很多孤島。這是不讓各個部門只處理特定流程的一大好處。另一個方面是，雖然從全球的地理分佈來看 BMW 集團是一個分散的組織，但其實我們的管理還是非常集中的。我們可以輕鬆地確保標準的治理和實作。這肯定是有幫助的，因為總體來說，我們並不是很分散。

Matthias Patzak：
真有趣。您認為汽車產業和資料領域未來會出現哪些趨勢？ 在這方面您有什麼想跟我們分享的嗎？

Marco Gorgmaier：
我所看到的並且我認為非常重要的是，要在組織中啟用 AI 代理人。這不是一個特定於汽車產業的趨勢，但它在進一步提高組織效率方面有著巨大的潛力。我認為，很多人沒有談論的一個巨大挑戰，也是我之前提到的挑戰是，我們需要為此準備好現有的應用程式環境。如果已經在雲端中擁有現代應用程式，那麼做起來會更加的容易。

但我認為每個大型組織面臨的現實情況是，舊式應用程式和現代化應用程式並存。我真正看到的，也是我們付出大量努力的地方，是讓 API 能夠存取這些應用程式，讓我們能夠透過大型語言模型存取這些 API。是否有跨應用程式的角色和權限，以便使用單獨的使用者權限便能夠存取它們？ 這是我們目前投入大量資金的領域。然後是與我們的 AI 自助服務平台、我們的集團 AI 助理的連結，然後才能夠真正的在員工、業務層面，開發自己的小代理人和使用案例。

Matthias Patzak：
要提高彈性，您需要透過 API 將組織和架構分開。這會是一則有效的建議嗎？

Marco Gorgmaier：
絕對的。我認為，彈性顯然有很多維度，但如果無法實現這樣的分離，那肯定就無法進行擴展。

Matthias Patzak：
最後當作是一個總結，我想問一下，對於如何建立有彈性的資料策略，您對業界的同行有何建議？

Marco Gorgmaier：
我相信其中一點是投資於資料品質和中繼資料。這是一個非常簡單的道理，或許我們每個人都聽說過，但這確實很重要。我認為資料品質很重要，不論是從架構、技術，還是從業務流程的角度來看都是這樣，要確保在業務流程取得正確的資料，因為有些資料是無法從資料工程角度進行修正的。

這是一方面。另一方面，實現生成式 AI 需要中繼資料。目前我們也在對此進行投資，以擴大規模。然後，談到現在的資料和 AI 代理人之間的相互作用，就像我之前提到的那樣，要投資於環境以實現交易的可能性和機會。這是一件不容小覷的事情，而且我認為這非常重要。然後則是利用生成式 AI 的力量來打破孤島，提高效率。我們工程部門自己在這麼做，我們在軟體開發中大量使用它。我們使用它來自動化擷取指令碼，以充分利用它。

最後一條建議是在自己建置和購買之間取得適當的平衡。與我們生產的汽車類似，我們給予客戶選擇的自由，他們可以選擇內燃機汽車，可以選擇純電動車，可以選擇插電式油電混合車。 現在，我們甚至在生產氫燃料電池車。我想這同樣適用於軟體部門。我們必須知道何時應該選擇購買，何時應該自己建置，並保持靈活性。

Matthias Patzak：
那麼你們什麼時候選擇購買？什麼時候選擇自己建置呢？

Marco Gorgmaier：
這取決於成本。這是一方面。我認為這還取決於在策略層面上有多大的差異。我的一個觀察是與購買的堆疊中的授權有關。授權的增長速度很快，我相信，隨著 AI 的出現，我們將看到整合，而這將引發價格戰。我相信，作為一個組織，擁有自己建置的能力是一件好事。

Matthias Patzak：
Marco，非常感謝。非常高興您能參加我們的播客，我學到了很多。非常感謝。

Marco Gorgmaier：
Matthias，謝謝您邀請我。很高興能夠和您聊一聊。

Matthias Patzak：
感謝您！

立即收聽

立即收聽

立即收聽