이번 에피소드에서는...

AWS의 컨설팅 파트너 COE 책임자인 Brian Bohan이 IBM Consulting의 매니징 파트너인 Mahmoud Elmashni와 함께 IBM이 어떻게 생성형 AI를 활용하여 고객의 성공을 혁신하고 있는지 살펴봅니다. Mahmoud는 IBM의 ‘4P’ 프레임워크(사람, 프로세스, 파트너십, 플랫폼)를 소개하고 이 회사가 생성형 AI를 효과적으로 활용할 수 있도록 16만 명으로 구성된 조직을 교육하는 방법에 대해 설명합니다. 이번 대화에서는 생성형 AI가 현대화 일정을 몇 년에서 몇 달로 앞당기고, 고객의 ROI를 개선하고, 공공 부문에서 금융 서비스에 이르는 산업 전반에 걸쳐 실용적인 애플리케이션을 주도하는 방법을 자세히 설명합니다.

대화의 스크립트

Brian Bohan(AWS Director of Consulting Partner COE) 및 Mahmoud Elmashni(IBM Consulting Managing Partner) 출연

Brian Bohan(29:58):
안녕하세요. Executive Insights 팟캐스트에 오신 것을 환영합니다 저는 AWS에서 Consulting Partner Center of Excellence를 이끌고 있는 Brian Bohan입니다. 오늘은 IBM Consulting의 매니징 파트너로서 AWS Alliance를 이끌고 있는 Mahmoud Elmashni와 함께합니다 오늘 나와 주셔서 감사합니다 함께 이야기를 나누게 되어 정말 기쁩니다

Mahmoud Elmashni(30:17):
불러 주셔서 감사합니다. 이 자리에 오게 되어서 정말 기쁩니다

Brian Bohan(06:22):    
먼저 IBM Consulting에서 담당하는 업무, 역할, 책임에 대해 간단히 말씀해 주시죠

Mahmoud Elmashni(06:27):
저는 전 세계에서 AWS 비즈니스를 운영합니다 실제로 저희의 파트너십 중 하나를 통해 전반적으로 가장 빠르게 성장하는 비즈니스 중 하나입니다 현재 AWS에서만 25,000명 이상이 자격증을 취득했습니다 컴피턴시 수, 발표한 공동 고객 사례 수, 모든 것을 보면 지난 몇 년은 그야말로 로켓을 탄 것과 같았죠. 그 일원이 될 수 있어서 정말 좋았습니다

Brian Bohan(07:03):
제가 가장 먼저 다루고 싶었던 것은 생성형 AI입니다. 이전에도 이야기를 나누었듯이 생성형 AI는 비즈니스 프로세스, 애플리케이션, 엔드 투 엔드 비즈니스 전체를 진정으로 혁신할 수 있는 잠재력과 힘을 가지고 있습니다 IBM Consulting에서는 생성형 AI가 관행을 변화시키는 방식, 그리고 조직 자체가 고객과 상호 작용하는 방식에서 무엇을 보고 있는지 정말 궁금합니다 그러면 고객과의 관계에서 생성형 AI를 어떻게 활용하고 계신가요?

Mahmoud Elmashni(07:27):
생성형 AI에 대해 구체적으로 말씀드리자면 몇 달 전 도쿄 Summit에서 Werner Vogels가 한 이야기에서 영감을 약간 받았습니다 그는 생성형 AI가 다른 기술과 마찬가지로 하나의 기술이 되는 시점에 도달할 것이라고 말했습니다 우리는 전자레인지의 기술에 대해 이야기하지 않습니다. 그냥 음식을 데우는 데 사용합니다

(07:52):
광케이블의 경우도 이면 기술에 대해 이야기하지 않습니다. 인터넷을 사용할 뿐입니다 그래서 저희가 주시하고 있는 것은 모든 영역에서의 디지털이 아니라 지금, 여기에서의 생성형 AI입니다 컨설팅 회사로서 저희가 생각하는 대명제는 생성형 AI는 개인을 대체하는 것이 아니라 개개인을 보완하고 생산성을 높여 실행에 옮길 수 있게 한다는 것입니다

(08:21):
이것이 저희가 비즈니스에서 집중하는 부분입니다. 그러니까 비즈니스 확장을 시도하고 고객을 위해 점차 까다로워지는 복잡한 변환을 시도하는 경우 어떻게 하면 실무자와 조직 전체가 생성형 AI를 실행할 수 있도록 지원할 수 있을까요? 고객에게 서비스를 제공할 수 있도록 이러한 어시스턴트를 도입하여 생산성을 높이는 것입니다 그래서 이를 조금 단순화하여 IBM Consulting Advantage 플랫폼을 도입했습니다. 이를 통해 직원들이 일상 업무를 수행하는 동안 모든 어시스턴트에 액세스할 수 있게 되었습니다

Brian Bohan(08:56):
앞으로는 생성형 AI 프로젝트보다는 우리가 매일 하는 일, 즉 고객이 비즈니스를 혁신하고 가치를 창출할 수 있도록 돕는 일에 중점을 두어 이야기하겠다는 말씀이 마음에 듭니다. 그 중 일부는 생성형 AI로 구동될 것입니다 물론입니다. 파트너십 자체와 IBM Consulting과 AWS의 협력 방식이라는 측면에서 살펴보셨나요? 변화 또는 영향이 있습니까?

Mahmoud Elmashni(09:21):
저희는 컨설팅의 과학이라고 부르는 것에 비즈니스의 초점을 맞춰왔습니다 기억하기 쉽게 4P라고 하는데 사람, 프로세스, 파트너십, 플랫폼에 관한 것입니다 생산성을 높이는 데 필요한 정보에 액세스할 수 있도록 하는 사람들을 조금 살펴보면 알 수 있습니다 제가 농담처럼 연옥이라고 부르는 POC를 하려고 이리저리 뛰어다니는 과정이죠. 그들이 무엇을 하고 싶고 무엇을 하고 싶지 않은지 알아낼 때까지 말이죠 파트너십 측면은 확장 가능성 측면에서 저희에게 절대적으로 중요했습니다

(10:03)
IBM Consulting Advantage에 대해 말씀드렸는데, 이는 저희에게 플랫폼입니다 실제로 HAQM Q를 비롯해 AWS/HAQM이 생성형 AI를 중심으로 발표하는 모든 제품 및 서비스에 액세스할 수 있습니다. 이를 통해 저희 실무자들이 고객의 삶을 더 쉽게 만들 수 있습니다 단일 플랫폼을 제공하면서도 모든 AWS 기술에 액세스할 수 있게 된 것입니다 그래서 저희는 고객에게 서비스를 제공하기 위해 데이터를 사용하고, 데이터를 이해하고, 데이터를 언제 호출해야 하는지 알고, 데이터의 어떤 부분을 언제 사용해야 하는지 알 수 있도록 리소스를 교육하는 데 많은 투자를 했습니다

Brian Bohan(25:30):
그렇군요. 이번 파트너십은 정말 기대가 됩니다. 이 파트너십의 중요한 부분은 고객이 데이터 센터에서 벗어나 애플리케이션 및 워크로드를 현대화할 수 있도록 돕는 것이기도 합니다 제 생각에 생성형 AI가 정말 흥미로웠던 한 가지로, 과거에는 항상 이러한 절충이 있었습니다 리프트 앤 시프트를 한 이후에 현대화할 수 있습니다 그리고 마이그레이션하는 동안 현대화하면 일정이 지연되거나 비용이 증가할 수 있습니다 이제 Q Transform과 생성형 AI를 사용하면 두 마리 토끼를 모두 쫓을 수 있다고 생각합니다 이전과 같이 일정과 비용을 고정된 상태로 유지하면서 마이그레이션 및 현대화를 동시에 수행할 수 있죠 IBM은 고객이 이러한 현대화에 생성형 AI를 적용하도록 어떻게 지원하고 있는지 궁금합니다

Mahmoud Elmashni(26:14):
만약 여러분이 CIO로서 현대화를 위한 10년 로드맵을 제시하려 한다면 그건 죽음의 입맞춤과 다름없습니다 사실 이제는 생성형 AI를 통해 많은 기술을 검토하고 훨씬 빠른 기간 내에 현대화할 수 있게 되었습니다 6개월, 12개월, 18개월을 운운하죠 더 이상 몇 년이 아닙니다 즉시 무엇을 할 수 있나요? 메인프레임 현대화에 적용할 수도 있고 VMware 현대화에 적용할 수도 있습니다 아까 말씀하셨듯이 대형 데이터 센터에 적용할 수도 있습니다. 저는 이러한 데이터 센터를 보면서 어떻게 하면 다음 세대로 넘어가지 않고 시의적절하게 탈출할 수 있을까 생각합니다

(27:07)
고객의 Java 코드를 업그레이드하는 것처럼 간단한 작업도 몇 년이 걸렸는데 더 이상 아닙니다. 몇 달이면 됩니다

Brian Bohan(27:35):
물론입니다. 멋지군요. 저희도 같은 상황을 목격하고 있습니다. 고객을 더 빨리 클라우드로 전환시키고 현대화할수록 더 빨리 가치를 발견할 수 있다는 것만으로도 정말 기쁩니다

Mahmoud Elmashni(27:45):
그리고 저는 투자 수익률도 있다고 생각합니다 왜냐하면 모두 최고의 수익 증대를 기대하고 있고 어떻게 하면 그 자금을 비즈니스에 재투자할 수 있을까 그리고 이 부담스러운 기술적 부채를 해소하는 데 엄청난 비용을 들이지 않을 수 있을까 생각하고 있기 때문입니다 그렇죠? 그래서

Brian Bohan(28:00):
물론입니다

Mahmoud Elmashni(28:00):
... 이것이 많은 공동 고객을 위해 우리가 할 수 있는 가장 큰 일 중 하나라고 생각합니다

Brian Bohan(10:58):
사람에 대해 조금 더 얘기하자면, 4P에 대해 말씀하셨는데 IBM Consulting은 사람 중심 비즈니스라는 것이 분명합니다 결국에는 사람이 고객과 협력하여 일을 처리해야 합니다 그래서 기술과 교육, 기술 수준과 경영진 수준, 그리고 이를 해결하는 방법에 대해 좀 더 말씀해주시죠

Mahmoud Elmashni(11:22):
저희는 생성형 AI 여정과 관련 교육을 처음 시작했을 때 조직의 모든 사람이 어느 정도 이해할 수 있도록 하고 싶었습니다 단지 개발자용 HAQM Q가 아닙니다. 개발자만의 문제가 아니죠 누구나 기본적으로 플랫폼, 다양한 LLM, 다양한 기능에 액세스하는 방법 등에 대한 기본적인 이해가 필요합니다

(11:50)
그래서 저희는 조직의 최고위급인 매니징 파트너로부터 초급 개발자까지 교육을 진행했습니다 다행스럽게도 저희는 생성형 AI를 사용하여 이를 맞춤화했습니다 각 개인을 위한 특정 커리큘럼을 개발했습니다 그래서 그들은 대화를 나누고 고객에게 전달할 수 있는 방법을 알게 됩니다 동시에, 저희는 그것을 약간 맞춤화하기 시작했습니다 작년, 바로 이 무렵에 AWS는 파트너 등을 위한 교육을 발표했습니다 그래서 저희는 이를 AWS 생성형 AI 버전의 교육에 내장하고 배포했습니다 그리고 이제 한 걸음 더 나아가고 있습니다. 올해 초 AWS가 7월 예정으로 최초의 생성형 AI 자격증 2종을 발표했기 때문입니다 놀랍게도 그들은 데이터 기반 자격증입니다 데이터가 요즘 유행하는 또 다른 공통된 주제이고 데이터를 생성형 AI에서 어떻게 활용할 것인가도 그렇기 때문이겠죠

(12:53)
그래서 저희는 직원들에게 그런 종류의 지식을 제공하는 데 많은 투자를 했습니다. 심층적으로 들어가 자격증을 취득하는 것이든, 일반적인 AI 트랙을 이해하고 이를 실행할 수 있도록 AWS 교육을 받는 것이든 말이죠 내부적으로도 생성형 AI를 사용하여 그 중 일부를 간소화하고 직원에게 훨씬 빠르게 배포할 수 있었습니다

Brian Bohan(13:18):
좋네요. 좀 더 일반적인 AWS 생성형 AI 기술 교육을 수강할 수 있지만, 특히 심층적인 도메인 전문 지식과 업계 전문 지식을 갖춘 매니징 파트너에게 적용하면 그들이 고객을 위해 생성형 AI 기술을 맥락화할 수 있습니다

Mahmoud Elmashni(13:30):
물론입니다. 저희는 16만 명으로 구성된 조직입니다 계획은 말 그대로 16만 명의 직원을 어떻게 고려할 수 있느냐는 것이었죠

Brian Bohan(13:38):
이것은 큰 도전입니다

Mahmoud Elmashni(13:38):
물론입니다 개발자, 파트너, 영업 교육 뿐만이 아니었습니다 모든 직급이 포함되었습니다

Brian Bohan(13:45):
훌륭합니다. 프로세스와 관련하여 언급하신 다른 P로 옮겨 보겠습니다. 가치 창출에 관한 프로세스입니다 그리고 아까 적절히 표현하신 대로 우리가 POC 연옥에서 벗어날 수 있기를 바라면서 분명히 보고 있는 한 가지이죠 점차 많은 고객이 생성형 AI에서 얻는 진정한 가치에 대해 이야기하는 것을 보고 있습니다 또한 비용에 관한 논의에서 진정한 ROI에 대한 논의로 전환되고 있습니다 내 투자에 기반한 비즈니스 가치는 얼마나 되는가? IBM은 고객이 생성형 AI와 관련된 ROI와 가치 계산을 고려할 때 어떻게 지원하는지 궁금합니다

Mahmoud Elmashni(14:24):
예, POC입니다. 다수의 POC를 실행할 수 있지만 POC는 저희에게도 많은 것을 가르쳐 주었고 고객에게도 많은 것을 가르쳐주었습니다

(14:32)
무엇을 요구하고 무엇을 요구하지 않아야 하는지 아는 측면에서도 그렇습니다 프로세스 측면을 보면 이는 고객에게 ROI가 어떤 가치를 가져야 하는지 총체적으로 고려한다는 의미입니다 어느 한 부분에서 효과가 있었나요? 그럴까요 아닐까요? 네, 매우 효과적이었습니다 훌륭했습니다 원하는 결과를 얻었지만 LLM을 사용하면서 비용이 꽤 들었습니다

(15:01)
사실 전에 들은 농담 중 하나가 LLM은 잘못하면 많은 돈을 잃을 수 있다(losing lots of money)를 의미할 수도 있다는 것인데 이 점을 감안해야 할 것입니다 저희는 총체적 접근 방식을 취하고 싶고, 네, 고객이 원하는 결과를 얻을 수 있도록 하고 싶습니다. 하지만 이것이 목표를 달성할 수 있는 가장 효율적인 방법이었을까요? 그건 그렇고, 모든 것에 반드시 기술을 적용할 필요는 없습니다 그래서 그런 경우를 많이 보게 됩니다 이 방법이 예상대로 작동하거나 해당 앱을 폐기할 예정이라면, 왜 지금 당장 이를 위해 이 모든 리팩터링 작업을 투자해야 합니까?

(15:37)
그래서 전반적으로 총체적인 접근 방식을 취하려고 노력하고 있습니다. POC는 고객의 입장에서 ROI를 파악하는 방법을 알 수 있는 좋은 토대를 제공했습니다 동시에 저희 고객은 이러한 POC 중 일부에서 지금 무엇을 요구해야 하고 무엇을 요구하지 말아야 하는지를 알게 되었습니다 정말로 사용하고 싶은 모델이 무엇인지 더 잘 이해해야 합니다 어떤 플랫폼을 통해 액세스할 수 있는지 더 잘 이해해야 합니다 예를 들어 Bedrock입니다. 이것이 바로 저희가 많은 고객을 대상으로 전체 ROI를 평가하면서 발견한 것입니다 그리고 컨설팅 회사 또는 SI를 고용하는 고객들은 저희에게 묻습니다. 의견을 구합니다 잘 되는 거 보고 싶은데 어떻게 생각하세요? 향후 12~24개월의 로드맵을 어디서 찾을 수 있을 것 같나요?

Brian Bohan(16:27):
물론입니다. 이것이 우리가 선택에 대해 많은 이야기를 하는 이유 중 하나입니다. 우리는 이 여정의 초기 단계이고 이 기술로 할 수 있는 일이 너무 많기 때문입니다 그래서 가격 대비 성능에 적합한 칩과 올바른 사용 사례에 기반한 올바른 모델을 제공하기를 원합니다. 하지만 선택의 폭이 넓은 만큼 선택도 많습니다

Brian Bohan(17:26):
그러면 고객에 대해 이야기해 보죠. 여러분 모두 매우 심층적인 업계 전문 지식을 가지고 있습니다. 지금 보고 있는 것에만 관심이 있으신가요? 생성형 AI를 도입하고 IBM Consulting과 협력하여 이를 비즈니스에 실제로 적합하게 만드는 방법은 무엇일까요?

Mahmoud Elmashni(17:42):
아마도 저희가 가장 일반적으로 보고 있는 사용 사례는 고객 센터 인텔리전스, 놀랍죠? 이미지, 문서 이미지 처리, 요약 등등입니다 애플리케이션, 마이그레이션, 현대화, 거버넌스, 보안 진짜로 말씀드리자면, 여기저기서 볼 수 있는 것들이죠 모든 사람의 발표가 모두 이 다섯 가지를 중심으로 한다는 것은 놀라운 일이 아닙니다
    
(18:15)
그리고 여러 산업에 걸쳐 있는 것을 볼 수 있죠 생명과학부터 의료, 금융 서비스, 공공 부문에 이르기까지 모든 산업이 있습니다 저는 공공 부문이 그렇게 빨리 뛰어들 것이라고는 생각하지 못했는데 놀랍게도 공공 부문은 다른 모든 산업과 함께하고 있습니다 누구나 더 효율적으로 작업하거나 더 적은 자원으로 더 많은 일을 하기를 원하죠 그리고 통신 및 자동차가 있습니다 그래서 저희는 이제 산업별로 특화된 접근 방식을 취하려고 노력하고 있습니다 저희는 항상 산업별로 시장에 진출해 왔습니다 따라서 고객에게 서비스를 제공할 수 있도록 생성형 AI 기술을 기반으로 업계 특색을 생성형 AI 기술 한도 위에 올려놓는 방안을 모색하고 있습니다

(18:59)
따라서 이러한 사용 사례를 바탕으로 산업별로 적용하여 제공할 수 있도록 해야 합니다 간단한 예로, 공공 부문을 말씀드렸듯이, 저희는 정부 기관과 협력하고 생성형 AI를 사용하여 코드를 최신 Java 코드로 변환하고 있습니다 기본적으로 빛의 속도로 작동하여 수동 작업 시간과 비교됩니다 제 말씀은, 수동 변환과는 대조적으로 백그라운드에서 변환하고 검사를 수행하는 것으로도 얼마나 많은 비용을 절약할 수 있는지 정말 대단합니다 앞으로는 훨씬 더 효율적입니다 필요한 하드웨어가 더 적기 때문에 비용을 절감할 수 있습니다 그러니까 실행 속도뿐만 아니라 장기적인 비용 절감 측면 모두 윈윈(win-win)이죠

Brian Bohan(19:44):
이는 즉각적인 가치를 발휘할 수 있는 ‘낮게 열린 과일’의 좋은 예입니다 HAQM은 모든 Java 애플리케이션을 Java 17로 업그레이드하면서 개발 기간을 4,500년이나 단축했다고 생각합니다

Mahmoud Elmashni(20:02):
물론입니다. 앞으로 점점 더 많이 보게 될 것 같아요

Brian Bohan(20:08):
오늘 함께 해주셔서 정말 감사합니다 IBM Consulting과의 파트너십의 진전과 잠재력이 정말 기대가 됩니다 우리가 공동 고객을 위해 생성형 AI와 관련하여 몇 가지 큰 성과를 거두고 있다는 것은 이미 명확합니다 다시 한 번 감사드리며 2025년에 우리가 함께 할 일이 정말 기대됩니다

Mahmoud Elmashni(20:25):
물론입니다. 초대해 주셔서 감사하고 저 역시 미래가 기대됩니다

Mahmoud Elmashni:

“전에 들은 농담 중 하나는 LLM은 잘못하면 많은 돈을 잃을 수 있다(losing lots of money)를 의미할 수도 있다는 것입니다.”

구독 및 듣기

좋아하는 팟캐스트 플랫폼에서 에피소드 듣기: