AI의 맞춤형 단축 도메인 ROI(그리고 이를 찾는 방법)​제너레이티브 AI 플랫폼의 자동화 기능을 실험하는 기업의 수는 두 배로 증가할 것으로 예상됩니다. 하지만 기대하는 재정적 수익이 이 기술의 높은 비용을 정당화할 수 있을까요?​아래글은 24.2.29일 Computerworld에 게재된 동일 제목의 뉴스를 번역한 내용입니다.​The number of companies experimenting with the automation capabilities of generative AI platforms is expected to double. But do the hoped-for financial returns justify the high costs of the technology?2030년까지 기업들은 챗봇, 리서치, 글쓰기, 요약 도구와 같은 생성형 인공지능(genAI) 프로젝트에 연간 420억 달러를 지출할 것으로 예상됩니다. 이 기술은 생산성 향상에 큰 도움이 될 것으로 기대되고 있지만, genAI의 투자 수익률(ROI)을 정확히 파악하는 것은 쉽지 않을 수 있습니다.가트너의 저명한 부사장 애널리스트인 리타 살람은 많은 고객들이 정확한 생산성 향상을 포착하고 측정하는 것이 어려운 과제였습니다.라고 말합니다. [genAI]의 경우 ROI를 찾는 것이 어렵다는 것이 아니라, 생산성과 같은 많은 이점이 향후 재무적 성과를 창출하는 간접적 또는 비재무적 영향을 미치기 때문에 ROI를 표현하는 것이 어려웠습니다.​예를 들어, genAI를 사용하여 코드 생성을 자동화하면 소프트웨어 개발자의 생산성이 향상되어 생산성 향상과 혁신을 위한 추가 시간을 확보할 수 있습니다. 이는 결국 새로운 기능의 출시 기간을 단축하고 고객 만족도를 높일 수 있습니다.​[ 실험과 명확한 가이드라인으로 제너레이티브 AI에 대비하세요 ]라고 말합니다.하지만 이러한 무형의 가치를 어떻게 설정할까요?​​살람은 궁극적으로 숙련도가 낮은 개발자를 활용할 맞춤형 단축 도메인 수 있으므로 비용이 절감되고 같은 수의 개발자로 더 많은 작업을 처리할 수 있습니다.라고 말합니다. 이러한 이점은 궁극적으로 수익 창출 시기를 앞당기고 고객과 개발자의 이탈을 줄이며 고객 지출을 늘릴 수 있습니다.​하지만 (인원 감축 없이) 비용 절감으로 직결되는 것은 아닙니다.​컨설팅 회사 McKinsey &ampCo.의 8월 보고서에 따르면 지난해는 엔터프라이즈 AI 도입의 해로, 55%의 조직이 워크플로우에 genAI를 실험한 것으로 나타났습니다. 그러나 당시 조사에 참여한 기업 중 3분의 1 미만이 두 가지 이상의 기능에 AI를 사용하고 있다고 답해 AI 사용 범위가 여전히 제한적임을 시사했습니다.&quot​그러나 올해는 프로젝트가 경험과 숙련도가 임계치에 도달함에 따라 AI 배포가 빠르게 증가할 것으로 예상됩니다.​먼저, 몇 가지 나쁜 소식​가트너에 따르면 2025년에는 비용이 가치를 초과함에 따라 기업 배포의 90%가 느려질 것이며, 그 중 30%는 데이터 품질 저하, 부적절한 리스크 관리, 비용 증가, 불분명한 비즈니스 가치로 인해 개념 증명(POC) 후 포기할 것이라고 합니다.​Gartner 연구에 따르면 2028년까지 대규모 언어 모델(LLM)을 처음부터 구축한 기업의 50% 이상이 비용, 복잡성 및 기술 부채로 인해 구축 작업을 포기할 것으로 예상됩니다.​전문 서비스 회사인 프라이스워터하우스쿠퍼스(PwC)의 데이터 및 AI 리더인 브렛 그린스타인은 ROI를 측정하는 것은 어려운 일이라고 말합니다. 하지만 기능이나 프로세스를 수행하기 위해 LLM을 적용하면 비용, 정확도, 속도 등의 성능을 이전 프로세스와 비교하기가 더 쉬워집니다.​간단히 말해서 ROI는 비용 대비 투자 이익 또는 손실의 재무 맞춤형 단축 도메인 비율이므로, 기업이 genAI에 투자할 때는 그 지출의 이점이 비용보다 더 커야 합니다.​그린스타인은 [genAI]가 새로운 수준의 성능을 일관되게 달성하면 적절한 거버넌스와 운영 프로세스를 통해 프로덕션에 배포하고 사용량을 추적해야 합니다.라고 말합니다. 6시간이 걸리는 프로세스에서 2시간을 절약하는 사용 사례가 있고 그 사용량을 추적하면 절감액을 집계할 수 있습니다.​이제, 좋은 소식​822명의 비즈니스 리더를 대상으로 실시한 Gartner 2024 계획 설문조사에 따르면 genAI 도구를 구현 중이거나 도입할 계획인 비즈니스 경영진의 대다수가 의사 결정에 따른 이점을 기대하거나 이미 실현한 것으로 나타났습니다. 설문조사 응답자들은 평균적으로 다음과 같이 보고했습니다:​15.8% 매출 증가15.2% 비용 절감, 4.6% 인력 감축을 통한 비용 절감22.6% 생산성 향상ChatGPT는 또한 작업자의 생산성을 37% 향상시키는 것으로 나타났습니다. ​GenAI 코딩 어시스턴트는 작업자 생산성을 7%~55% 향상시킬 수 있습니다.GenAI 대화형 어시스턴트(챗봇)는 고객 서비스 및 지원 상담원의 생산성을 향상시킬 수 있습니다. (연구에 따르면 개선 범위는 14%에서 35% 사이입니다.)​PwC의 2023 신흥 기술 설문조사에 따르면 미국 기업의 73%가 이미 비즈니스의 일부 영역에 AI를 도입했으며, 그 선두에는 genAI가 있습니다. 리서치 기관 IDC에 따르면 2027년까지 지출 규모는 1,511억 달러에 달할 것으로 예상되며, 이는 2023~27년 동안 85.9%의 연평균 성장률을 나타냅니다.​경영 컨설팅 회사 McKinsey &ampCo에 따르면, genAI와 관련된 63개의 사용 사례를 분석한 결과, 전 세계적으로 연간 2조 6천억 달러에서 4조 4천억 달러에 해당하는 가치를 추가할 수 있는 것으로 나타나 생산성에 맞춤형 단축 도메인 미치는 genAI의 영향에 대해서는 거의 논쟁의 여지가 없습니다.​이 가치의 약 75%는 다음 네 가지 영역에 속합니다:​고객 운영마케팅 및 영업소프트웨어 엔지니어링R&D.​맥킨지는 16개 비즈니스 기능에 걸쳐 genAI 도구가 하나 이상의 측정 가능한 성과를 창출하는 방식으로 특정 비즈니스 과제를 해결할 수 있는 사례를 사용했습니다. 고객과의 상호작용 지원(챗봇), 마케팅 및 영업을 위한 창의적인 콘텐츠 생성, 자연어 프롬프트에 기반한 컴퓨터 코드 초안 작성 등이 그 예입니다.​맥킨지에 따르면 은행, 하이테크, 생명과학 분야는 매출 대비 genAI의 영향력이 가장 클 것으로 예상되는 산업 중 하나입니다.​예를 들어, 은행 업계에서는 사용 사례가 완전히 구현될 경우 이 기술이 연간 2,000억 달러에서 3,400억 달러에 달하는 부가가치를 창출할 수 있을 것으로 예상됩니다. 소매 및 소비재 업계에서는 잠재적 가치가 연간 4,000억 달러에서 6,600억 달러에 달할 수 있습니다.12-18개월 동안의 Gartner 생산성 변화Gartner에 따르면 GenAI는 디지털 트랜스포메이션 노력에도 더 광범위하게 유용할 수 있습니다. 예를 들어, 비정형 데이터를 이해하는 능력은 클라우드와 결합하면 거의 모든 데이터 관련 혁신 이니셔티브를 가속화할 수 있습니다. 또한 기업이 여러 단계를 뛰어넘는 데 도움이 될 수 있습니다.​예를 들어, 재무, 세무, 법무, IT 규정 준수 및 기타 부서에서 이전에는 처리할 수 없었던 복잡한 작업을 처리할 수 있습니다. 예를 들어, 기업이 새로운 필러 II 세금 보고 요건을 보다 효율적으로 충족하는 데 도움이 될 수 있습니다. 더 맞춤형 단축 도메인 일반적으로는 일반적인 엔터프라이즈 애플리케이션을 업그레이드할 필요가 없어질 수도 있습니다. 대신 애플리케이션을 클라우드로 이전하여 맞춤형 genAI 모듈을 통해 변화하는 비즈니스 요구 사항을 충족하도록 지속적으로 발전시킬 수 있습니다.​가트너의 살람에 따르면 대부분의 개선 사항은 생산성, 주기 시간, 고객 경험, 브랜드, 품질, 경험이 부족한 직원의 빠른 업스킬링 등 미래의 재무 가치 또는 간접적 가치를 나타내는 주요 지표에 반영될 것입니다.​이러한 이점이 즉각적인 인력 감축 및 기타 비용 절감으로 이어지지 않는 한, 생성된 가치를 어떻게 사용하느냐에 따라 시간이 지남에 따라 재정적 이점이 발생합니다.라고 그녀는 말합니다.​즉, genAI를 통해 조직은 수요가 증가하더라도 더 적은 인력으로 더 많은 일을 할 수 있고, 더 적은 수의 고령 인력을 사용하고, 서비스 제공업체의 필요성을 줄이고, 고객 및 직원 가치를 개선하여 고객 유지율을 높일 수 있어야 합니다.​따라서 특정 업무와 특정 프로세스와 관련된 전체 업무에서 특정 기간 내에 절약된 시간을 측정하고 가치를 평가해야 합니다.라고 Sallam은 말합니다. 생산성 향상만으로는 시간이 지남에 따라 차별화의 원천이 줄어들 수 있지만 이러한 기능을 다른 비즈니스 프로세스에 통합하면 기업이 경쟁 우위를 유지하는 데 도움이 될 수 있습니다.​가트너에 따르면 생산성 향상은 얼리 어답터들이 보고한 가장 큰 초기 혜택입니다. 그러나 이러한 즉각적인 이득은 시간이 지남에 따라 줄어들기 때문에 기업은 보다 효율적인 비즈니스 프로세스가 장기적으로 비용을 절감하기 때문에 인내심을 가져야 합니다.​빠른 성과와 적은 투자 맞춤형 단축 도메인 비용​Gartner에 따르면, genAI에 대한 새로운 투자의 가치를 계산하려면 먼저 조직이 다양한 활동에서 잠재적인 비용과 가치를 시뮬레이션하여 비즈니스 사례를 구축해야 합니다. 즉, 다음과 같은 목표를 달성해야 합니다:​빠른 성과사용 사례 차별화혁신적 이니셔티브​GenAI의 빠른 성과는 잠재적인 생산성 향상에 초점을 맞추며, 오늘날에는 일반적으로 Microsoft 365 Copilot 및 Google Workspace와 같은 어시스턴트를 통해 이루어집니다. 이러한 종류의 활동은 시작하고 사용해보고 구매하기 쉽지만 일반적으로 업무에 따라 다릅니다. 가치를 인식하는 데 걸리는 시간은 일반적으로 1년 미만입니다.​가트너 AI 사용 사례Gartner엔터프라이즈, 도메인, 산업 애플리케이션 또는 맞춤형 애플리케이션에서 genAI를 활용하는 차별화된 사용 사례를 통해 조직은 특정 비즈니스 프로세스를 개선하여 경쟁 우위를 확보할 수 있습니다. 또한 이러한 사용 사례는 경쟁 우위를 위해 고유한 방식으로 엔터프라이즈 데이터를 활용할 수 있지만, 예측할 수 없는 높은 비용과 규모에 따른 위험을 수반한다고 Gartner는 말합니다.​혁신적 사용 사례는 완전히 새로운 시장 카테고리를 창출하고 기존 시장을 파괴할 수 있는 새로운 제품 및 서비스입니다. 또한 기존 제품에 이러한 기능을 추가하여 고객을 유지하는 역할도 합니다(기본적으로 새로운 도메인 및 산업별 genAI 애플리케이션을 생성).​예를 들어, 보험 회사는 자체 정책 문서로 대규모 언어 모델을 미세 조정하여 특정 사용 사례에서 성능을 개선할 수 있습니다. 또는 금융 서비스 조직에서 금융 데이터로 학습된 LLM을 생성하여 다양한 금융 서비스 사용 사례에 사용할 수 있습니다.​대체로 기업은 더 나은 사용자 경험, 맞춤형 단축 도메인 이전에는 더 높은 기술이 필요했던 기능에 대한 폭넓은 접근성, 직원 및 고객 만족도 등 재무적 혜택과 전략적 결과를 모두 포착하는 지표를 파악해야 합니다. 그래야만 기업이 미치는 영향을 현실적으로 평가할 수 있습니다.​카네기 멜론 대학교의 테퍼 경영대학원의 비즈니스 기술 교수인 파람 비르 싱은 적어도 현재로서는 조직이 재무적 수익률에만 ROI의 척도로 삼아서는 안 된다고 말합니다.​몇 년 후에는 조직이 재무적 수익에 대한 더 나은 개념을 갖게 될 것입니다.라고 Singh은 말합니다. 오늘날 고객 만족은 매우 중요한 영역입니다. 과거에는 고객 만족이 곧 수익성과 연결되었죠. 하지만 지금은 genAI가 고객 만족도를 얼마나 개선하고 있는지 파악하고 이를 바탕으로 수익성을 계산할 수 있어야 합니다.​일부 조직에서 저지르는 또 다른 실수는 개별 프로젝트별로 보지 않고 모든 기업 이니셔티브에서 genAI의 ROI를 보는 것입니다. 후자는 어떤 이니셔티브가 효과가 있고 어떤 이니셔티브가 효과가 없는지를 강조할 수 있습니다.​예를 들어 직원들이 특정 활동을 수행하기 위해 Copilot에 액세스하는 등 특정 장소에 AI를 배포하면 생산성 향상을 측정하기가 더 쉬워집니다.라고 Singh은 말합니다.​AI를 통해 ROI와 혁신적 가치를 모두 확보하기 위해 반드시 필요한 것은 직원 교육을 실시하는 것입니다. 직원들이 AI를 책임감 있고 효과적으로 사용하려면 기술, 보호 장치, 인센티브가 필요합니다. 직원들이 genAI 도구의 가치를 이해하지 못하면 이를 사용할 가능성이 낮아집니다.​GitHub의 교훈​GitHub의 최고 운영 책임자, Kyle Daigle,GitHub는 약 2년 반 전, 즉 Copilot이 공개되기 훨씬 맞춤형 단축 도메인 전에 GitHub Copilot을 출시했으며, 이를 통해 개발자의 생산성을 55% 향상시켰습니다.​처음에 GitHub는 코드 문서화를 위해 Copilot을 사용할 것이라고 생각했습니다. 하지만 시간이 지나면서 이 회사는 실제로 코드의 상당 부분을 자동화하여 일상적인 작업을 완화할 수 있다는 사실을 알게 되었습니다.​매일 백만 명이 넘는 사용자가 Copilot을 사용하고 있습니다.라고 다이글은 말합니다. 통계에 따르면 생산성이 약 55% 향상되었습니다. 코드의 약 60%를 작성하고 있습니다. 시간이 지나면 이 수치는 80%까지 올라갈 것으로 예상합니다. 가장 중요한 것은 개발자들이 더 성취감을 느끼고 힘든 일이 아닌 창의적인 일에 집중할 수 있게 되었다는 점입니다.​초기 코파일럿 실험에서 GitHub는 주로 Python, Java 스크립트, Ruby로 작성하는 것을 지원했습니다. 시간이 지나면서 genAI 기술이 독점 언어뿐만 아니라 공개적으로 사용 가능한 언어의 코드 작성도 지원할 수 있다는 사실을 발견했다고 다이글은 말합니다.​그래서 몇 가지 테스트 언어에서 거의 모든 최신 프로그래밍 언어를 지원하게 되었습니다.라고 그는 말합니다.​어떤 경우에는 Copilot이 코드 한 줄을 완성하기도 하고, 어떤 경우에는 전체 메서드나 파일을 완성하기도 한다고 그는 말합니다. 또한 Copilot의 채팅 기능을 통해 개발자는 AI와 대화하고 문제를 설명하면 AI가 전체 파일을 생성하여 개발자의 요구에 맞도록 조정할 수 있습니다.​다이글에 따르면 Copilot에서 생성된 코드의 대부분은 개발자가 보관합니다. 코드를 개발한 후에는 처음부터 코드가 더 정확해지는 경향이 있기 때문에 지속적인 혁신과 풀 리퀘스트 제출 프로세스도 더 쉬워집니다.​따라서 Copi를 사용할 수 있게 되면 맞춤형 단축 도메인 다운스트림에도 많은 영향을 미칩니다.​​