기업 IT 리더가 준비해야 할 '생성형 AI' 작업 목록은 | 주요 IT 벤더 사례

자연어 챗봇은 엔터프라이즈 IT를 바꿔낼 잠재력을 가지고 있다. 일련의 주요 벤더가 시중에 공급하는 서비스 및 제품군을 정리했다.

마이크로소프트

오픈AI의 주요 투자자이자 기술 파트너인 마이크로소프트는 포트폴리오 전반에 걸쳐 챗GPT 기술을 임베딩(embedding)하고 있다. 특히 생성형 AI를 워드, 엑셀, 아웃룩 및 팀즈와 같은 오피스 생산성 앱에 통합하는 마이크로소프트 365 코파일럿(Microsoft 365 Copilot)을 선보였다.

 

또 비즈니스 챗(Business Chat)이라는 기능은 사용자의 일정, 이메일, 채팅, 문서 및 연락처 등을 자연어로 쿼리할 수 있는 하나의 지식 베이스(knowledge base)로 결합한다. 또한 마이크로소프트는 CRM 및 ERP에 생성형 AI를 제공하는 다이나믹스 365 코파일럿(Dynamics 365 Copilot)을 발표한 바 있다. 뿐만 아니라 빙(Bing) 검색 엔진에 챗GPT 기능을 탑재했다.

 

오픈 AI도 마이크로소프트의 코파일럿 브랜드를 사용한다. 깃허브(GitHub)와의 파트너십을 통해 12개 이상의 프로그래밍 언어를 말할 수 있는 코드 작성 챗봇인 깃허브 코파일럿(GitHub Copilot)이라는 상용 제품을 제공하고 있다.

구글

구글은 구글 생산성 제품군(지메일, 구글 문서 도구, 시트, 슬라이드 및 미트)에 생성형 AI(구글의 대형 언어 모델은 PalM이라고 지칭한다)를 탑재한 구글 워크스페이스를 위한 듀엣 AI(Duet AI for Google Workspace)를 선보였다. 또한 구글은 크롬 브라우저에 생성형 AI 기능을 장착하고 있다.

 

뿐만 아니라 기업 및 SaaS 벤더가 자체 애플리케이션을 구축하도록 하는 버텍스 AI(Vertex AI)라는 플랫폼을 갖추고 있다. 이 플랫폼은 기업이 구글의 기반 모델을 바탕으로 AI 기반 채팅 및 검색 애플리케이션을 구축할 수 있도록 하는 서비스로, 깃허브의 코파일럿에 상응한다.

시스코

시스코 또한 자체 생성형 AI를 구축해온 기업이다. 최근에는 AI 스타트업인 아머블록스(Armorblox) 인수 계획을 밝혔다. 시스코는 시큐리티 클라우드 서비스(Security Cloud service) 및 웹엑스(Webex) 협업 툴을 시작으로 포트폴리오 전반에 걸쳐 생성형 AI를 내장할 것임을 발표했다.

 

또한 시스코는 올해 말까지 생성형 AI 기반 정책 어시스턴트(AI-based policy assistant)가 네트워크 관리자와 상호작용해 정책 관리를 최적화할 수 있을 것이라고 언급했다. 보안 및 IT 관리자는 이를 활용해 방화벽 관리와 같은 작업을 위한 세부적인 보안 정책을 설명할 수 있을 전망이다. 또 어시스턴트는 보안 인프라 전반에 걸쳐 정책을 가장 잘 실행할 수 있는 방법을 평가할 수 있을 것이다.

주니퍼

주니퍼는 마비스(Marvis) 가상 네트워크 어시스턴트와 챗GPT를 통합하고 있다. 주니퍼가 미스트 시스템즈(Mist Systems)를 인수하며 얻은 AI 기술에 의해 구동되는 마비스는 네트워크 문제를 자연어로 감지 및 설명할 수 있다. 주니퍼는 챗GPT 기능 추가를 통해 마비스의 역할을 확대하는 한편 문서화 및 지원 옵션 강화를 통해 IT 관리자를 지원하고 있다.

온프레미스 생성형 AI 솔루션 제공을 위한 파트너십도 활발

델 테크놀로지스(Dell Technologies) 및 엔비디아는 기업이 온프레미스에서 생성형 AI 모델을 구축 및 관리할 수 있도록 지원하기 위해 프로젝트 헬릭스(Project Helix)라는 이니셔티브를 시작했다. 인프라 프로비저닝, 모델링, 교육, 미세 조정, 애플리케이션 개발 및 배포를 포함한 전반적인 생성형 AI 라이프사이클을 지원하는 게 목표다.

 

델은 파워엣지(PowerEdge) 서버를 제공하고, 엔비디아는 GPU, 니모(NeMo) 대형 언어 모델 프레임워크 및 안전한 챗봇 구축을 위한 니모 가드레일 소프트웨어를 포함하는 네트워킹 및 소프트웨어 제품군을 제공할 예정이다.

 

또한 생성형 AI 벤더 생태계가 성장함에 따라, 엔비디아 및 서비스나우가 최근 발표한 것과 같은 특정 비즈니스 프로세스 및 워크플로우를 위한 협업이 속속 등장할 것으로 전망되고 있다. 서비스나우에 따르면, 이러한 협업의 첫 번째 결과가 목표로 하는 것은 문제 티켓 요약(trouble-ticket summarization), 자동 라우팅 및 자동 해결, 인시던트 심각도 예측, 의도 감지, 의미 검색 및 근본 원인 분석 등 엔터프라이즈 IT 부서를 위한 생성형 AI 애플리케이션 구축이다.

 

또한 SaaS 스타트업뿐만 아니라 하이퍼스케일러가 업종별(vertical-specific) 생성형 AI 애플리케이션을 제공할 것으로 기대할 수 있다. 예를 들어, 구글은 의료 영상을 위한 생성형 AI 기반 도구 제품군을 출시했다. 또한 가트너는 “2년 후에는 생성형 AI를 활용해 신약 및 소재의 30% 이상이 체계적으로 발견될 것이며, 이는 현재의 0에서 상승한 수치다”라고 예측했다.

 

맥킨지는 “CEO들은 생성형 AI의 탐구를 선택 사항이 아닌 필수 사항으로 고려해야 한다. 생성형 AI는 광범위한 사용 사례에서 가치를 창출할 수 있다. 시작을 위한 경제적 및 기술적 요구사항은 엄청난 비용을 초래하지 않는 반면, 무대응으로 인한 단점은 경쟁업체에 빠르게 뒤처질 수 있다는 것이다”라고 밝혔다.

기업 IT 리더가 준비해야 할 작업 목록

정책 설정

“직원들은 이미 생성형 AI를 실험적으로 혹은 업무 관련 지원을 위해 사용하고 있을 가능성이 높다”라고 가트너는 지적했다. ‘셰도우’ 사용을 방지하기 위해서는 전면적 금지가 아닌 사용 정책을 수립할 것을 가트너는 권고하고 있다. 이러한 정책을 통해 개인 식별 가능 정보, 민감 정보 혹은 지적 재산을 입력하지 않도록 해야 한다.

 

또한 회사는 모니터링 도구를 마련해야 한다. 벤더 커뮤니티는 이미 이러한 조치를 강화하고 있으며, Z스케일러(Zscaler), 엑스트라홉(ExtraHop), 및 레이어X(LayerX)와 같은 회사가 직원의 챗GPT 사용을 모니터링 및 제어할 수 있는 방법을 제공하고 있다.

가드레일 설정

포레스터의 마이크 구알티에리 애널리스트는 개발자들이 생성형 AI를 실험할 수 있도록 하는 정책을 설정해야 하며, 특히 코드가 보안 스캐닝 도구를 거치도록 요구하고 사람이 이를 재검토하는 등 가드레일을 구축해야 한다고 지적했다. 구알티에리는 “문제가 생길 경우, GPT에게 책임을 돌릴 수 없다. 사용자에게 책임이 있다”라고 설명했다.

교육 및 훈련

챗GPT는 기대를 유발했으나 동시에 기계가 인간을 대체할 수 있다는 감정적 우려도 촉발시켰다. 아울러 이러한 시스템으로 인한 사이버 보안 공격과 같은 현실적 우려와 관련된 두려움을 야기했다.

 

기업 IT 리더의 경우, 회사 전체의 직원들에게 생성형 AI가 삶을 더 쉽게 만들 수 있는 가능성에 대해 교육하는 게 중요하다. IT 직원을 위한 훈련 프로그램을 시작하는 것 또한 중요하다.

보안 강화

맥길리커디는 “악의적인 행위자들이 향후 약 1년 동안 생성형 AI를 가장 많이 사용하는 집단이 될 것이다”라고 예측했다. 우려스러운 점은 생성형 AI가 신빙성 있는 피싱 이메일을 작성하고 해커의 딥페이크 생성을 도울 수 있다는 것이다. 기업 보안 리더는 안티피싱(anti-phishing) 방어 및 데이터 유출 방지와 같은 보안 도구에 대한 역량 수준을 더욱 높여야 한다.

 

교차 기능 팀 만들기 : IT는 비즈니스 지원을 위해 존재하므로 IT 리더는 생성형 AI의 혜택을 받을 수 있는 비즈니스 프로세스를 식별 및 우선순위화 할 수 있는 교차 기능 팀을 만들어야 한다.

장기 전략 개발

기업 IT 리더는 몇 가지 근본적인 질문에 답하는 전사적 생성형 AI 전략을 개발해야 한다. 비용 절감에 어떤 도움을 줄 수 있을까? 직원 생산성은 어떻게 향상시킬 수 있을까? 새로운 비즈니스 기회는 어떻게 창출할 수 있을까? 이를 확보할 수 있는 가장 좋은 방법은 무엇일까? 함정을 피할 수 있도록 구현하는 방법은 무엇일까?

 

반응형

SMALL

출처

주요 IT 벤더의 생성형 AI 솔루션 살펴보기