생성형 AI를 기업에 품는 방법 | 긴 호흡으로 차근차근

 

인력 대체가 아닌 증강의 관점으로 생성형 AI를 활용해야 한다. 그러면 이 기술의 혜택을 누릴 가능성이 높아진다.

 

미드저니(Midjourney), 챗GPT, 빙 AI 챗과 그 외 생성형 AI에 액세스할 수 있는 기타 도구들이 수많은 아이디어와 실험으로 이어지고 있다. 소속 직장에서 이를 활용하기까지는 넘어야 할 문턱이 높다.

 

AI를 어디에서부터 시작할 것인지, 그리고 윤리적 딜레마, 저작권 침해 또는 사실적 오류 문제없이 AI를 이용할 것인가 등이다. 기업 내에서 AI를 시작하기에 좋은 분야는 이미 해당 분야에서 전문가인 사람들을 돕도록 하는 것이다.

 

이 외에도 생성형 AI를 빠르게 사용할 수 있는 다양한 분야가 있다. 기업용 여러 도구와 플랫폼에 통합되고 있기도 하다. 이러한 도구를 실험하고 채택하는 방법에 대한 가이드라인이 지금 당장 필요하다는 의미다. 생성형 AI를 고려해 볼 만한 5가지 주요 영역을 살펴보고, 기타 다른 활용 시나리오를 찾는 방법에 대해 알아본다.

1. 개발자 생산성 노하우 향상

코딩은 종종 예술과 과학 사이의 어딘가로 간주된다. 그럼에도 불구하고 프로그래밍에는 일상적이고 반복적인 작업이 많다. 클라우드 플랫폼과 모듈 리포지토리의 등장은 애플리케이션 작성 작업이 변화했음을 의미한다. 마치 알고리즘 개발과 마찬가지로 구성 요소와 API를 결합하고, 기존 코드를 리팩토링하고, 환경을 최적화하고, 파이프라인을 조율하는 작업들이 중요해진 것이다.

 

이러한 작업의 대부분은 자동화 및 AI 지원에 적합하다. 그러나 영향과 효과를 모니터링하려면 이러한 도구를 어디에 어떻게 사용하고 있는지 알아야 한다. 본격적인 코딩 어시스턴트로 전환하기 전에 특정하고 일반적인 작업의 속도를 높여주는 일회용 도구부터 시작할 수 있다.

 

문서화는 매우 중요하지만 종종 간과되는 부분이기도 하다. 생성형 AI를 사용하여 코드베이스를 문서화할 수 있다. 뿐만 아니라, 문서에 채팅 인터페이스를 구축하여 개발자가 작동 방식을 묻고 사용할 수 있도록 하거나 일반적인 검색 상자를 대체할 수 있다. 이렇게 하면 일반 문서가 대화형 프로그래밍으로 전환됨에 따라 AI가 데이터를 가져와 쿼리 작성 방법 등을 보여줄 수 있게 된다.

 

테스트는 소홀히 다루기 쉬운 또 다른 영역이다. 자동화된 단위 테스트 생성은 훨씬 더 광범위한 테스트 범위를 확보하는 데 도움이 된다. 커밋 봇은 또한 개발자가 사용자와 다른 개발자에게 유용하기에 충분한 정보를 포함하는 메시지를 작성하는 데 도움을 줄 수 있으며, 생성형 AI는 업그레이드 및 시스템 재부팅 작업 등을 문서화하는 IT 직원에게도 도움이 될 수 있다.

 

또한 AI에게 원하는 것을 알려줌으로써 백엔드 로직 및 기타 상용구를 생성하여 개발자가 애플리케이션의 더 흥미롭고 창의적인 부분에 집중할 수 있도록 하는 것도 중요하다. 그리고 생성형 AI를 사용하여 자체 코드모드(대규모 코드 베이스에서 반복적이고 시간 소모적인 작업을 자동화하는 스크립트)를 작성하거나, 기업이 원하는 스타일에 더 잘 맞도록 기여 음성과 톤을 수정하는 데 도움을 요청할 수 있다.

 

깃허브 코파일럿(GitHub Copilot)과 대규모 언어 모델(LLM)로 빌드 되는 IDE와 같은 코딩 어시스턴트는 이 모든 작업을 수행할 수 있다. 그러나 개발자를 대체해서는 안 된다. AI는 보안 취약점이나 성능 병목 현상, 누락, 잘못된 결정 또는 단순한 실수가 있을 수 있는 문제를 감지하지 못할 수 있다. 또 리포지토리의 학습을 기반으로 코드를 생성하기 때문에 개발자가 자신이 작성하지 않은 코드(및 그 코드가 동작하는 컨텍스트)를 이해하고 평가해야 한다.

 

이 밖에 기업에서 AI로 생성된 코드를 추적하여 감사하고 유용성을 평가하는 방법에 대한 고민이 요구된다. 개발자들은 깃허브 코파일럿(GitHub Copilot)을 사용할 때 생산성이 보다 더 향상되고 좌절감을 적게 느낀다고 보고했EK. 마이크로소프트는 코파일럿(Copilot) 사용자가 확인한 코드의 40%가 수정되지 않은 AI 생성 코드라고 말했다. 한편 현재는 개발자가 IDE 세션을 떠나면 해당 출처가 사라지므로 AI 도구 사용 방법을 기록하는 내부 지침을 마련할 필요가 있다.

2. 로우 코드 및 노코드 사용자 수준 향상

비즈니스 사용자는 AI 어시스턴트가 생성한 코드를 평가할 전문 지식이 없다. 그러나 로우 코드 및 노코드 환경은 각종 한계를 설정해두기에 생성형 AI 도구로 인한 문제가 발생할 가능성이 훨씬 적다.

 

로우 코드 앱이 데이터를 검색하고 필터링해야 하는 경우가 많다. 이미 여러 로우 코드 플랫폼은 이미 조회 쿼리를 생성하거나 반환되는 데이터(예를 들면 프로그래밍 방식으로 누락된 우편번호과 같은 것)를 정제할 수 있는 생성형 AI 기능이 추가되어 있기도 하다. 이러한 기능들은 데이터베이스 전문 지식이 없는 비즈니스 사용자도 미리 만들어진 컴포넌트에 얽매이지 않고 전문 개발자가 쿼리 문자열을 작성할 때까지 기다릴 필요 없이 더 많은 작업을 수행할 수 있게 해준다.

 

센서스GPT(Census GPT)와 같은 오픈소스 도구를 사용하면 대규모 공개 데이터 세트를 더 쉽게 쿼리할 수 있다.

 

코드 어시스턴트는 전문 개발자만을 위한 것이 아니다. Wix 인공 디자인 인텔리전스(Artificial Design Intelligence, ADI)는 코드 생성과 생성형 디자인을 혼합하여 전체 웹사이트를 구축할 수 있으며, 유이자드(Uizard)는 웹 사이트 및 앱 프로토 타입에 대해 동일한 작업을 수행한다. 프론티(Fronty)는 이미지를 HTML 및 CSS로 변환하고 마이크로소프트 파워앱스의 익스프레스(Express) 디자인은 손으로 그린 스케치 또는 피그마(Figma) 파일을 백엔드까지 갖춘 작업 앱으로 변환한다.

 

오늘날 로우 코드, 노코드 플랫폼 상당수는 이미 챗GPT 및 기타 오픈AI API를 사용할 수 있도록 하고 있다. 그러나 생성된 텍스트 또는 이미지에 수반되는 경고나 안내가 로우 코드 환경에서 올바르게 표시되는 지 확인해야 한다. 또 피드백을 제공하는 방법이 있는지, 그리고 직원이 먼저 검토하지 않고 고객에게 직접 제공할 수 있는지에 대한 회사의 정책을 직원이 알고 있는지 확인해야 한다.

3. 문서 및 데이터 이해

빙 챗 덕분에 수백만 명의 새로운 사용자가 마이크로소프트의 검색 엔진에 유입되었다. 하지만 LLM이 작동하는 방식은 기본적으로 문장과 단락을 자동 완성하여 쿼리 프롬프트와 일치하는 텍스트를 생성하는 것이며, 이는 오류와 ‘환각’이 발생할 수 있음을 의미한다. 또한 원하는 정보가 존재하지 않는 경우에도 모델은 그럴듯한 정보를 생성하려고 시도한다. 

 

제공된 정보가 정확하고 해당 분야의 대부분의 전문가가 말하는 것과 일치하더라도 응답이 불완전하고 부정확할 수 있으며, 전문가가 아닌 경우 무엇이 누락되었는지 모를 수도 있다.

 

이러한 문제는 엔터프라이즈 검색에서도 큰 문제가 될 수 있다. 곧 출시될 마이크로소프트 365 코파일럿(Microsoft 365 Copilot) 도구는 마이크로소프트 그래프(Microsoft Graph)를 활용해 조직 데이터에 근거를 두고 참조를 제시함으로써 문제를 해결하려 한다. 그러나 여전히 사용자가 직접 추가해야 하는 중요한 사항을 놓칠 수 있다.

 

현재로서는 LLM을 사용하여 문서를 요약하고 분석하고  전문가가 내부적으로 검토하는 제한된 시나리오에서 활용하는 방안이 안전하다. 이러한 정보를 직접 고객이나 다른 최종 사용자에게 제공하기 전에 내부에서 검토하는 것이 좋다.

 

프로젝트, 커뮤니티 또는 생태계를 잘 이해할 수 있도록 지식 그래프를 생성하여 서로 다른 개체 간의 연결과 관계를 시각화 할 수 있다. 참고로 엑셀(Excel)에 제공되는 코파일럿(Copilot) 도구는 기본 데이터를 변경하지 않는 샌드박스의 데이터로부터 인사이트을 얻고 질문할 수 있는 대화형 방법을 제공한다. 덕분에 실수가 있을 수 있지만 원래 정보를 오염시키지는 않는다. 향후 분석을 위한 원본 정보를 보호할 수 있다는 의미다.

 

데이터를 사용한 스토리텔링도 AI 기반 분석과 주요 트렌드를 확인하는 또 다른 효과적인 방법이다 이상 징후와 원인 요인을 찾은 다음 차트 및 자동 생성된 설명으로 설명할 수 있는 파워BI의 스마트 내러티브(Smart Narratives)가 좋은 사례다.

 

이렇게 하면 선형 회귀와 같은 AI 모델에 의해 인사이트가 도출된 다음 언어 모델에 의해 설명되므로 LLM과 관련된 문제를 피할 수 있다. 이러한 종류의 앙상블 접근법은 점점 더 보편화 될 전망이다.

 

마찬가지로 보안 도구 분야도 진화하고 있다. 언어 생성을 사용하여 AI가 감지한 위협과 이상 현상, 침해의 가능한 증거를 명확하고 적절한 언어로 설명해준다. 앞으로는 이러한 종류의 도구에 질문을 하고 권장 사항을 설명하도록 할 수 있을 것으로 예상된다.

 

또한 기존 챗봇이 키워드와 정형화된 답변에서 벗어나도록 할 수 있다. 더 자연스럽고, 최신 정보를 자동으로 포함하게 하는 것이다. 고객 만족도를 높이고 비용을 절감하기 위해 고객과 직접 대화하는 생성형 AI 챗봇을 사용하고 싶을 수 있지만, 이는 다소 위험한 시나리오이다.

 

고객이 챗봇으로부터 위험한 조언을 받거나 모욕을 당해서 뉴스 헤드 라인을 장식하고 싶지는 않을 것이다. 상담원 지원에 생성형 AI를 사용하면 위험을 줄이면서 생산성을 높일 수 있다.

4. 비즈니스 사용자의 워크플로우 속도를 높이기

무가치한 회의가 너무 많다. 마이크로소프트 팀즈 프리미엄(Microsoft Teams Premium), 다이나믹스 365 코파일럿(Dynamics 365 Copilot), 슬랙(Slack)용 챗GPT(ChatGPT) 앱 등의 AI 도구가 점점 더 유용해지고 있다. 회의 요약을 생성하고 참석자나 비참석자들에게 할당된 조치항목을 기록한다. 서기로 지정된 사람이 회의에 끼지 못하는 사태도 막을 수 있다. 물론 AI 요약, 조치항목, 일정정보가 정확한지 확인해야 할 것이다.

 

이 밖에 고객과의 통화를 요약하는 AI 도구는 직원을 감독 및 교육하는 데 도움이 될 수 있다. 하지만 직장 감시에 대한 우려를 피하기 위해 조심스럽게 활용되어야 한다.

 

사용자 피드백과 리뷰를 검토하는 작업은 기업에게 늘 필요하지만, 그 양 자체가 압도적일 수 있다. 생성형 AI가 응답을 분류, 요약, 범주화 하여 흡수하기 쉬운 총체적인 피드백을 제공할 수 있다. 장기적으로 리뷰 및 댓글 페이지를 스크롤하는 업무를 줄일 수 있다.

 

생성형 AI 도구는 긴 문서를 읽고 요약할 수 있으며 해당 정보를 사용하여 초안을 작성할 수 있다. 이미 계약서의 기간과 제공물을 추출하는 다큐가미(Docugami) 등의 도구가 존재하며, 국제 로펌 A&O(Allen & Overy)는 계약 분석 및 규제 준수에 도움이 될 수 있는 플랫폼을 시범 운용하고 있다.

 

마우스(MoUs), 계약서, 업무 명세서 등의 반구조화 문서를 생성 AI와 접목시키면 비즈니스 프로세스 속도를 높이고 일부 비즈니스 조건을 계획적으로 표준화하는 데 도움이 될 수 있다. 물론 많은 유연성과 감독이 필요할 것이다.

5. 카피라이터, 콘텐츠 마케터, 디자이너의 비서

브레인스토밍, 광고 문구 작성, 이미지 또는 디자인 생성과 같은 작업에 생성형 AI가 도움이 될 수 있다. 집필 프로세스 전체를 넘기라는 말이 아니다. 그저 창의적인 작업에 단초를 제공하는 것만으로도 큰 도움이 된다.

 

이미 오피스 365(Office 365) 및 구글 독스(Google Docs)에서 곧 생성형 AI를 이용해 문서, 이메일, 슬라이드쇼를 작성하는 기능을 지원할 예정이다. 거듭 말하지만 타인과 공유하기 전에 이것들의 정확성을 검토하는 방법에 대한 정책을 수립해야 한다. 제한적인 작업과 모니터링할 수 있는 내부 용도부터 시작해야 한다.

 

현재 생성형 AI는 세일즈포스(Salesforce), 조호(Zoho), 다이나믹스 365 같은 CRM에서 직접 고객에게 보내는 이메일, 감사 메시지, 물류 문제에 관한 경고에 무엇을 작성해야 할지 제안할 수 있다. 이러한 AI 생성 텍스트는 완벽하지 않을 수 있지만 채워야 할 빈칸이 많다면 없는 것보다 나을 가능성이 높다.

 

예를 들어, 쇼피파이 매직(Shopify Magic)은 기본 제품 상세정보를 취하여 온라인 스토어를 위한 일관된 SEO 맞춤 제품 설명을 작성해준다. 또한, 레딧(Reddit)과 링크드인(LinkedIn)은 애저 비전 서비스(Azure Vision Services)를 사용하여 회원들이 스스로 캡션 및 이미지 대체 텍스트를 추가하지 않는 경우 이것들을 생성한다.

 

훈련을 위한 대규모 비디오 라이브러리가 있는 경우 자동 생성 요약은 직원들이 시간을 활용하는 데 도움이 될 수도 있다. 텍스트로부터의 이미지 생성은 매우 강력할 수 있다. 새로운 마이크로소프트 디자이너(Microsoft Designer) 같은 앱은 포토샵(Photoshop)에서 스테이블 디퓨전(Stable Diffusion) 플러그인을 사용하기 위한 전문지식이 없을 수 있는 비즈니스 사용자에게 이미지 배포 모델을 제공한다.

 

하지만 AI 생성 이미지도 저작권 침해 및 사용자 불안 야기에 이르는 논란의 소지를 품고 있다. 기업은 위험을 피하기 위해 생성된 이미지를 사용하는 것에 대한 명확한 정책을 확보해야 한다.

자신만의 용도 찾기

즉 고객 지원과 소매부터 물류 및 법률 서비스까지 신뢰할 수 있는 정보 소스와의 조율된 상호작용을 원하는 곳이라면 어디에서나 생성형 AI를 활용할 수 있다. 이를 책임감 있게, 그리고 안전하게 활용하는 것이 관건이다.

 

결과물을 오류 및 거짓 정보를 찾아 교정할 수 있도록 해야 하며, 요약, 텍스트 생성 등과 같이 자연어를 처리하는 내부 사용 사례부터 시작하는 것이 바람직하다. 인간의 개입을 제거함으로써 시간과 돈을 절약하고 싶겠지만 생성된 것이 부정확하거나 무책임하거나 공격적인 경우 기업에 대한 피해가 상당할 수 있다.

 

많은 조직들이 신뢰할 수 없는 언어 모델로 데이터가 유출되는 것에 대해 우려하고 있다. 구글, 마이크로소프트, 오픈AI(OpenAI)는 이미 특정 기업이 사용하는 데이터와 프롬프트를 해당 기업의 모델을 훈련하는 데만 사용할 것이라는 데이터 사용 정책을 이미 공개했다. 하지만 직원이 범용 생성형 AI 도구에 회사의 기밀 정보를 넣는 상황을 감안해야 한다.

 

제공업체들은 사용자가 모델의 입력과 출력을 소유한다고 말하며, 이론적으로는 좋은 생각이다. 그러나 생성형 AI과 관련된 저작권 및 표절 우려는 몹시 복잡한 문제일 수 있다. 챗GPT의 답변이 표절은 아닐 수 있지만 다른 사람의 고유한 아이디어 또는 인사이트를 담고 있을 수 있다.

 

그럼에도 불구하고 조직들이 AI 역량을 개발하고 직원들이 생성형 AI의 결과물을 사용하고 평가하는 데 익숙해지도록 하는 것이 중요하다. 중요하지 않은 사소한 영역부터 시작하여 조직 전체의 AI 역량이 고도화되도록 해야 한다.

 

반응형

출처

‘긴 호흡으로 차근차근’ 생성형 AI를 기업에 품는 방법