AI 에이전트란 무엇인가요?

인공지능 에이전트는 인공지능이 매력적이면서도 어려운 기술이라고 생각하는 이들을 위한 좋은 솔루션입니다. 기업들은 대규모 언어 모델(LLM)에 수십억 달러를 투자했습니다. 그리고 이제 LLM은 AI 에이전트의 두뇌와 같은 역할을 수행하며 실제 업무에 투입되고 있습니다. 기업의 인사 정책을 이해하고 직원들과 그에 대한 세부 사항을 논의할 수 있는 챗봇을 상상할 수 있나요? 자율적으로 작동해 불량 거래를 차단하는 사기 탐지 시스템은 어떨까요? 사용자가 부여한 목표를 달성하기 위한 작업을 자율적으로 수행할 수 있는 AI는 어떨까요?

AI 에이전트는 이와 같은 사용 사례들을 현실로 만들어 주는 기술입니다.

에이전트에게 알고리즘, 센서 입력, 데이터 소스, 심지어 다른 에이전트에 대한 액세스 권한 등의 도구를 제공해 에이전트 스스로 복잡한 작업을 수행하도록 만들 수도 있습니다. 다양한 센서, 카메라, 스캐너의 정보를 제어 소프트웨어 및 ERP 재고 관리 시스템과 결합해 탄생한, 창고 안의 통로를 누비며 재고를 확인하는 창고 관리 로봇을 상상해 보세요.

'에이전트 AI'라고 불리는 이 기술은 AI를 간단히 사용 가능하면서도 훨씬 더 유용하게 만듦으로써 모든 기업을 위한 흥미로운 기회를 제공하고 있습니다.

AI란 무엇인가요?

AI, 또는 인공지능은 인간의 지능을 시뮬레이션하도록 훈련된 컴퓨팅 시스템을 의미하는 표현입니다. 대부분의 AI 시스템은 학습이 가능하도록 프로그래밍되어 있으며, 개중 일부는 경험과 새로운 데이터를 기반으로 성능을 개선하고, 다양한 입력을 바탕으로 문제를 해결하고, 체계적인 방식으로 목표 및 목적을 달성할 수 있습니다. 최근 발전 중인 생성형 AI 시스템은 목표를 달성하기 위해 독립적으로 의사 결정을 내리고 행동할 수 있습니다. 생성형 AI는 자율 주행 자동차, 미디어 추천 엔진, DALL-E 및 Midjourney와 같은 프롬프트 기반 이미지 생성 도구 등 다양한 애플리케이션에 사용됩니다.

엔터프라이즈 AI는 기업의 독점 데이터로 증강된 시스템을 활용해 생성형 AI 및 관련 기술을 비즈니스 워크로드에 적용하기 위한 지속적인 작업을 의미합니다. 고객 서비스, 개인화된 마케팅, HR 및 재무 어시스턴트 등이 그 좋은 예입니다.

AI 에이전트란 무엇인가요?

AI 에이전트는 작업을 할당받고, 환경을 조사하고, 역할에 따라 규정된 조치를 취하고, 경험을 기반으로 행동을 조정할 수 있는 소프트웨어 엔티티입니다.

이용자는 에이전트의 역할 및 기업의 필요에 따라 AI 에이전트에게 목표를 부여합니다. 목표가 정해지면 에이전트는 과거의 훈련 내역, 에이전트가 내장된 애플리케이션, 보다 광범위한 운영 환경 등을 기반으로 계획을 수립하고, 작업을 수행하고, 목표를 달성할 수 있습니다. 에이전트는 자체적으로 학습하고 작업을 반복하며 특정한 역할을 수행하고, 데이터 소스에 연결하고, 의사 결정을 내릴 수 있습니다. 전문화된 업무를 수행하는 고급 에이전트는 판단이 요구되는 다단계 프로세스를 실행하고, 인간의 상호작용을 모방하는 방식으로 커뮤니케이션하고, 다른 에이전트와 자주 협력합니다. 에이전트는 모듈화를 통해 복잡한 워크플로에 활용할 수 있습니다. 에이전트에게 부여되는 자율성의 수준은 에이전트를 호출하는 사용자에 의해 결정됩니다. 인간 어시스턴트를 새로 고용할 때와 마찬가지로, 숙련도를 입증한 에이전트에는 더 많은 자율성을 부여할 수 있습니다.

에이전트는 자연어 처리, 머신러닝 기능, 다른 도구 및 시스템을 쿼리해 데이터를 수집하는 능력, 질문에 응답하고 작업을 수행하기 위한 지속적 학습 능력 등을 결합해 작업을 수행합니다. 고객 서비스 AI 에이전트는 그 좋은 예입니다. 고객이 주문한 물건과 관련해 "내 물건은 지금 어디에 있나요?"라는 질문을 입력하면 에이전트는 주문 처리 시스템을 확인하고, API를 통해 배송업체의 추적 시스템을 쿼리하고, 배송을 지연시킬 수 있는 잠재적 기상 요인 또는 기타 외부 요인에 대한 정보를 수집해 응답을 작성합니다.

에이전틱 AI(agentic AI)라는 용어는 단순한 작업을 수행하거나 쿼리에 응답하는 것에 그치는 것이 아니라 목표 및 목적을 적극적으로 추구하는 시스템을 지칭하는 표현입니다. 에이전틱 시스템은 자주 독자적으로 작업을 시작합니다. 배송업체에 배송 지연에 대해 문의하는 쿼리를 선제적으로 전송하는 고객 서비스 AI가 그 좋은 예입니다.

에이전트의 유용성을 강화하는 방법 중 하나는 대규모 언어 모델이 특정 기업 또는 에이전트의 역할에 부합하는 외부 데이터 소스를 사용할 수 있도록 지원하는 기술인 검색 증강 생성(RAG)을 통합하는 것입니다. RAG를 사용하면 에이전트가 외부 데이터베이스, ERP와 같은 기업 시스템, 문서 등으로부터 질문과 관련된 최신 정보를 검색해 응답에 반영할 수 있으므로, 사용자에게 보다 유익하고, 정확하고, 관련성이 높은 응답을 제공할 수 있습니다. 예를 들어 IT 지원 에이전트는 당면한 문제를 해결하기 위한 최선의 방법을 결정하는 과정에서 고객과의 과거 상호작용 내역을 고려할 수 있습니다. 결과적으로 에이전트는 고객에게 문제 해결에 유용한 문서 링크를 제공할 수도 있고, 지원 담당자의 개입이 필요하다고 판단한 경우 고객을 대신해 지원 요청을 작성할 수도 있습니다.

핵심 요점

• AI 에이전트는 능동적으로 계획을 수립합니다. 설정된 목표를 달성하는 데 필요한 단계가 무엇인지 파악한 뒤 행동합니다.
• 다른 AI 기술과 마찬가지로, AI 에이전트가 제공할 수 있는 이점은 훈련 내역, 가용 데이터, 사용자가 설정한 한계에 비례합니다.
• AI 에이전트를 제대로 사용하기 위해서는 명확하게 정의되고, 달성 가능하고, 측정 가능하고, 정량화할 수 있는 목표를 반드시 설정해야 합니다.
• 에이전트를 구현하는 단계는 다른 AI 배포와 유사하며 작업 매개변수를 명확하게 정의하는 것부터 시작됩니다.

AI 에이전트 알아보기

AI 에이전트는 환경을 인식하고, 조치를 취하고, 경험을 통해 학습할 수 있는 소프트웨어 엔티티입니다. 인간의 지시에 따라 자율적으로 작업을 수행할 수 있는 디지털 어시스턴트 또는 로봇이라고 생각하면 이해하기 쉬울 것입니다. AI 에이전트는 목표를 설정하고, 정보를 수집하고, 목표 달성 단계를 논리적으로 계획하는 능력과 같은 고유한 특성들을 지니고 있습니다. AI 에이전트는 쿼리의 의도를 이해하는 인텔리전스를 제공하는 LLM을 활용하므로 키워드, 스크립트, 사전 구성된 시맨틱 등은 필요하지 않습니다. 그 대신 과거 작업에서 보관된 데이터를 채팅 기반 프롬프트와 결합해 동적으로 해결책을 찾아냅니다.

또한 AI 에이전트는 시행착오를 통해 학습합니다. 강화 학습은 AI 모델이 긍정적, 중립적, 부정적 응답을 기반으로 의사 결정 과정을 개선하는 방식입니다. AI 에이전트는 인간의 독창성을 모방하고, 클라우드 기반 애플리케이션 및 엔터프라이즈 애플리케이션, 데이터 소스, API, 다른 에이전트 등의 도구를 사용해 목표를 달성할 수 있습니다. 또한 복잡한 데이터를 분석하기 위한 추가적인 AI 및 머신러닝 기반 시스템, 입력을 처리하기 위한 자연어 처리 도구, 상황에 부합하는 최신 콘텐츠를 제공하기 위한 RAG, 업무 수행에 필요한 컴퓨팅 리소스를 제공하는 클라우드 서비스 등을 사용할 수도 있습니다.

AI 에이전트의 작동 방식은 무엇인가요?

AI 에이전트는 앞서 언급한 것과 같은 기술 및 기법을 결합해 할당된 목표를 달성합니다. 예를 들어, 추천 에이전트는 머신러닝을 통해 대규모 데이터 세트로부터 패턴을 파악하고, 자연어 처리를 통해 사용자와 소통하며 요청을 이해하고, ERP 시스템, 데이터베이스, 사물인터넷 센서와 같은 엔터프라이즈 도구용 인터페이스 또는 인터넷을 비롯한 외부 데이터 소스를 통해 정보를 수집할 수 있습니다.

AI 에이전트는 목표 달성을 위해 계획을 수립합니다. 할당된 목표를 달성하는 데 필요한 작업과 단계를 식별할 수 있습니다. 예를 들어, 고객 서비스 에이전트가 배송 중인 특정 물품의 현재 위치를 파악하기 위해서는 일련의 작업을 수행해야 합니다. 먼저 배송 ID, 배송 방법, 접수 날짜 등 특정 주문에 대한 정보가 담긴 데이터베이스에 액세스합니다. 그리고 엑세스한 데이터를 바탕으로 웹 서비스 인터페이스를 통해 배송업체의 데이터베이스를 쿼리하여 실시간 물품 추적 및 예상 배송일 정보를 제공합니다. 또한 해당 에이전트는 물품의 현재 위치가 어디인지, 과거 사례에 의하면 다음 단계로 이동하는 데는 얼마나 걸렸었는지 확인할 수 있습니다. 만약 화물이 보스턴의 항공화물 터미널에 있고 미국 동부 해안으로 허리케인이 이동 중인 상황이라면, 에이전트는 배송 지연 가능성이 있음을 추론하고 고객에게 해당 정보를 전달할 수 있습니다.

AI 에이전트의 이점

다른 모든 AI 기술과 마찬가지로 AI 에이전트의 이점은 훈련 과정 및 기반 데이터의 품질과 비례합니다. 그러나 기존의 정적인 AI 기술과는 달리, AI 에이전트는 고품질의 결정을 내리기 위한 데이터가 충분하지 않을 경우 해당 사실을 인지하고 더 많거나 더 나은 데이터를 확보하기 위한 조치를 취할 수 있다는 차이점이 있습니다. 애플리케이션 내에 에이전트를 구성하는 것은 매우 고도화된 AI 활용 방식입니다. 기업은 AI 에이전트를 성공적으로 활용하기 위해서는 AI 전문가보다 자사의 비즈니스 프로세스를 잘 이해하는 인원 및 데이터 품질 전문가가 더 필요하다는 사실을 깨닫게 될 것입니다. 이러한 전문가는 에이전트의 목표를 정의하고, 매개변수를 설정하고, 비즈니스 목표가 달성되었는지 평가하는 데 도움을 줄 수 있으며, AI 자체가 오작동한다고 판단되는 경우에만 IT 부서나 소프트웨어 제공업체에 도움을 요청합니다.

AI 에이전트의 얼리 어답터들이 꼽은 구체적인 이점은 다음과 같습니다.

• 24시간, 연중무휴 가용성.. AI 에이전트는 다운타임 없이 지속적으로 운영할 수 있습니다. 또한 클라우드에서 제공되는 에이전트는 고객, 직원 및 기타 의도된 사용자가 위치한 모든 지점에서 작동 가능합니다.
• 정확도. AI 에이전트는 반복 작업을 수행할 때 인적 오류를 최소화할 수 있으며, 방대한 양의 데이터를 활용할 수 있으므로 보다 정확하고 충분한 정보에 기반한 의사 결정을 내릴 수 있습니다. 물론 이는 에이전트가 정확한, 최신의, 완전한 데이터 소스에 액세스할 수 있다는 전제하에 가능한 이야기입니다. 1세대 생성형 AI 도구와 달리 에이전트는 올바른 결정을 내리기 위한 정보가 부족한 상황임을 더 잘 인지하고, 필요한 경우 더 많은 데이터를 스스로 찾을 수 있습니다.
• 일관성. AI 에이전트는 규범적인 프로세스와 절차에 따라 매번 동일한 방식으로 작업을 수행하도록 설정할 수 있습니다. 또한 에이전트는 인간 직원의 피로, 다양한 직원 간의 프로세스 실행 방식 차이 등으로 인한 변수를 최소화할 수 있습니다.
• 비용 절감. AI 에이전트는 인간이 수행하던 반복 작업을 자동화해 운영 비용을 절감할 수 있을 뿐만 아니라, 프로세스 최적화 방법을 발견 및 제안하고, 기업에 불필요한 비용을 초래할 수 있는 오류를 감소시킵니다.
• 데이터 분석. AI 에이전트는 장기적 계획, 사기 탐지, 장비 고장 방지를 위한 예측 유지보수 등에 필요한 분석 활동을 위해 방대한 데이터 세트를 처리하고 해석할 수 있습니다. 에이전트가 어떤 이유로든 데이터를 분석할 수 없는 경우에는 다른 도구를 호출해 분석 작업을 수행합니다.
• 효율성. AI 에이전트는 작업 및 프로세스를 자동화해 인간 직원들이 보다 복잡하고 전략적인 활동에 집중할 수 있도록 지원합니다. AI 에이전트에게는 휴가도 필요하지 않습니다.
• 개인화. 기업은 에이전트가 생성한 AI 기반 마케팅 캠페인을 활용해 특정 고객 세그먼트를 효과적으로 타기팅함으로써 전환율을 높이고 마케팅 비용을 절감할 수 있습니다. 거시적인 관점에서 개인화는 많은 이점을 가져다줍니다. 소비자들은 자신의 구매 이력, 선호도, 개인 정보를 기억하고 활용하는 기업을 선호하기 때문입니다.
• 확장성. AI 에이전트 사용을 확장하는 데는 시간이 걸릴 수 있지만, 새로운 인력을 추가하는 것보다는 간단하고 저렴한 작업입니다. 에이전트에게 새로운 업무를 부여할 때마다 해당 업무의 수행 능력을 평가하며 신중한 속도로 역할을 확장해 나가야 합니다. 에이전트가 사용할 수 있는 데이터 및 기타 리소스가 새로운 목표를 달성하기에 충분한지 고려해야 합니다. 직원 교육도 잊지 마세요. 직원들은 자신이 사용할 에이전트를 최대한 활용하는 방법에 대한 교육을 받아야 합니다.

AI 에이전트 관련 도전 과제

AI 에이전트의 개발 및 운영 과정에는 모델의 복잡성, 대규모 컴퓨팅 인프라, 방대한 데이터의 큐레이션 및 업데이트 등으로 인한 다양한 도전 과제가 수반될 수 있습니다. 또한 에이전트가 인간과 효과적으로 상호 작용하고 예상치 못한 상황에 적응할 수 있는지 확인하기 위한 IT 인력의 감독이 필요하고, 비즈니스 및 데이터 전문가도 에이전트의 설정에 도움을 주어야 합니다. 기업은 자연어 처리 및 머신러닝 전문가들을 확보하고 다음과 같은 문제들이 발생하지 않도록 주의를 기울여야 합니다.

• 적응력. 에이전트는 시간 경과에 비례해 지속적으로 학습하며 개선하도록 설계되어 있지만, 환경이 급변하거나 예상치 못한 요청 또는 결과를 마주했을 경우 그와 관련된 도전 과제를 해결하며 나아가야만 합니다. AI 훈련 과정에서 자주 발생하는 도전 과제는 모델이 훈련용 데이터에 너무 익숙해져 새로운 데이터를 활용하기 어려워지는 과적합 문제입니다. 이는 에이전트의 활용 범위를 제한합니다. 뇌 수술 전문의에게 배관 공사를 부탁하는 것이 효율적이지 않다는 당연한 진리는 에이전트를 사용할 때도 적용됩니다.
• 복잡성. 특정 업무에 집중하는 인공지능 에이전트는 비교적 사용하기 쉽지만, 할당된 업무가 점점 더 정교해지고 다양한 기능을 요구하게 될수록 에이전트의 설계, 구현, 유지 관리가 어려워질 수 있습니다. 무언가를 새롭게 시도할 경우 으레 그러하듯이 에이전트 도입은 작은 단계부터 점진적으로 진행하는 것이 가장 좋습니다.
• 데이터 의존도. 다른 모든 AI와 마찬가지로 에이전트 또한 우수한 성능을 발휘하기 위해서는 고품질의 데이터가 필요합니다. 인적 자원 관리 또는 ERP 등의 다른 시스템과 통합된 AI 에이전트의 경우 시스템에서 자체적으로 고품질 데이터를 축적하므로 상황이 나은 편이지만, 상호 작용 및 데이터 교환 처리 방식을 조정해야 할 수는 있습니다. 기업은 에이전트가 활용하는 데이터 소스의 정확성, 시의적절성, 사용 가능성을 확인해야 합니다.
• 해석 가능성. 1세대 생성형 AI 시스템은 '블랙박스'처럼 작동했으므로 결과물을 도출한 과정을 해석하기 어려웠습니다. 반면 에이전트는 의사 결정이 어떻게 이루어졌고 어떤 데이터를 반영했는지 더 잘 설명하도록 설계되었습니다. 간단한 작업부터 에이전트를 적용해 기본적인 사항을 숙달한 뒤 더 복잡한 작업에도 적용하는 과정을 거치면 비즈니스 전문가가 에이전트의 업무 수행 방식을 이해하는 데 도움을 줄 수 있습니다. 나아가 잘못된 결과를 도출한 에이전트는 비즈니스 전문가가 수정한 내용을 통해 학습할 수 있습니다. 이러한 상호 작용은 에이전트의 업무 수행 방식을 더 깊이 이해하는 데 기여합니다.
• 리소스 집약적 운영. 다른 AI와 마찬가지로 에이전트는 상당한 규모의 컴퓨팅 파워 및 스토리지를 요구합니다. 에이전트가 클라우드에서 제공되는 애플리케이션에 포함되어 있는 경우 시스템을 적절하게 리소스화하고 적절한 성능을 제공하는 것은 클라우드 제공업체의 몫입니다. 온프레미스 애플리케이션의 경우 기업의 IT 부서가 운영에 필요한 리소스를 직접 확보해야 합니다.
• 보안 위험. 에이전트는 비즈니스 전문가가 필요로 하는 서비스를 제공하기 위해 기업의 기밀 정보에 액세스해야 합니다. 또한 에이전트는 활용 과정에서 다양한 정보를, 적어도 트랜잭션의 결과를 기억하므로 에이전트가 민감한 데이터에 필요 이상으로 액세스하지 않도록 확실히 해야 합니다. 대부분의 에이전트는 비즈니스 애플리케이션 내에서 제공되므로 에이전트가 독점 데이터를 유출하지 않도록 설정하고 유지하는 것이 중요합니다. 에이전트는 악의적인 공격자에게는 새로운 공격 경로이고, 데이터 손실 가능성을 지속적으로 평가해야 하는 기업 보안팀에게는 새로운 도구 모음입니다.

AI 에이전트의 구성 요소

AI 에이전트는 다양한 입력에 따라 작업을 수행하며, 그 구성 요소들의 구체적인 조합은 그 유형 및 사용 사례에 따라 달라집니다. 고객 지원 에이전트는 고객과 대화하고, 구매 및 지원 이력을 상담하고, 고객 지원 라이브러리에 액세스해 질문에 답변합니다. 일부 에이전트는 다른 에이전트와만 상호 작용합니다. 데이터베이스 쿼리 에이전트는 다른 에이전트가 요청한 정보를 검색하기 위한 SQL 쿼리를 작성할 수 있습니다. 가상 어시스턴트 기능을 수행하는 에이전트는 종종 인간의 피드백을 기반으로 작업 수행 능력을 측정받습니다. 이같이 다양한 에이전트들은 모두 다음과 같이 다양한 구성 요소의 고유한 조합을 통해 작동합니다.

• 활동. 에이전트는 액추에이터 또는 인터페이스를 통해 환경과 상호 작용합니다. 에이전트는 손잡이 돌리기, 자율주행 차량 조종, 로봇 팔 제어와 같은 물리적인 활동부터 여러 옵션 중 하나를 선택하거나 체크메이트를 달성하기 위한 방법들의 목록을 작성하는 것과 같은 인지적인 활동, 이메일 작성, 오디오 필사, 질문과 답변 등 의사소통과 관련된 활동까지 다양한 활동을 수행할 수 있습니다.
• 목표/유용성. 목표와 유용성은 서로 연관되어 있습니다. 목표는 채용 담당자 및 채용 관리자의 의견을 반영해 직무 기술서를 성공적으로 작성하는 HR 어시스턴트와 같이 에이전트가 도출해야 하는 결과를 정의합니다. 유용성은 에이전트가 목표를 얼마나 잘 달성했는지를 측정하는 척도로서 수치로 나타낼 수 있습니다. 게이밍 에이전트의 유용성은 승리한 경기 수로 측정하지만, 자율주행 차량의 유용성은 안전 기록 및 탑승자들이 매긴 점수를 기반으로 측정합니다.
• 학습. AI 에이전트는 작업을 수행하며 얻은 교훈을 통합해 결과를 개선할 수 있습니다. LLM의 학습은 훈련이 중단되는 시점에 함께 중단되지만, 에이전트는 어떤 독점 데이터와 질문의 조합이 가장 좋은 결과를 가져오는지 관찰함으로써 시간이 지날수록 같은 작업을 더 잘 수행할 수 있습니다. 에이전트는 지도 학습, 비지도 학습, 강화 학습 등의 추가 훈련을 통해 새로운 지식을 습득할 수도 있습니다. 채용 담당자는 에이전트가 작성한 직무 기술서를 평가해 유용성 점수를 부여하고, 에이전트는 새로운 직무 기술서를 작성할 때 해당 데이터를 반영할 수 있습니다.
• 기억력. 기억력은 과거의 경험으로부터 얻은 정보를 저장하고, 저장한 정보를 검색 및 사용해 더 나은 정보에 기반한 결정을 수행하고고 상황 변화에 대응할 수 있는 에이전트의 능력을 지칭하는 표현입니다. 기억력은 AI 에이전트가 시간이 지날수록 성능을 향상시키는 과정에 필수적인 요소입니다.
• 인식. AI 에이전트는 센서 또는 기타 메커니즘을 사용해 주변 환경으로부터 정보를 수집하고 인식할 수 있습니다. 사물을 인식하고 패턴을 감지하는 카메라, 음성 쿼리를 캡처하고 처리하는 마이크가 좋은 예입니다. 또한 에이전트는 센서를 사용해 사물을 조작하거나 물리적 세계에서 자신의 위치를 탐색할 수도 있습니다.
• 추론. 데이터, 규칙, 확률, 학습된 패턴에 기반한 논리적 의사 결정은 AI 에이전트의 근간입니다. 에이전트는 추론 능력을 활용해 여러 가지 옵션을 식별하고, 가용 정보 및 결과 기준에 따라 최적의 행동 방침을 결정할 수 있습니다.

AI 에이전트의 유형

1. 단순 반사 에이전트. 이러한 에이전트는 일련의 조건/행동 규칙에 따라 작동하고, 입력에 반응할 때 광범위한 맥락 또는 기록을 고려하지 않습니다. 관련 예시로는 문맥 이해 능력, 광범위한 대화 등을 지원하지 않고 미리 정의된 키워드나 구문에만 응답하도록 프로그래밍된 기본적인 챗봇이 있습니다.
2. 모델 기반 반사 에이전트. 이러한 에이전트는 수행하는 기능과 관련된 환경에 대한 내부 모델을 가지고 있으므로 현재 상황 및 다양한 활동별 효과를 고려해 어떤 작업을 수행할지 결정할 수 있습니다. 자율주행 자동차가 그 좋은 예입니다. 자율주행차의 '세계'는 주변의 도로입니다. 자율주행차는 주변 사물의 움직임을 추적해 달리는 속도를 결정하고, 차량을 향해 움직이는 물체를 포착하면 브레이크를 밟을지 또는 회피할지 등을 결정합니다.
3. 목표 기반 에이전트. 이러한 에이전트는 반사 에이전트의 기능을 기반으로 장기적인 목표를 고려하고 그에 따른 행동을 계획합니다. 목표 기반 에이전트의 의사 결정 과정은 반사 에이전트보다 더 정교합니다. 예를 들어, 체스나 바둑 에이전트는 몇 수 앞을 내다보고 승리하기 위한 전략을 세워야 하고, 단기적으로 희생을 감수하는 것도 전략에 포함될 수 있습니다.
4. 유용성 기반 에이전트. 이러한 에이전트는 유용성을 극대화하는 방향으로 의사 결정을 수행합니다. 유용성이란 AI 에이전트가 시간 경과에 따라 목표를 얼마나 성공적으로 달성하는지 측정하는 척도입니다. 즉, 유용성 기반 에이전트는 장기적으로 긍정적인 결과를 가져올 가능성이 가장 높거나 부정적인 결과를 최소화할 수 있는 행동을 보다 전략적으로 선택합니다. 목표가 서로 상충되는 상황에 직면하더라도 균형을 유지하며 만족도나 이점을 극대화하는 방향으로 움직입니다. 목표 기반 에이전트가 게임에서 승리하기 위해 노력한다면, 유용성 기반 에이전트는 에너지 사용을 최소화하거나 고수익 제품의 판매를 극대화하는 등 끊임없이 추구해야 하는 목표와 관련된 지속적인 최적화를 위해 노력합니다.
5. 학습 에이전트. 이러한 에이전트는 새로운 데이터를 수집하고 사용자와의 상호 작용을 응답에 반영해 시간이 지날수록 성능이 개선됩니다. 추천 엔진은 학습 에이전트의 일종입니다. 영화 및 TV 프로그램, 음악, 소비자가 구매할 만한 품목 등을 추천하는 에이전트는 시간이 지날수록 정확도가 향상됩니다.

AI 에이전트 사용 사례

모범적인 AI 에이전트 사용 사례에는 일반적으로 AI 에이전트가 활용할 수 있는 관련 데이터 및 시스템(예: CRM 또는 ERP)이 존재합니다. 또한 에이전트는 작업 지향적입니다. 고객 질문에 답하거나 승객을 A 지점에서 B 지점까지 태워다 주는 에이전트가 좋은 예입니다. 시간이 지날수록 성과가 개선되고, 환경 및 할당된 목표에 대한 이해를 바탕으로 의사 결정을 수행할 수 있는 에이전트의 능력��� 잘 부합하는 작업으로는 어떤 것들이 있을지 생각해 보세요.

현재 가장 인기있는 AI 에이전트 사용 사례는 다음과 같습니다.

• 자율주행 자동차. 자율주행 자동차는 주변 환경을 탐색하고 그에 기반한 의사 결정을 수행합니다.
• 콘텐츠 추천. Netflix 또는 YouTube와 같은 플랫폼에 내장된 추천 기능은 콘텐츠의 개인화를 통해 시청자의 참여도를 높일 수 있습니다.
• 고객 지원. 미리 작성된 답변만 제공하는 것이 아닌 다양한 고객 문의에 대응할 수 있는 자동화된 챗봇은 고객 만족의 핵심 요소입니다.
• 재무. 금융 서비스 기업은 자동화된 거래 시스템, 사기 탐지 등에 에이전트를 사용합니다.
• 게이밍. 게이밍 분야에 사용되는 에이전트의 예시로는 환경에 적응하는 능력을 활용해 논플레이어 캐릭터(NPC) 역할을 자동으로 수행함으로써 비디오 게임 개발자가 메인 스토리 개발에 더 집중할 수 있도록 지원하는 에이전트 등이 있습니다.
• 헬스케어. 특정 질병을 진단하거나 환자 관리를 지원하는 AI 에이전트는 (일반적으로 익명화되어 있는) 환자 기록 및 의료 이미지를 통해 패턴을 식별하는 방법을 학습해 결과 및 위험 요소를 예측하고 행동 방침을 제안할 수 있습니다.
• 퍼스널 어시스턴트. Siri, Google Assistant와 같은 가상 어시스턴트는 고객과의 상호작용을 통해 학습하는 에이전트의 좋은 예입니다.
• 리테일. 리테일 업계에서 에이전트의 활용 방법은 무한합니다. 일례로 Neostar는 중고차 구매, 판매, 서비스 플랫폼에 에이전트를 사용하고 있습니다. 에이전트는 고객에게 개별화된 커뮤니케이션을 제공하고, 이메일 메시지의 추천 제품 목록을 통해 고객의 관심을 끌 만한 차량을 강조함으로써 고객의 재참여 및 Neostar 웹사이트로의 재방문을 유도합니다.
• 로봇. 환경을 인식하고, 의사 결정을 내리고, 조치를 취할 수 있는 에이전트를 통해 AI 기반 로봇을 제어할 수 있습니다. 예를 들어 제조 및 조립 라인에서 사용되는 로봇이 피킹, 포장, 품질 관리 등의 작업을 수행하도록 만들기 위해 AI 에이전트를 사용하는 경우가 많습니다.
• 스마트 홈. 에이전트는 홈 자동화 시스템을 관리하고 사용자의 구두 질문에 답변을 제공하는 작업에 자주 사용됩니다. 잠재적인 위협을 감지하고 대응하기 위한 보안 카메라, 초인종, 알람을 작동시키는 업무에도 AI가 사용됩니다.
• 공급망 관리. 재고 데이터를 분석해 이동 속도가 느린 품목을 식별하고, 수요 패턴의 변화를 감지하고 그에 따라 재고 수준을 조정해 재고 보유 비용을 줄일 수 있는 물류 최적화 작업에도 에이전트가 사용됩니다.

AI 에이전트 모범 사례 6가지

AI 에이전트를 도입하는 기업은 다른 기술 투자와 마찬가지로 원하는 기능을 지금도, 앞으로도 최대한 비용 효율적으로 사용할 수 있기를 바랍니다. 애플리케이션에 내장된 에이전트와 관련된 모범 사례는 신입 직원에게 사용하는 것과 유사합니다. 예를 들어, 신입 직원이 할당된 작업을 진행하는 과정에서 초기 결과물을 주의 깊게 모니터링하고 작업의 복잡성을 점차 높여 나가는 방법은 에이전트에게도 동일하게 사용할 수 있습니다.

자사의 고유한 요구 사항에 기반한 에이전트를 자체적으로 제작하고자 하는 기업의 경우 좀 더 복잡한 프로세스가 요구됩니다. 이를 해결하기 위해서는 다음과 같은 6가지 요건 및 제안을 고려해 볼 수 있습니다.

1. 명확한 목표 설정. 명확히 정의되고, 달성 가능하고, 측정 가능하고, 정량화된 목표는 AI 에이전트의 필수 요소입니다. 인간 직원과 마찬가지로 목표를 제대로 이해하지 못한 에이전트는 해당 목표를 달성할 가능성도 낮습니다. 성공의 열쇠는 잘 정의되고 구체적인 목표를 설정하는 것입니다. 모호하거나 애매모호한 목표는 피하고, AI 에이전트의 역량 및 가용 자원을 고려해 달성할 수 있는 목표를 설정해 보세요. 성공을 측정하기 위한 KPI를 정의하고, 해당 데이터를 사용해 모델을 개선해야 합니다.
2. 지속적 학습. 에이전트의 핵심인 LLM을 지속적으로 미세 조정하는 것은 실용성이 떨어지는 방법이지만, 에이전트의 의사 결정과 작��� 완료에 사용하는 데이터를 개선하는 것은 실용적입니다. 애플리케이션에 내장된 에이전트의 경우, 에이전트 시스템을 구동하는 LLM의 학습을 개선할 시기는 공급업체가 결정합니다. 에이전트가 과거 작업을 쉽게 기억할 수 있도록 에이전트와의 상호작용을 저장하고 불러오는 방법을 개선하는 것도 공급업체의 몫입니다.
   
   맞춤형 에이전트의 경우 메모리 기술, 제공된 데이터 및 기타 입력을 개선하는 작업을 LLM 자체의 미세 조정보다 더 자주 수행할 수 있습니다. 자체 에이전트를 구축하는 경우에는 에이전트를 사용할 준비를 마치고, 필요한 경우 작동을 최적화하기 위한 조정을 수행하기에 앞서 해당하는 프로세스들을 해결해야 합니다.
3. 설명서. 설명서는 AI 에이전트를 이해하고, 유지 관리하고, 개선하기 위한 필수 요소입니다. 설명서를 작성할 때 사용하는 두 가지 주요 문서 유형은 다음과 같습니다.
   • 기술 문서에는 AI 에이전트의 구성 요소, 데이터 흐름, 의사 결정 프로세스에 대한 다이어그램과 AI 에이전트의 기능에 필요한 새로운 코드, 사용된 알고리즘 및 모델, AI 에이전트를 작동하기 위한 데이터 등에 대한 기록이 수록되어 있습니다.
   • 운영 문서에는 AI 에이전트와 상호 작용하는 방법에 대한 사용자 매뉴얼, 문제 해결 방법을 비롯해 AI 에이전트의 유지 관리에 필요한 IT 담당자 지침, 에이전트의 작동에 필요한 데이터 소스와 에이전트를 통합하는 작업에 대한 지침 등이 수록되어 있습니다.
   또한 AI 에이전트의 성과 측정에 사용하는 KPI를 추적 및 공유하고, 시간 경과에 따른 결과를 그래프로 작성할 수 있습니다.
4. 인간의 감독. 신입 직원과 마찬가지로 새로운 에이전트에게도 기업 및 업무 관행을 배우기 위한 시간이 필요합니다. 또한 에이전트에게 업무를 부여하고 그 결과를 모니터링하는 과정도 천천히 진행하는 것이 좋습니다. 팀원들이 에이전트가 자율적으로 일할 수 있다는 확신을 가질 때까지 폭넓은 범위를 감독해야 합니다. 거버넌스 구조에 따라 개인 또는 팀에 감독자 역할을 할당하고, 시스템에 인간의 개입을 허용하고, 에이전트가 인간의 피드백을 우선적으로 반영하도록 설정해야 합니다.
5. 철저한 테스트. 배포 전후의 다양한 시나리오별로 에이전트를 철저히 검증하고, 벤치마크 또는 실제 프로세스 결과와 비교해 성능을 측정하는 검증 테스트를 집중적으로 실시합니다. 에이전트의 모든 구성 요소를 개별적으로 테스트한 뒤 가능한 범위 내에서 상호 작용하는 방식을 관찰합니다. 또한 에이전트가 병목 현상 없이 관련 외부 시스템(예: ERP 또는 데이터베이스)에서 데이터를 가져오고 있는지 여부를 확인합니다. 마지막으로 시스템의 실제 사용자들과 함께 UX 테스트를 수행합니다.
6. 보안 조치. 에이전트가 사용하는 데이터를 암호화하고 필요한 경우 익명화해 무단 액세스 및 공격으로부터 에이전트를 보호해야 합니다. 강력한 액세스 제어도 중요한 요소입니다. 귀사에서 적용 중인 네트워크 및 인프라 보안, 보안 코딩, 모니터링 및 인시던트 대응 방안, 보증 관행 등이 AI 시스템으로도 확장되어야 합니다.

AI 에이전트 구현하기

에이전트의 구현 단계는 AI의 배포 단계와 유사합니다. 일단 작업을 정의합니다. 가능한 한 구체적인 목표 및 목적을 설정해 에이전트가 수행하는 작업을 구체화합니다. 다음으로는 에이전트가 따르게 될 기능적 프로세스, 액세스할 데이터, 관련 비즈니스 전문가, 업무 수행 과정에서 액세스할 수 있는 도구 및 다른 에이전트 등을 파악합니다.

먼저 소규모 베타 테스트 그룹을 배정해 사용 사례 및 결과를 면밀히 모니터링하고, 모니터링 결과를 바탕으로 에이전트를 조정하고, 입증된 성공 사례를 바탕으로 에이전트의 자율성을 높여나가는 것이 가장 좋은 방법인 경우가 많습니다. 해당되는 경우 신입 직원의 프로비저닝 프로세스를 모방할 수도 있습니다. 리테일 업체의 신학기 시즌 계획을 지원하기 위한 수요 예측 에이전트를 도입하는 상황을 가정해 보겠습니다.

1. 명확한 직무 기술서를 작성합니다. 본 예시에서 AI 에이전트는 백팩, 노트북, 아동복 등의 제품에 대한 수요를 예측해야 합니다.
2. 필요한 데이터를 파악합니다. 에이전트를 활용하기 위해 필요한 양질의 데이터 소스를 큐레이션합니다. 수요 예측 에이전트에게 반드시 필요한 데이터로는 예측 대상 제품의 과거 판매 수치, 현재 시장 동향 및 경제 지표, 고객 인구 통계 및 구매 내역 등이 있습니다. 수요에 영향을 미칠 수 있는 계절적 패턴 관련 데이터(예: 평년보다 높을 것으로 예상되는 기온), 성공적이었던 프로모션, 할인, 마케팅 활동에 대한 세부 정보 등을 추가하면 예측 정확도 향상에 도움이 될 수 있습니다.
3. 지원을 제공합니다. AI 에이전트를 재고 관리, ERP, 공급망 계획 도구 등의 다른 시스템과 통합하면 효율성 향상에 도움을 줍니다. 또한 귀중한 인사이트를 제공하고 AI 에이전트의 예측 정확도 향상을 지원해 줄 관련 제품 라인의 인간 전문가를 파악해 두는 것이 좋습니다.
4. 피드백을 제공합니다. 정기적인 평가 및 조정은 시간을 선제적으로 투자해야 하는 작업이지만 지나고 보면 그만한 가치가 있습니다. 고객 및 전문가로부터 피드백을 수집해 개선이 필요한 부분을 파악하고, 필요한 경우 소프트웨어 제공업체와 협력해 에이전트를 조정합니다.

참고: AI 에이전트를 실행하기 위한 충분한 컴퓨팅 리소스를 확보해야 합니다. 시스템 성능이 충분하지 못할 경우 관계자들의 사기가 저하되고 프로젝트가 제대로 진행되지 못할 것입니다.

AI 에이전트의 예시

아래의 예시는 현재 사용 가능한 AI 에이전트 중 일부에 불과합니다. 기업은 자사의 문제점을 살펴봐야 합니다. 어떤 역할을 충원하는 데 어려움을 겪고 있나요? 기회를 발견했지만 테스트할 리소스가 부족한 경우가 있었나요? AI로 해결할 수 있는 지속적인 직원 또는 고객의 불만 사항이 있나요? 또한 기업은 클라우드 및 엔터프라이즈 애플리케이션 제공업체에 문의해 해당 기업의 제품 및 서비스에는 어떤 에이전트를 탑재하고 있는지 살펴보아야 합니다. 이와 같은 로드맵들은 새로운 아이디어로 이어질 수도 있습니다.

AI 에이전트의 예시는 다음과 같습니다.

• 대화형 에이전트는 외부 세계와 상호 작용합니다. 엔터프라이즈 애플리케이션은 일반적으로 인간과 상호 작용하지만, 다른 소프트웨어 프로그램과도 상호 작용할 수 있습니다. 예를 들어, 산업 환경의 대화형 에이전트는 제조 장비 또는 사물인터넷 기기와 상호 작용할 수 있습니다.
• 기능 에이전트(또는 사용자-프록시 에이전트)는 특정 조직의 페르소나 또는 역할과 연관되어 있습니다. 생활 속의 사례를 들어 설명해 보겠습니다. 우리는 연례 건강 검진을 받는 과정에서 여러 '기능 에이전트'를 만날 수 있습니다. 접수원 에이전트는 환자를 체크인하고, 간호사 에이전트는 체중과 혈압 등 기본적인 바이탈을 측정합니다. 마지막으로 에이전트가 제공하는 우리의 방문 내역에 대한 요약본을 바탕으로 더욱 자세한 검사를 실시하는 의사를 만나게 됩니다. 이상의 모든 에이전트는 각기 다른 도구를 사용해 특정한 전문 지식을 바탕으로 특정한 하위 작업을 수행하고, 작업을 완료하는 과정에서 필요한 경우에는 서로 소통합니다.
  
  기능 에이전트의 예시는 다음과 같습니다.
  • 채용 관리자 에이전트. 기술 및 경력 등의 요구 사항을 문서화하는 등의 작업을 수행해 채용 공고를 게시하는 채용 관리자를 지원합니다.
  • 현장 서비스 에이전트. 기술자에게 정보를 제공하고, 일정 관리와 같은 작업을 자동화하고, 진단을 지원하고, 현장 서비스 워크플로의 효율성 향상을 위한 다양한 의사 결정을 수행합니다.
  • 미수금 담당 에이전트. 결제 처리를 간소화하고, 독촉 절차 시작과 같은 현금 흐름 개선을 위한 조치를 취하고, 미수금 결제 실적 보고서를 작성합니다.
  • 고객 지원 에이전트. 인간 지원 담당자 또는 고객에게 필요한 정보를 제공해 고객 지원 부문을 강화합니다.
• 감독 에이전트는 오케스트라의 지휘자와도 같습니다. 감독 에이전트는 다른 에이전트들을 지휘하고 목표 달성에 필요한 계획과 추론을 주도합니다. 인간을 대신해 직접 행동할지, 또는 다른 인간에게 작업 과정에서 피드백을 받을지 판단하는 사용자-프록시 에이전트는 그 좋은 예입니다.
• 유틸리티 에이전트(또는 작업 기반 에이전트)는 일반적으로 특정한 작업을 수행하는 데 특화되어 있으며, 다른 에이전트에 의해 호출되어 데이터베이스 쿼리, 이메일 보내기, 계산 수행, 문서 검색 등의 작업을 수행합니다. 복잡한 워크플로에 포함되어 배포된 유틸리티 에이전트는 위험성이 낮은 기능을 수행하므로 자율적으로 작동하는 것이 일반적입니다. 그 예는 다음과 같습니다
  • 코딩 에이전트. HTML, Java, Python 등의 언어를 사용해 특정 작업을 수행하기 위한 코드를 작성합니다.
  • 대화형 에이전트. 인간이 요청한 작업을 수행하고, 워크플로 작업의 결과물을 작업 요청자에게 가장 적합한 방식으로 전달합니다.
  • 복사 생성 에이전트. 텍스트 본문을 요약하거나, 보다 긴 커뮤니케이션의 시작점으로 사용할 샘플 텍스트를 생성합니다.
  • 데이터베이스 쿼리 에이전트. SQL 쿼리 작성 등 데이터 검색과 관련된 작업을 수행합니다.
  • RAG 에이전트. LLM이 프롬프트에 대한 응답을 제공하거나 특정한 작업을 수행하는 데 필요한 구체적이고 가장 최신의 데이터를 검색하는 과정을 조율합니다.
  • 스케줄러 에이전트. 이해관계자들 간의 미팅 일정을 관리해 프로젝트 진행을 지원합니다.
  • 검색 에이전트. 최적의 검색 유형(예: 웹 또는 문서 검색)을 선정하고, 적절한 도구를 호출해 선정한 검색 작업을 수행합니다.
  • 역량 보강 에이전트. 설명서를 기반으로 채용 공고를 작성하거나, 직원의 프로필 작성을 지원하는 등의 작업을 완료하는 데 필요한 역량이 무엇인지 제시합니다.

OCI Generative AI Agents로 효율성 향상시키기

OCI Generative AI Agents는 LLM과 RAG의 강력한 기능을 결합해 귀사의 직원, 파트너, 고객이 귀사의 독점 데이터로 보강된 다양한 지식 기반을 직접 쿼리할 수 있도록 지원합니다. 맞춤형 AI 에이전트를 신속히 개발하고 귀사의 엔터프라이즈 비즈니스 애플리케이션 및 프로세스에 내장할 수 있습니다.

이 서비스는 자연어 인터페이스 및 해당 인터페이스를 직접 조작할 수 있는 기능을 통해 최신 정보를 제공합니다. AI 에이전트 기술을 직접 사용해 보고 싶으신가요? 마침내 정식 출시된 OCI Generative AI RAG Agent를 만나보세요. 향후 출시될 다양한 Oracle AI 에이전트 중 첫 번째 주자입니다.

많은 이들이 챗봇으로부터 문제 해결에 도움이 되지 않는 답변을 받아 본 경험이 있을 것입니다. 스마트 AI 에이전트의 궁극적인 목표는 그러한 경험이 야기하는 불쾌감을 없애는 것입니다. 사용자에게 상황에 부합하는 정확하고 관련성 있는 정보를 제공하는 것은 개인과 기업 모두에게 좋은 일입니다.

AI 에이전트 FAQ

AI 에이전트의 유형으로는 어떤 것들이 있나요?

AI 에이전트의 유형으로는 단순 반사 에이전트, 모델 기반 반사 에이전트, 목표 기반 에이전트, 유용성 기반 에이전트, 학습 에이전트 등이 있습니다.

1. 단순 반사 에이전트는 일련의 조건/행동 규칙을 기반으로 작동하며 입력에 반응할 때 광범위한 맥락을 고려하지 않습니다.
2. 모델 기반 반사 에이전트는 수행하는 기능과 관련된 환경에 대한 내부 모델을 가지고 있으므로 현재 상황 및 다양한 활동별 효과를 고려해 어떤 작업을 수행할지 결정할 수 있습니다.
3. 목표 기반 에이전트는 반사 에이전트의 기능을 기반으로 장기적인 목표를 고려하고 그에 따른 행동을 계획합니다.
4. 유용성 기반 에이전트는 특정한 작업을 수행하는 데 특화되어 있으며, 다른 에이전트에 의해 호출되어 데이터베이스 쿼리, 이메일 보내기, 계산 수행, 문서 검색 등의 작업을 수행합니다.
5. 학습 상담원은 에이전트는 새로운 데이터를 수집하고 사용자와의 상호 작용을 응답에 반영해 시간이 지날수록 성능이 개선됩니다.

AI 에이전트의 실제 사용 사례로는 어떤 것들이 있나요?

AI 에이전트의 초기 사용 사례로는 알람 설정, 메시지 전송, 정보 검색 등의 작업을 수행할 수 있는 가상 어시스턴트인 Alexa, Google Assistant, Siri 등이 있습니다. 기업에서의 사용 사례로는 고객 서비스 및 기타 애플리케이션을 위한 챗봇 및 가상 어시스턴트 개발을 지원하는 대화형 AI 플랫폼(즉, 기업의 자체 에이전트 개발을 도와주는 AI 에이전트)인 Oracle Digital Assistant가 있습니다.