LLM 에이전트: 전체 가이드

대규모 언어 모델(LLM)은 사람이 간단한 질문을 하면 간단한 답변을 얻도록 하는 AI 기반 엔진입니다. 하지만 그 이상의 업무를 해야 한다면 어떻게 해야 할까요? 바로 여기서 LLM 에이전트가 탁월한 능력을 발휘합니다. 몇 가지 유형의 LLM 에이전트가 있지만 모두 메모리, 순차적 추론, 여러 도구 사용이 필요한 더 복잡한 쿼리를 처리합니다.

LLM은 이제 1조 개 이상의 매개변수를 처리 할 수 있습니다. 기업이 생성형 AI의 사용을 늘리려고 하면서 에이전트 기반 디지털 인력에 대한 수요는 계속 증가할 것입니다.

다양한 유형의 LLM 에이전트 작동 방식, 그 기능, 필요한 구성 요소, 발생하는 과제, 현재와 미래의 비즈니스에서 이러한 도구를 사용하고 있는 방법에 대해 자세히 살펴보겠습니다.

살펴볼 내용:

• LLM 에이전트는 무엇인가요?
• LLM 에이전트는 무엇을 할 수 있나요?
• LLM 에이전트의 유형 및 그 기능
• LLM 에이전트의 구성 요소
• 비즈니스에서 다양한 유형의 LLM 에이전트를 사용하는 방법
• LLM 에이전트의 잠재적 과제
• LLM 에이전트의 미래
• LLM을 통해 선두에 서기

LLM은 메모리, 계획, 순차적 추론을 결합하여 인간이 응답하는 방식과 유사한 방식으로 사용자 질문에 대한 심층적인 답변을 생성하는 인공 지능(AI) 시스템입니다. 다음은 한 가지 예입니다.

사용자 1이 LLM을 사용하여 훈련된 기업의 내부 챗봇에게 작년 급여 통계를 조회해 달라고 요청합니다. 챗봇은 사전 설정된 프로세스에 따라 관련 데이터베이스를 검색하고 특정 데이터 세트를 반환합니다.

하지만 사용자 2는 더 심도 있는 질문을 가지고 있습니다. 작년 급여 데이터에 따라 새로운 연방법과 주법이 정책에 어떤 영향을 미칠지 알고 싶어 합니다. 이 경우, 챗봇은 해결 능력이 부족합니다. 급여에 대한 데이터와 새로운 법률에 대한 정보를 반환할 수는 있지만 이를 의미 있는 답변으로 결합할 수는 없습니다. 하지만 LLM 에이전트는 가능합니다.

머신 러닝(ML)과 자연어 처리(NLP)를 결합하면 LLM 에이전트는 복잡한 쿼리를 이해하고 응답할 수 있습니다. 이러한 특성은 에이전트를 기존 검색 증강 생성(RAG) 모델과 차별화하여 내부 소스로부터 데이터를 가져와 간단한 질문에 답변합니다.

LLM 에이전트는 이성과 논리를 적용하여 질문에 답변할 수 있습니다. 단순히 질문을 액면 그대로 받아들이는 대신 에이전트는 쿼리를 세분화하여 답변을 찾을 수 있습니다. 그러고 나서 원래 질문에 대한 메모리를 사용하여 답변을 결합하고 정확한 결과를 도출합니다. 이를 통해 AI 에이전트는 여러 데이터 세트에 따라 심층적인 쿼리에 답변하거나, 텍스트로부터 요약 내용을 작성하거나, 코드를 작성하거나, 계획을 생성할 수 있습니다.

LLM 에이전트는 이전 상호 작용으로부터 분석하고 학습하여 시간이 지남에 따라 성과를 개선할 수 있습니다. 실제로 에이전트는 자신의 행동을 자체 반영하고, 이러한 행동의 성공 여부를 결정하고, 출력을 개선하는 변경 사항을 적용할 수 있습니다.

각 작업을 개선하기 위해 LLM 에이전트는 도구(예: 웹 검색, 코드 테스터)를 사용하여 정확성을 검증하고 응답 시간을 단축합니다. 새로운 데이터와 과거 데이터에 대해 지속적으로 답변을 평가함으로써 에이전트는 이러한 오류를 식별하고 수정할 수 있습니다.

에이전트가 함께 작업하는 것도 가능합니다. 예를 들어, 한 에이전트가 정보를 검색하고 답변을 생성하는 업무를 수행하는 동안 다른 에이전트는 출력의 정확성을 평가하는 업무를 수행할 수 있습니다. 세 번째 에이전트는 두 가지 모두의 성과를 평가하고 개선 사항을 제안할 수 있습니다. 그러고 나서 이러한 에이전트는 데이터를 결합하여 관련성 있는 단일 결과를 생성합니다.

여러 역할을 수행하도록 LLM 에이전트를 구성할 수 있지만 서로 다른 유형의 에이전트가 상호 배타적이지는 않습니다. 한 명의 에이전트가 여러 기능을 동시에 또는 순서대로 수행할 수 있습니다.

일반적인 LLM 에이전트의 유형은 다음과 같습니다.

• 업무별 LLM 에이전트: 이러한 에이전트는 좁게 정의된 업무(예: 고객의 주문 상태를 확인, 배송 정보 업데이트)를 실행하도록 설계되었습니다. 일반적으로 업무별 에이전트는 더 작은 데이터 풀(예: 소규모 언어 모델(SLM)에 의해 제공되는 데이터)를 활용합니다.
• 대화형 LLM 에이전트: 대화형 AI 에이전트는 최종 사용자(예: 직원, 고객)와 상호 작용하고 일반적인 질문에 대한 답변을 제공할 수 있습니다. AI 에이전트와 챗봇간의 차이점은 이러한 에이전트는 시간이 지남에 따라 학습하여 사용자 질문에 더 자연스럽게 응답할 수 있다는 점입니다.
• 결정 지원 LLM 에이전트: 결정 지원 에이전트는 데이터 세트로부터 인사이트를 도출하거나 대규모 데이터 요약 내용을 제공하여 의사 결정을 개선합니다. 예를 들어, 기업의 최고 보안 정보 책임자는 결정 지원 LLM을 사용하여 주어진 기간 동안 모든 기업 사이버 보안 공격의 영향을 평가하고 요약할 수 있습니다.
• 워크플로우 자동화 LLM 에이전트: 워크플로우 자동화 LLM 에이전트는 다단계 워크플로우를 자동화합니다. 자율 에이전트에는 운영 기준선을 생성하는 데 필요한 시스템 데이터, 기능 사양 및 과거 워크플로우 성과가 제공됩니다. 거기서부터 에이전트는 배정된 업무를 수행하고 시간이 지남에 따라 개선해 나갑니다.
• 정보 검색 LLM 에이전트: 이러한 유형의 LLM 에이전트는 모든 시스템에서 데이터를 찾고 검색하는 데 RAG 방법을 사용합니다. 여기서 데이터 검색은 비교적 간단합니다. 에이전트는 관련 데이터를 식별 및 캡처하고 불필요한 정보는 무시하는 능력이 뛰어납니다.
• 협업 LLM 에이전트: 협업 에이전트는 다른 에이전트와 함께 나란히 작동합니다. 이러한 에이전트는 효과적으로 병렬로 작동하므로 정확성을 잃지 않고 응답 시간을 단축할 수 있습니다.
• 적응형 학습 LLM 에이전트: 적응형 에이전트는 과거 데이터를 사용하여 미래 성능을 개선합니다. 에이전트는 과거 출력을 평가하고 이를 이상적인 결과와 비교하여 새로운 전략을 개발합니다.

LLM 기능을 통해 AI 에이전트를 구축하려면 를 구축하려면 대규모 언어 모델이 필요합니다. 이 LLM은 자연어 텍스트와 프롬프트 엔지니어링, 메모리 모듈 또는 검색 시스템과 같은 추가 구성 요소를 생성 및 해석하여 컨텍스트 이해와 기능성을 개선합니다. 모든 유형의 LLM 에이전트에서 세 가지 상위 구성 요소는 두뇌, 메모리, 계획입니다.

에이전트의 두뇌는 사용자 질문을 이해하고 응답할 수 있는 언어 모델입니다. 에이전트는 프롬프트(사용자의 질문 또는 설명)를 사용하여 의사 결정 및 답변 프로세스를 안내합니다. 솔루션(예: Agentforce)을 사용하여 특정 상황(예: 금융, HR, 사이버 보안 업무)에 맞게 설계된 프레임워크를 통해 이러한 두뇌를 사용자 지정할 수 있습니다.

메모리는 에이전트가 이전 작업을 기억하여 다음 출력을 개선하는 데 도움이 됩니다. 이는 다시 세 가지 유형으로 나눌 수 있습니다.

• 단기: 에이전트의 단기 메모리는 현재 대화나 업무에 적용됩니다. 사용자 프롬프트 및 에이전트가 지금까지 수행한 모든 작업의 기록입니다.
• 장기: 장기 메모리는 몇 주 또는 몇 달에 걸친 과거 대화 또는 프롬프트의 데이터 저장소입니다. 이 메모리는 현재 업무에 대한 컨텍스트를 제공하며, 에이전트가 검토하여 가능한 오류와 개선이 필요한 영역을 식별할 수 있습니다.
• 하이브리드: 하이브리드 메모리는 단기 메모리와 장기 메모리를 결합하여 상황 인식을 유지하고 관련 정보를 동적으로 활용함으로써 에이전트의 즉각적인 대응을 개선합니다.

계획 모듈은 복잡한 업무를 더 작은 부분으로 세분화하여 대응력을 개선합니다.

• 계획 수립(피드백 유무에 관계없이): 계획 수립이 첫 번째 단계입니다. 에이전트는 업무를 하위 업무로 세분화한 다음, 완료합니다. 계획은 피드백 유무에 관계없이 생성 및 실행할 수 있습니다. 피드백이 없으면 인간 감독 없이도 에이전트가 계획을 개발 및 실행합니다. 피드백을 통해 휴먼 인 더 루프가 계획을 평가하고 계획을 실행하기 전에 추천 사항을 제시합니다.
• 계획 반영: 계획이 실행된 후에 계획 반영이 이루어집니다. 내부 평가 도구와 외부 인간 피드백을 결합하여 계획을 반영하면 개선이 필요한 영역을 식별하는 데 도움이 됩니다.

실제로 이러한 구성 요소는 단순화된 인간 두뇌처럼 함께 작동합니다. 에이전트 두뇌는 사용자 쿼리를 수집하고 해석합니다. 단기 메모리는 현재 업무에 대한 이해를 생성하는 데 사용되며 장기 메모리는 컨텍스트를 제공합니다. 계획은 복잡한 업무를 하위 업무로 분할하는데, 문제를 해결하고 답변을 제공하기 위해 완료합니다.

계획 반영은 출력을 비판적으로 평가하고, 잠재적인 실수를 식별하고, 계획의 정확성과 일관성을 개선하여 향후 오류의 위험을 줄이는 데 도움이 됩니다.

다음과 같이 이러한 유형의 LLM 에이전트를 사용하는 여러 방법이 있습니다.

• 세일즈: 세일즈 AI를 통해 에이전트는 잠재 고객에게 연락하여 제품 정보를 제공하거나, 세일즈 담당자와 회의를 예약하거나, 특별 가격 및 프로모션을 제공하는 데 사용될 수 있습니다.
• 서비스: 서비스 기반 AI 에이전트는 고객 질문에 답변하고, 기술적인 문제 해결에 대한 조언을 제공하거나, 인간 담당자에게 질문을 에스컬레이션할 수 있습니다.
• 커머스: 커머스용 AI를 사용함으로써 에이전트는 온디맨드 주문 상태 및 추적, 주문 수정, 반품 또는 환불 도움을 지원합니다.
• 마케팅: 복잡한 프롬프트를 처리할 수 있는 능력을 갖춘 LLM 에이전트는 마케팅 AI를 사용하여 타겟 오디언스를 식별하고 과거 캠페인 성과에 따라 다양한 세그먼트에 개인화된 마케팅 캠페인을 생성할 수 있습니다.

AI 및 LLM의 장점은 상당히 많지만 다양한 유형의 LLM 에이전트에서는 여전히 몇 가지 과제에 직면할 수 있습니다. 일반적인 문제로는 다음이 있습니다.

LLM 에이전트가 충분한 데이터에 대한 훈련을 받지 못했거나 데이터의 다양성이 부족하면 컨텍스트가 제한될 수 있습니다. 그러면 에이전트가 관련성 있고 실행 가능한 답변을 제공할 수 있는 능력이 떨어집니다.

에이전트는 단기 계획에는 능숙하지만 지속적인 메모리 부족, 컨텍스트 창 제한 사항, 도구(및 리소스) 통합 격차로 인해 수개월 또는 수년에 걸친 장기 계획의 요청을 처리하는 데는 어려움을 겪을 수 있습니다.

부정확한 소스 데이터나 불명확한 명령은 일관성 없는 출력으로 이어질 수 있습니다. 동일한 쿼리가 여러 개의 결과를 반환하면 LLM 에이전트의 유용성이 떨어집니다.

에이전트는 사용자 지정하여 역할을 수행할 수 있습니다 하지만 이러한 역할의 성공 여부는 사용된 AI 프레임워크에 따라 달라집니다. 프레임워크에 따라 에이전트를 얼마나 효과적으로 훈련하고, 배치하고, 다른 도구 및 시스템과 통합할 수 있는지가 결정되기 때문입니다.

프롬프트는 에이전트 답변의 기초를 형성하지만, LLM 에이전트는 메모리와 자체 반영을 사용하여 응답에 대한 정보를 제공해야 합니다. 이러한 구성 요소가 부족하거나 없는 경우, 답변의 범위와 정확성이 제한될 수 있습니다.

한 가지 예로 프롬프트 의존성을 들 수 있습니다. 이는 LLM이 원하는 출력에 대한 컨텍스트 단서를 제공하기 위해 프롬프트에 "의존"할 때 발생합니다. 최고 사례의 시나리오에서는 약간 편향된 출력이 발생합니다. 최악 사례의 시나리오에서는 출력이 부정확합니다.

LLM 에이전트가 처리하고 저장하는 지식의 양이 방대하기 때문에 관리가 어려울 수 있습니다. 성능 저하 또는 부정확한 응답으로 나타날 수 있습니다.

일반적으로 LLM 에이전트는 운영 효율성을 개선하며, 이는 에이전트 사용으로 인한 ROI 증가 및 비즈니스 전반의 비용 절감을 의미합니다. 하지만 에이전트가 기존 시스템과 통합되지 않거나 리소스 집약적인 프레임워크에 구축되어 있으면 비용이 증가하고 효율성이 저하될 수 있습니다.

ML 알고리즘이 더 복잡해지고 칩셋이 보다 강력해짐에 따라 이러한 유형의 LLM 에이전트와 AI 에이전트는 더 스마트하고 빠르며 학습 능력이 개선될 것으로 예상됩니다. 실제로 이는 이러한 AI 기반 챗봇이 사후 고려로 작동하는 대신 인간 챗봇과 함께 작동할 수 있는 기회를 창출합니다.

B2B 세일즈를 고려합니다. 일반적으로 직원은 LLM을 사용하여 마케팅 또는 제품 카피를 개선하고 잠재적인 리드를 창출할 수 있습니다 고급 도구를 통해 직원은 에이전트를 사용하여 고객으로부터 심층적인 이메일 캠페인과 현장 질문을 설계하고 전달할 수 있습니다. 이를 통해 고객에게는 개선된 개인화를, 직원에게는 장기적인 세일즈 전략 수립에 더 많은 시간을 할애할 수 있는 두 가지 이점을 제공합니다.

엔터프라이즈 AI가 기하급수적으로 성장함에 따라 비즈니스는 다양한 유형의 LLM 에이전트를 활용하고 있습니다. 이 기술은 기업이 고객 서비스를 개선하고, 의사 결정을 개선하고, 복잡한 다단계 문제를 처리하는 방법을 제공합니다.

Agentforce는 기업이 LLM을 통해 선두에 서도록 지원하고 있습니다. 자율 AI 에이전트를 구축하고 사용자 지정함으로써 비즈니스는 인간 직원의 경험을 점점 더 전문화되는 AI의 전문성과 결합하여 고객과 직원을 연중무휴 24시간 지원할 수 있습니다. 직접 Agentforce을 체험하여 고객과 소통하고 직원의 효율성을 높이는 데 어떻게 도움이 될 수 있는지 살펴보세요.