추론 엔진은 무엇인가요?

이메일 초안 작성, 캠페인 개요 생성, 웹 페이지 구축, 경쟁사 조사, 데이터 분석, 통화 요약과 같은 일상적인 비즈니스 업무를 AI가 자동화할 수 있다고 상상해 보세요. 이러한 반복적인 업무를 자동화하면 비즈니스 전략 및 관계 구축과 같은 더 복잡하고 창의적인 활동에 귀중한 시간과 엄청난 수고를 덜 수 있습니다.

이러한 일상적인 비즈니스 업무를 자동화하려면 AI가 추론 엔진으로 작동하도록 하여 인간 지능을 시뮬레이션해야 합니다. 다른 차원의 생성형 AI입니다. 자연어로 소통하는 것 외에도 AI는 문제 해결과 의사 결정에도 도움을 줍니다. 제공된 정보를 통해 학습하고, 장단점을 평가하고, 결과를 예측하고, 논리적인 결정을 내립니다. 최근 기술 발전을 고려할 때 Salesforce는 이러한 AI 기능에 있어서 끝에 서 있으며, 과학계와 비즈니스계의 많은 사람들을 흥분시키고 있습니다.

추론 엔진은 특정 규칙, 데이터, 논리에 따라 인간 같이 의사 결정을 하고 문제를 해결하는 기능을 모방하는 AI 시스템입니다. 추론 엔진이 모방하는 인간 추론 또는 추론 메커니즘에는 세 가지 유형이 있습니다.

1. 연역적 추론 - 보편적이고 일반적으로 인정되는 사실에 따라 추론합니다. 예: "모든 새는 알을 낳는다. 비둘기는 새이다. 따라서 비둘기는 알을 낳는다."
2. 귀납적 추론 - 특정 사례 또는 샘플에서 결론을 도출합니다. 예: "내가 만난 개는 모두 친절하다. 따라서 모든 개는 친절하다!"
3. 귀추법 - 불완전하고 종종 모호한 정보로부터 그럴싸한 결론을 내립니다. 예: "바닥에 찢어진 종이가 널려 있는데 우리 개가 아파트에 혼자 있었다. 따라서 우리 개가 종이를 찢은 것이 틀림없다."

이제 전 세계 사람들은 대규모 언어 모델(LLM)이 훈련받은 데이터로부터 유용하고 새로운 콘텐츠를 생성할 수 있는 특수 머신 러닝 모델이라는 사실을 알고 있습니다. 그 외에도 오늘날의 LLM은 문제를 해결하기 위해 컨텍스트를 이해하고, 데이터로부터 논리적 추론을 이끌어내고, 다양한 정보를 연결할 수 있는 능력도 발휘합니다. 이러한 특성을 통해 LLM은 추론 엔진의 역할을 할 수 있습니다.

그렇다면 LLM은 어떻게 정보를 평가하고, 계획을 생성하고, 일련의 알려진 규칙을 적용하여 일반적인 비즈니스 수학 문제를 풀 수 있나요?

커피숍 주인이 손익분기점을 맞추기 위해 한 달에 몇 잔의 커피를 팔아야 하는지 알고 싶다고 가정해 보겠습니다. 커피숍 주인은 잔당 3.95달러로 값을 매깁니다. 월 고정 비용은 2,500달러, 단위당 가변 비용은 1.40달러입니다.

LLM은 일련의 알려진 수학 규칙을 적용하여 체계적으로 답변을 얻습니다.

1단계

관련 값을 식별합니다.

2단계

커피당 공헌 이익을 계산합니다. 공헌 이익은 판매 가격에서 가변 비용을 뺀 값입니다.
= $3.95 - $1.40 = $2.55

3단계

손익분기점 공식을 적용합니다. 손익분기점은 고정 비용을 공헌 이익으로 나눈 값입니다.
= $2500/$2.55 = 980.39

4단계:

가장 가까운 정수로 반올림합니다.
손익분기점 = 커피 981잔

대형 언어 모델의 인기는 2022년 가을에 급등했으며, 과학자들은 다양한 프롬프트를 통해 이러한 모델을 실험하는 데 몰두해 왔습니다. "프롬프팅" 또는 프롬프트 엔지니어링은 신중하게 제작된 일련의 입력 명령(프롬프트)을 LLM에 보내 원하는 결과를 생성하는 분야로 현재 빠르게 부상하고 있습니다. 프롬프트를 사용하여 목표를 달성하기 위한 단계의 논리적 계획을 생성하는 경우, 이를 "추론 전략"이라고도 합니다. 아래에서 인기 있는 추론 전략 중 몇 가지에 대해 살펴보세요.

• 사고의 사슬(CoT): 가장 인기 있는 추론 전략 중 하나입니다. 이 접근 방식은 복잡한 문제를 일련의 단계로 분석하도록 LLM에 지시하여 인간 스타일의 의사 결정을 모방합니다. 이 전략을 "순차적 플래너"라고도 합니다. 사고의 사슬 추론 은 수학 단어 문제를 풀고, 상식적인 추론을 이룰 수 있으며, 인간이 언어를 통해 해결할 수 있는 업무를 해결할 수 있습니다. CoT의 한 가지 이점은 엔지니어가 프로세스를 들여다보고 문제가 발생하면 무엇이 잘못되었는지 식별하여 해결할 수 있다는 점입니다.
• 추론 및 행동(ReAct): 이 전략은 LLM이 훈련받은 데이터 외에 실제 정보를 추론에 활용합니다. ReAct 기반 추론 은 인터랙티브 의사 결정과 구두 추론 등 보다 인간 같이 업무를 해결하여 오류 처리를 개선하고 환각률을 낮춘다고 잘 알려져 있습니다. 사용자 행동을 통해 추론과 행동이 시너지 효과를 발휘하여 응답의 해석 가능성과 신뢰성을 높입니다. 이 전략은 단계별 방식으로 문제 해결에 접근하고 모든 단계에서 사용자 피드백을 구하기 때문에 "단계적 플래너"라고도 합니다.
• Tree of Thoughts(ToT): 사고의 사슬 접근 방식이 변형된 것으로, 중간 단계마다 여러 사고를 생성합니다. 한 가지 추론 경로를 선택하는 대신 각 단계마다 환경의 현재 상태를 탐색하고 평가함으로써 적극적으로 앞을 내다보거나 뒤로 물러나 더 신중한 결정을 내립니다. 이 전략은 수학 게임, 창의적 글쓰기 연습, 미니 십자말 퍼즐과 같은 복잡한 업무에서 CoT보다 훨씬 뛰어난 성능을 발휘하는 것으로 입증되었습니다. ToT 추론 은 여러 옵션을 탐색하고 장단점을 따진 후 최선의 선택을 하는 인간 의사 결정 패러다임에 휠씬 더 가까운 것으로 간주됩니다.
• 계획을 통한 추론(RAP): 이 전략은 LLM을 추론 엔진과 월드 모델로 사용하여 환경 상태를 예측하고 작업의 장기적인 영향을 시뮬레이션합니다. 대체 추론 경로 탐색, 미래 상태 및 보상 예측, 기존 추론 단계를 반복적으로 다듬어 추론 성능 개선 등 여러 개념을 통합합니다. RAP 기반 추론 은 계획, 수학 추론, 논리적 추론 등의 업무에서 다양한 기준선보다 뛰어난 성능을 자랑합니다.

이는 오늘날 가장 유망한 전략 중 일부에 불과합니다. 이러한 전략을 실제 AI 애플리케이션에 적용하는 프로세스는 최적의 성능을 위해 다양한 전략을 결합하고 정밀 조정이 수반되는 반복적인 프로세스입니다.

LLM이 추론 엔진으로 작동하는 것은 매우 흥미로운 일이지만 실제로 어떻게 해야 유용하게 사용할 수 있나요? 인간에 비유하자면 LLM은 추론, 계획, 의사 결정 능력을 갖춘 두뇌와 같습니다. 하지만 작업을 수행하기 위해서는 여전히 손과 다리가 필요합니다. 추론 능력과 작업 수행 능력을 모두 갖춘 AI 시스템인 "AI 에이전트"를 소개합니다. 작업 수행에 널리 사용되는 용어에는 "도구", "플러그인", "작업" 등이 있습니다.

AI 에이전트에는 완전 자율형과 반자율형의 2가지 종류가 있습니다. 완전 자율 에이전트는 인간 개입 없이도 자율적으로 결정을 내리고 그에 따라 작업할 수 있습니다. 이러한 종류의 에이전트는 현재 실험 모드에 있습니다. 반자율 에이전트는 요청을 트리거하기 위해 "휴먼인더루프"가 포함되어 있는 에이전트입니다. 대화형 챗봇(Agentforce Assistant, ChatGPT, Duet AI 등)과 같은 AI 애플리케이션에서는 반자율 에이전트가 주로 채택되기 시작했습니다.

AI 에이전트에는 핵심 구성 요소 4가지가 있습니다.

1. 목표 - 에이전트의 기본 목표 또는 업무.
2. 환경 - 컨텍스트 정보(예: 목표, 초기 사용자 입력, 과거 활동 또는 대화 기록, 관련성에 대한 근거 데이터, 사용자 피드백, LLM이 훈련받은 데이터).
3. 추론 - 관찰하고, 다음 작업을 계획하고, 의도한 목표를 향해 최적화하기 위해 재조정할 수 있는 LLM의 구축된 능력.
4. 작업 - 일반적으로 에이전트가 목표를 달성하도록 지원하는 외부 도구. 일반적인 작업의 예로는 정보 검색, 조사, 코드 생성, 코드 해석, 대화 생성 등이 있습니다.

Agentforce Assistant은 자연어로 기업의 직원 및 고객과 상호 작용하는 Salesforce의 고급 AI 기반 대화형 어시스턴트입니다. 직원은 이를 사용하여 업무 플로우에서 다양한 업무를 달성하여 대규모로 생산성을 개선할 수 있습니다. 또한 소비자는 이를 사용하여 브랜드와 채팅하고 질문에 대한 답변을 즉시 얻어 만족도와 충성도를 높일 수 있습니다. Agentforce Assistant은 이해력 및 콘텐츠 생성과 같은 언어 기술을 위해, 그리고 복잡한 업무를 계획하기 위한 추론 엔진으로 LLM을 사용하여 사용자의 인지 부하를 줄입니다.

작동 방식은 다음과 같습니다.

1. 예를 들어, 사용자는 "웹페이지 구축"과 같이 달성하고자 하는 목표를 입력합니다.
2. Agentforce Assistant은 선별된 프롬프트를 사용함으로써 사용자 입력을 보안 LLM으로 보내 사용자의 의도를 추론합니다.
3. 의도에 따라 Agentforce Assistant은 또 다른 선별된 프롬프트를 보내 LLM에 해당 의도를 충족시키기 위한 계획을 생성하도록 지시합니다.
4. 생성된 계획은 논리적 순서로 연결된 일련의 작업입니다. Agentforce Assistant이 신뢰할 수 있는 방식으로 작동하는지 확인하기 위해 LLM은 이용 가능한 작업을 통해 엄격하게 계획을 생성하도록 지시받습니다.
5. LLM이 계획을 반환하면 Agentforce Assistant이 지정된 순서대로 작업을 실행하여 원하는 결과를 생성하고 이를 사용자에게 전달합니다.

시각적으로는 다음과 같이 보입니다.

Agentforce Assistant을 통해 기업은 추론 엔진으로 LLM을 활용할 수 있습니다. 이 도구를 통해 기업은 불과 몇 달 전만 해도 현실적으로 불가능했던 여러 업무를 AI를 사용하여 달성할 수 있습니다.

• 세일즈 팀에서 파이프라인이 얇다고 생각하는 경우, Agentforce Assistant은 데이터베이스를 스캔하여 관여시킬 가치가 있는 양질의 리드를 찾을 수 있습니다.
• 코파일럿은 잠재적인 거래를 스캔하여 위험에 처한 거래를 찾아내고, 요청이 있는 경우 관리자를 위해 기록을 요약할 수 있습니다.
• 코파일럿을 통해 서비스 에이전트는 고객의 과다 청구 문제를 해결하여 문제 해결을 위한 올바른 정보를 수집할 수 있습니다.
• 코파일럿은 잠재적 거래에 대한 현재 고객 심리를 분석하고 향후 3개월 동안 거래를 성사시키는 데 필요한 조치를 추천할 수 있습니다.

이러한 사용 사례와 이와 유사한 기타 많은 사용 사례에서 Agentforce Assistant은 기본적으로 반자율 에이전트 역할을 수행하여 LLM을 추론 엔진으로 사용하며, 사용자가 요청하면 업무를 수행하기 위한 조치를 취합니다. 이는 단지 시작에 불과합니다. 다음 단계는 Agentforce Assistant을 완전히 자율화하여 보조 역할을 수행할 뿐만 아니라 선제적이고 어디에나 존재하도록 만드는 것입니다. AI의 미래가 흥미진진하긴 하지만 그보다 더 흥미로운 것은 앞으로 다가올 글로벌 효율성이라는 결과입니다.