LLM Workflow 직접 구현기 : LangChain이 하는 일을 구현해보자

https://github.com/seonwoonam/python-AI-agent

최근 AI agent를 개발하기 위해 LangChain 프레임워크를 활용하여 편리하게 구현 한다. LangChain은 체이닝, 라우팅와 같은 LLM Workflow 기능을 제공하여 더 효과적인 LLM들끼리의 조합을 돕고 있다. 이와 같은 LLM Workflow들 중 일부를 파이썬으로 구현해보고자 한다.

왜 직접 구현해서 써보는게 좋을까?

• LangChain과 같은 프레임워크를 이용하다보면 결국에 한 단계 더 복잡한 추상화 레이어를 씌우는 꼴이다.
• 어떻게 내부적으로 작동하는지 이해하기 어려울 수 있다.
• 파이썬만 이용해도 간단하게 구현할 수도 있다.
• 추후 AI agent에서 사용하게 된다면 더욱 커스텀한 기능을 구현할 수 있다.

이러한 프레임워크들에 대한 기본적인 이해도를 높이고, 깊이있게 활용해보기 위해 직접 LLM Workflow를 구현해보고자 한다.

구현

Routing

• 질문이 들어왔을 때 질문 특성에 따라 어떤 AI 모델을 사용하는 것이 최적일지 선택하는 과정