6 Open-Source AI Projects You Must Try (Agents, RAG & Fine-Tuning)

https://civillearning.medium.com/6-open-source-github-repositories-for-ai-engineers-f2e1fc4e37e5

6 Open-Source AI Projects You Must Try (Agents, RAG & Fine-Tuning)

 

오픈소스로 제공되는 6개의 AI 프로젝트/플랫폼을 다루고 있는 포스트이다.

이 중에서 내가 사용해볼만한 것들을 위주로 정리해보았다.

 

---

📌 Transformer Lab : Tinker-Friendly LLM Playground

친근한 실험용 LLM 플레이그라운드로, Transformer Lab이 있다.

클라우드 서비스에 의존하기보다 내 PC에서 직접 수정하고 싶다면, Transformer Lab을 한 번 살펴볼만 하다.

 

여기서는 다음과 같은 작업이 가능하다 :

▪️ 모델 학습 또는 파인튜닝

▪️ 클릭 한 번으로 모델 다운로드 (허깅페이스에서 복붙할 필요 없음)

▪️ 드래그 앤 드롭 인터페이스로 간단한 RAG 환경 구축

▪️ 추가 코드 없이 로그 관리

 

즉, 다양한 LLM 관련 작업을 손쉽게 할 수 있는 애플리케이션이다.

 

무엇보다 좋은 점은 모든 것이 로컬에서 실행되므로 데이터가 온전히 내 소유로 남는다는 것이다.

한마디로 표현하자면, Transformer Lab은 모델을 위한 플레이그라운드와 제어판이 합쳐진 멋진 도구라고 할 수 있다.

 

파인튜닝 실습을 더 진행보고 싶었는데, Transformer Lab을 활용해보아야겠다.

 

 

 

📌  RAGFlow

보통 'PDF랑 대화하는 틀'이라고 하면 떠올리는 단순한 수준이 아니다.

RAGFlow는 이름 그대로, 기업 환경에서 요구하는 진짜 엔터프라이즈급 문서 처리에 맞춰 설계된 도구라 한다.

 

- 100페이지가 넘는 계약서

- 방대한 보고서와 제무제표

- 복잡한 세금계산서와 인보이스

- 심지어 텍스트와 이미지가 섞인 멀티모달 데이터까지

 

이런 자료를 제대로 다루려면, 단순 검색 + 요약으로는 한계가 있다.

RagFlow는 바로 그 한계를 넘는 엔진이다.

 

- 믿을 수 있는 출처 (citation) 제공

- 텍스트와 이미지 모두 처리 가능

- 리서치 업무 최적화

로 이미 Github 스타 6만+를 달성했다고 한다.

 

즉, 회사에 문서가 산더미처럼 쌓여있고, 환각없는 AI Assistant가 필요하다면 사용해볼 것~!

 

cf. 방대한 자료를 어떻게 핸들링하는건지를 더 알아볼 필요가 있겠다!

 

 

 

 

 

📌 AutoAgent : 코드 없는 에이전트 빌더

내가 원하는 에이전트를 말로만 설명하면, 알아서 만들어주면 얼마나 좋을까?

바로 그 아이디어를 실현한 게 AutoAgent다.

 

예를 들어,

"고객 지원 질문에 답변하고, 그 결과를 데이터베이스에 저장하는 에이전트를 만들어줘"

 

라고 한다면 AutoAgent가 그대로 세팅해준다.

 

▪️ 다양한 LLM 지원

▪️ 자체 벡터 데이터베이스 내장

▪️ Function Calling 또는 ReAct 스타일 상호작용 모드 전환 가능

 

한마디로, 옆에서 바로바로 만들어주는 개발자 친구 같은 존재다.

 

 

 

 

📌 LlaMA-Factory : 번거로움 없는 파인튜닝

 

예전엔 파인튜닝이라는 게 GPU와 씨름하고, 스크립트 수정하고, 끝없는 설정 파일을 다뤄야 하는 과정이었다.

하지만 LlaMA-Factory는 이 과정을 간단하게 바꿔버렸다.

 

가능한 것들 :

▪️ 100개 이상의 LLM/VLM 파인튜닝 지원

▪️ 멀티모달 파인튜닝 실험 가능

▪️ PPO, DPO 등 다양한 최적화 기법 활용

▪️ 실험 결과 손쉬운 트래킹

 

예를 들어 회사의 과거 고객지원 티켓 데이텉로 모델을 학습시키고 싶다면,

이제는 커스텀 스크립트 없이도 바로 가능하다.

 

 

 

 

📌 Anything LLM : 모든 걸 아우르는 하나의 앱

여러 개의 툴을 따로따로 저글링하고 싶지 않다면, 이게 제일 쉬운 선택일 것이다.

 

할 수 있는 일은 :

▪️ 문서와 대화하기

▪️ AI 에이전트 빌드 & 실행

▪️ 멀티 유저 지원

▪️ 디테일하게 설정하거나, 그냥 기본값 그대로 실행 가능

▪️ 로컬 또는 Docker에서 바로 사용 가능

 

---

요약을 해보자면,

 

 

• The Sim AI → 비주얼 AI
• Transformer Lab → 로컬 LLM 실험
• RAGFlow → 엔터프라이즈급 RAG 파이프라인
• AutoAgent → 제로코드 에이전트 빌딩
• LLaMA-Factory → 손쉬운 파인튜닝 (100+ 모델 지원)
• Anything LLM → 올인원 AI 앱