목록LLM (1)

고갱

[인공지능] 졸업 작품 #2, LLM + RAG

우리나라 법을 토대로 법률 상담 서비스를 졸업 작품으로 선정하고 이것저것 살펴보았다.과제도 많고 병행하는 프로젝트가 한 두개가 아니다 보니 시간적으로도 여유가 별로 나진 않았지만,틈틈히 해보는데 흥미로운 점이 많았다. 🤔 모델 선정임베딩 모델로는 'BAAI/bge-m3',LLM 으로는 'MLP-KTLim/llama-3-Korean-Bllossom-8B-gguf-Q4_K_M'을 사용하였다. 임베딩 모델은 한국어 처리 성능이 뛰어나다고 알려진 모델 중 하나로 선정하였으며,LLM은 Ollama에서 불러오기 쉽게하기 위해 일부러 해당 모델을 사용하였다. 조금 테스트 해보면서 모델을 바꾸던가 여기서 추가로 어느정도의 파인튜닝을 거치면 되지 않을까.. 하는 생각 중이다.(그래서 그냥 일단 검색해서 흔히 사용되는 ..
인공지능/졸업작품 2024. 11. 20. 20:53
이전 Prev 1 Next 다음