최술사의 모두의 ICT 기술 통섭

1. 개요LLM, sLLM, SLM은 모두 트랜스포머 기반 언어모델이나, 파라미터 규모,자원 요구,적용 영역에서 차별화되는 계층적 모델군임대규모 범용지능(LLM)에서 경량화 범용(sLLM), 특화 및 온디바이스용(SLM)으로 스펙트럼을 형성하며, 성능과 비용,지연,프라이버시 요구에 따라 적정 모델을 선택하는 것이 핵심임 2. LLM, sLLM, SLM 가. 개념구분주요 내용LLM(Large Language Model)- 수십~수천억(또는 그 이상) 파라미터를 가지는 초대형 트랜스포머 기반 언어모델로, 대규모 코퍼스를 사전학습하여 범용 질의응답·코드생성·요약 등 광범위 작업을 수행- 높은 표현력과 추론능력을 가지나, 막대한 연산자원·비용, 긴 지연과 환경·프라이버시 이슈가 수반됨sLLM(smaller La..

1. 개요RAG(Retrieval-Augmented Generation)는 외부 지식 검색 결과를 생성형 AI 입력에 결합해 최신·정확한 답변을 생성하는 아키텍처Vector RAG는 벡터 임베딩 기반 유사도 검색, Graph RAG는 그래프 구조 기반 관계 검색에 특화되어, 도메인 구조와 질문 난이도에 따라 선택 및 혼용2. RAG, Vector RAG 및 Graph RAG가. 개념구분주요 내용RAG RAG는 질문→관련 문서 검색→LLM에 함께 입력→답변 생성의 파이프라인으로, 모델 파라미터 밖의 지식을 실시간 활용하는 프레임워크내부 파라미터 지식 한계를 극복하고, 도메인 문서·DB·API 등 다양한 외부 지식 소스를 통합하는 것이 핵심Vector RAG 문서,단락,문장을 임베딩 벡터로 변환 후, 질문..