에이전트 / AI 개발 개념

LLM(Large Language Model)

LLM은 많은 언어 데이터를 학습해 입력 문맥에 맞는 글이나 코드를 생성하는 대규모 언어 모델입니다.

쉬운 설명

AI 앱의 설정에서 “사용할 모델을 선택하세요”라는 안내를 만나게 돼요. LLM은 Large Language Model의 줄임말로, 질문이나 문서를 입력받아 답변과 요약, 코드를 만드는 데 사용돼요. 우리가 사용하는 앱 전체와 그 안에서 답변을 만드는 모델은 구분할 수 있어요. 모델이 만든 코드가 실제로 실행되려면 실행 환경과 도구가 별도로 필요해요.

이런 상황에서 만나요

회의록을 정리하는 앱에서 같은 문서를 넣었는데 모델을 바꾸니 요약 방식이 달라졌다고 해 볼게요. 모델 이름뿐 아니라 전달한 문서와 지시도 함께 확인해야 비교할 수 있어요.

앱에서 모델에 전달하는 내용을 구분해요

설명용 화면

1입력 자료

회의록: 다음 주 토요일에 첫 모임을 진행한다.

2작업 지시

회의록에 있는 결정 사항만 한 줄로 정리해 줘.

3생성 결과 예시

결정 사항: 다음 주 토요일 첫 모임 진행

1모델이 이번 요청에서 참고할 문서 예시예요.
2같은 모델도 요청 조건에 따라 다른 형태로 답할 수 있어요.
3답변이 원문의 내용과 일치하는지 확인해요.

문서와 요청을 입력받아 답변을 생성하는 가상 예시입니다. 특정 모델의 실제 출력이나 성능 비교 결과는 아닙니다.

어느 모델을 쓸지 비교할 때는 같은 문서와 같은 요청으로 결과를 확인해 보세요. 빠뜨리면 안 되는 결정 사항이나 형식 같은 평가 기준도 정해요. “찾아봤다”는 답변만으로 검색이 실행됐다고 생각하지 말고 출처와 도구 기록을 확인해요.

헷갈리기 쉬운 점

LLM은 답변할 때마다 인터넷을 검색하나요?

모델의 글 생성과 검색 도구 사용은 별개예요. 앱이 검색을 연결하고 실제로 사용한 경우에 최신 자료를 가져올 수 있어요. 모델이 학습한 내용만으로 만든 답변에는 오래됐거나 틀린 정보가 포함될 수 있어요.

문장이 자연스럽다고 사실까지 맞는 것은 아니에요. 중요한 숫자와 인용, 코드 동작은 원문이나 실제 실행으로 확인하세요. 모델별로 처리할 수 있는 입력과 길이, 비용 조건도 다를 수 있어요.

왜 알아야 할까요?

앱의 기능과 모델의 답변 능력을 나눠 볼 수 있어요. 답이 달라졌을 때 모델·입력 자료·지시 중 무엇이 바뀌었는지 비교할 수 있어요.

조금 더 자세히

언어 모델은 문맥을 바탕으로 다음에 이어질 토큰을 예측하는 방식으로 텍스트를 생성합니다. 토큰은 모델이 처리하는 텍스트의 단위이며 글자 수와 항상 같지는 않습니다.

학습 단계에서 얻은 정보와 지금 요청에 넣은 문서·대화는 구분됩니다. 문서를 입력했다고 모델의 학습된 내용이 즉시 다시 훈련되는 것은 아닙니다. 검색이나 파일 읽기로 가져온 정보도 요청의 문맥으로 사용할 수 있습니다.

직접 사용할 때 확인해 보세요

앱 이름과 선택한 모델을 구분한다
같은 입력과 기준으로 결과를 비교한다
사실과 코드 동작을 원문·실행으로 확인한다

참고 자료

관계 지도

LLM(Large Language Model)의 정의와 관련 개념 간 관계를 설명한 계층형 그래프 — LLM(Large Language Model) 중심으로 관련 개념의 정의와 관계를 한눈에 정리했습니다.

현재 개념 LLM(Large Language Model)

함께 쓰일 때의 의미

토큰(Token) 모델이 입력과 출력을 처리하는 단위입니다. 프롬프트(Prompt) 모델에 원하는 작업과 답변 조건을 전달합니다. RAG(Retrieval-Augmented Generation) 검색한 자료를 모델의 입력에 더해 답변을 만들 수 있습니다. 에이전트(Agent) 모델의 판단을 도구 실행과 연결하는 시스템입니다.