AI 용어 총정리 - LLM, Ollama, MCP, Agent 핵심 개념 완벽 이해

💡 팩트 브리핑

  • AI 입문에서는 대부분의 용어를 모델(Model), 서비스(Service), 런타임(Runtime), 에이전트(Agent)라는 네 가지 역할로 이해하면 구조를 파악하기 쉽습니다.
  • Ollama는 AI 모델 자체가 아니라 내 컴퓨터에서 모델을 실행해 주는 로컬 런타임(Runtime) 프로그램입니다.
  • MCP는 LLM이 외부 도구 및 데이터베이스와 통신하기 위해 사용하는 표준 프로토콜입니다.
AI 용어 총정리

AI 관련 뉴스나 기술 아티클을 읽다 보면 ChatGPT, GPT-5.5, Ollama, MCP, Agent 등 수많은 용어가 쏟아져 나와 헷갈린 적이 많으셨을 겁니다. “ChatGPT가 모델 아닌가?”, "Ollama는 AI 이름인가?"처럼 개념이 모호하게 얽히면 AI 기술을 제대로 활용하기 어렵습니다. 이번 글에서는 복잡한 AI 용어를 생태계 구조부터 핵심 개념까지 한눈에 이해할 수 있도록 명확하게 정리해 드립니다.

1. AI 생태계의 4대 핵심 축: Model, Service, Runtime, Agent

AI 생태계를 이해하는 가장 쉬운 방법은 각 기술의 역할을 구분하는 것입니다. 대부분의 AI 용어는 아래 4가지 범주 중 하나에 속합니다.

  • Model (모델 / LLM): 언어를 이해하고 답변을 생성하는 AI의 두뇌 자체입니다. (예: GPT-5.5, Gemini 3.1 Pro, Qwen3, Gemma4, Kimi K3)
  • Cloud Service (서비스): 일반 사용자가 웹이나 앱으로 AI를 사용할 수 있도록 제공하는 인터페이스입니다. (예: ChatGPT, Gemini, Claude)
  • Runtime (런타임): AI 모델을 실제로 실행(Inference)하고 관리하는 소프트웨어입니다. (예: Ollama, LM Studio, vLLM)
  • Agent (에이전트): 단순 답변을 넘어 파일 수정, 터미널 명령, Git 작업 등을 스스로 수행하는 자율형 시스템입니다. (예: Claude Code, Cline, Cursor Agent)

많은 분들이 ChatGPT와 GPT-5.5를 같은 개념으로 혼동하지만, ChatGPT는 웹 서비스이고 그 내부에서 동작하는 두뇌가 GPT-5.5 모델(작성 시점 기준)입니다.

Open Weight vs Closed Weight

로컬 PC에서 실행할 수 있는 모델인지 여부는 가중치(Weight) 공개 여부로 결정됩니다.

Weight(가중치)란?

AI가 학습을 통해 얻은 지식과 능력이 저장된 숫자들입니다. AI 모델들은 수십억 개의 Weight(숫자)로 이루어져 있습니다.

이 Weight 파일을 가지고 있어야 AI를 직접 실행할 수 있습니다.

구분 설명 대표 예시
Open Weight 가중치 파일을 직접 내려받아 로컬 실행 가능 Qwen, Gemma, Kimi, DeepSeek
Closed Weight API로만 접근 가능하며 가중치는 비공개 GPT, Claude, Gemini

GPT나 Claude를 Ollama로 못 돌리는 이유가 바로 모델의 Weight(학습된 지식)가 공개되어 있지 않기 때문입니다.

2. 로컬 AI 실행과 모델 파라미터 핵심 용어

인터넷 연결 없이 내 컴퓨터에서 AI를 직접 돌리는 Local LLM 환경이 대중화되면서 Runtime과 파일 형식 관련 용어가 중요해졌습니다.

  • Ollama: 로컬 환경에서 LLM을 다운로드하고 실행·관리하며 REST API를 제공하는 개인용 런타임입니다. (개인 개발이나 로컬 환경에서는 Ollama가 많이 사용되고, 대규모 서비스 환경에서는 vLLM이나 Hugging Face TGI 같은 추론 서버가 자주 활용됩니다.)
  • GGUF: 로컬에서 실행하기 쉽도록 만들어진 LLM 모델 파일 포맷입니다. (컴퓨터의 .jpg나 .mp4 파일 확장자와 유사한 개념입니다.)
  • Quantization (양자화): 모델의 용량을 줄이고 실행 속도를 높이기 위해 정밀도를 낮추는 기술입니다. (Q4, Q8 등으로 표기되며, 일반적으로 비트 수가 낮을수록 메모리 사용량은 줄고 실행 속도는 빨라질 수 있지만, 너무 낮게 양자화하면 모델 성능이 저하될 수 있습니다.)
  • Parameter (파라미터): 모델의 규모(크기)를 나타내며 B(Billion, 10억 개) 단위로 표현합니다. 예를 들어 8B 모델은 80억 개의 파라미터를 의미합니다.
  • Multimodal (멀티모달): AI가 텍스트, 이미지, 소리, 영상 등 여러 종류의 정보를 동시에 이해하고 처리하는 기술을 말합니다.
  • Token (토큰) & Context Window: AI가 문장을 처리하기 위해 사용하는 최소 단위를 토큰이라 하며, 한 번의 입력과 출력 과정에서 모델이 참조할 수 있는 최대 토큰 수를 Context Window라고 합니다.
    멀티모달 모델에서는 이미지나 음성도 내부적으로 모델이 처리할 수 있는 형태로 변환되어 함께 Context Window 안에서 처리됩니다.

3. 고급 AI 동작 방식: RAG, Tool Calling, MCP, Agent

최근 AI 기술은 단순한 질의응답을 넘어 외부 데이터 검색 및 자율적인 업무 수행 단계로 진화하고 있습니다.

RAG와 Hallucination

  • Hallucination (환각): 모델이 사실이 아닌 내용을 그럴듯하게 거짓으로 생성해내는 현상입니다.
  • RAG (Retrieval-Augmented Generation): 외부 문서나 데이터베이스에서 관련 정보를 먼저 검색(Retrieval)한 뒤 LLM에 전달하여 답변을 생성하게 함으로써 환각을 줄이는 데 도움을 주는 기술입니다.

Agent, Tool Calling, MCP의 관계

  1. Tool (도구): AI가 사용할 수 있는 기능 자체입니다. (예: 파일 시스템 관리, Git 사용, 웹 브라우징, DB 조회)

  2. Tool Calling (Function Calling): LLM이 필요에 따라 어떤 도구를 쓸지 선택하고 필요한 인자를 생성하여 외부 함수나 API를 호출하도록 하는 LLM의 '기능’입니다.

  3. MCP (Model Context Protocol): LLM이 외부 도구(Tool) 및 리소스(Resources), 프롬프트(Prompts)와 통신하기 위해 만든 '표준화된 프로토콜’입니다. 마치 웹의 standard인 HTTP와 같은 역할입니다.

  4. Agent (에이전트): LLM이 단순 채팅을 넘어, Tool Calling과 MCP 등을 활용해 스스로 문제를 판단하고 작업을 수행하는 '시스템’입니다.

💡 핵심 정리: Agent는 Tool Calling이라는 기능을 사용하여 복잡한 작업을 수행하는데, 이때 외부의 다양한 Tool들과 표준화된 방식으로 연결하기 위해 MCP라는 규격을 사용합니다.

자주 헷갈리는 AI 용어 한눈에 정리

헷갈리는 표현 올바른 개념
❌ ChatGPT = AI 모델 ⭕ ChatGPT는 서비스(Service), AI 모델은 GPT-5.5
❌ Ollama = AI 모델 ⭕ Ollama는 AI 모델을 실행하는 런타임(Runtime)
❌ MCP = 프로그램(앱) ⭕ MCP는 통신을 위한 표준 프로토콜(Protocol)
❌ Claude Code = LLM ⭕ Claude Code는 코딩 작업을 수행하는 AI 에이전트(Agent)

댓글

댓글 쓰기

이 블로그의 인기 게시물

주가 향방 가르는 '실적 발표', 한국과 미국 차이점 총정리

이미지
💡 팩트 브리핑 3줄 요약 실적 발표는 단순한 성적표 확인을 넘어, 기업의 미래 방향성을 검증하는 종합 평가회입니다.  한국은 '당장의 영업이익' 결과 숫자에 집중하는 반면, 미국은 '미래 전망(가이드런스)'과 치열한 질의응답에 더 크게 반응합니다.  주가 움직임은 숫자 자체보다 시장 예상치(컨센서스)와 얼마나 달랐는지에 따라 좌우됩니다. 실적 발표에서 숫자는 좋았는데도 왜 주가는 떨어질까요? 반대로 실적이 기대에 못 미쳤는데도 주가가 오르는 경우는 왜 생길까요? 실적 발표는 숫자보다 '시장 기대'와 '미래 전망'이 더 중요한 이벤트입니다. 이번 글에서는 실적 발표의 진행 과정과 한국·미국 시장의 차이, 투자자가 꼭 확인해야 할 핵심 포인트를 정리했습니다. 1. 실적 발표는 언제 이루어질까? 상장 기업은 대개 분기마다 실적을 발표하며, 주식 시장에서 가장 바쁜 실적 시즌은 주로  1월 중순~2월, 4월, 7월, 10월 입니다. 이 시기가 되면 시장은 기업들이 내놓는 성적표에 집중하게 됩니다. 실적 발표 진행 순서 4단계 핵심 재무제표 공시: 매출, 영업이익, 순이익 등 손익계산서 수치 우선 공개 부문별 성과 세분화: 사업부 및 주요 제품 라인별 세부 실적 발표 미래 전망 제시: 기업의 향후 투자 계획 및 가이던스(Guidance) 안내 경영진 컨퍼런스 콜: 경영진과 애널리스트 간의 실시간 Q&A 세션 진행 투자자가 체크해야 할 핵심 지표 5가지 매출액 및 영업이익 : 기업의 외형적 성장성과 실질적인 수익성 확인 시장 컨센서스 달성 여부 : 증권가 예상치 대비 어닝 서프라이즈/쇼크 판가름 기업 가이던스 : 경영진이 공식 발표하는 다음 분기/연간 실적 목표치 재무 건전성 및 잉여현금흐름 : 기업의 자금 유동성과 안정성 지표 전방 산업 업황 및 성장 가능성 : 기업이 속한 섹터의 향후 시장 전망 실적 발표 때 주가의 움직임은 단순한 숫자 자체보다 '시장 예상치와 얼마나 달랐는지'...
자세한 내용 보기

AI 기업 투자 전 필수 체크! CAPEX 뜻과 OPEX 차이 총정리

이미지
💡 팩트 브리핑 3줄 요약 CAPEX는 미래 성장을 위해 설비나 인프라 등 장기 자산에 투자하는 자본적 지출입니다. 일상 운영비인 OPEX와 달리 CAPEX는 자산으로 계상된 후 감가상각을 통해 비용 처리됩니다. 빅테크의 AI 과잉 투자 우려가 커진 만큼 CAPEX 대비 수익성(ROIC) 확증이 중요해졌습니다. AI 관련주나 빅테크 기업에 투자할 때 실적 발표에서 가장 자주 등장하는 단어 중 하나가 바로 'CAPEX'입니다. 막대한 투자 금액이 발표될 때마다 주가가 상반된 반응을 보여 초보 투자자들을 혼란스럽게 만들곤 합니다. 이번 글에서는 CAPEX의 정확한 개념과 OPEX와의 차이점, 그리고 AI 시대에 CAPEX 분석이 왜 중요한지 핵심 포인트를 알아봅니다. CAPEX란 무엇인가? OPEX와의 핵심 차이점 CAPEX(Capital Expenditures, 자본적 지출)는 기업이 장기간 사용할 자산을 취득하거나 기존 자산의 가치를 높이기 위해 지출하는 비용을 의미합니다. 쉽게 말해 단기 소모성 경비가 아닌 미래의 성장을 위한 장기 투자금 입니다. 회계 처리 방식에서도 일반 운영비와 명확한 차이를 보입니다. CAPEX는 지출한 해에 전액 비용으로 처리하지 않고 일단 자산 으로 기록한 뒤, 사용 기간에 걸쳐 감가상각(Depreciation) 을 통해 나누어 비용으로 인식합니다. 반면, 기업의 일상적인 활동에 들어가는 비용은 OPEX(Operating Expenditures, 운영비)로 분류되어 당기 비용으로 바로 처리됩니다. 📊 CAPEX vs OPEX 핵심 비교 정리 1. CAPEX (자본적 지출) 목적: 장기 성장 및 경쟁력 확보 (미래를 위한 투자) 회계 처리: 자산으로 계상한 뒤, 사용 기간에 걸쳐 감가상각을 통해 비용 처리 대표 예시: 공장 건설, 데이터센터 구축, 서버 직접 구매 2. OPEX (운영비) 목적: 일상적인 기업 운영 및 유지 회계 처리: 지출 ...
자세한 내용 보기