1편에서는 AI의 기본 개념과, AI를 쓰기 시작하면 바로 만나는 용어들을 정리했어요.
LLM, 프롬프트, 토큰, 할루시네이션 같은 것들이요. 아직 안 읽으셨다면 1편부터 보시는 걸 추천해요.
1편 보러가기 👉 AI 용어 총정리 2026 — 기본 개념부터 차근차근 ①
2편에서는 한 발 더 나아가요.
AI를 단순히 "질문하고 답 받는 것"을 넘어서, 실제 업무에 도구로 활용하거나 직접 환경을 세팅할 때 만나는 용어들을 정리할 거예요.
여기 나오는 용어들은 대부분 최근 1~2년 사이에 생기거나 급부상한 것들이에요.
AI가 빠르게 발전하면서 그만큼 새로운 개념도 빠르게 쌓이고 있다는 뜻이기도 해요.
AI를 더 잘 쓰는 기술 🎯
AI를 쓰다 보면 자연스럽게 "어떻게 하면 더 잘 쓸 수 있을까?"라는 질문이 생겨요.
이 영역에서 방법론이 빠르게 진화하고 있는데, 그 흐름을 한번 따라가볼게요.
프롬프트 엔지니어링 (Prompt Engineering)
1편에서 프롬프트가 AI한테 하는 말이라고 했잖아요. 프롬프트 엔지니어링은 그 말을 전략적으로 잘 하는 방법이에요.
예를 들어 AI한테 역할을 부여하거나, 예시를 먼저 보여주거나, 단계별로 생각하게 하거나, 출력 형식을 지정하는 것 같은 기법들이 있어요.
원래는 AI를 잘 쓰려면 이 프롬프트 엔지니어링을 잘하면 충분하다고 했어요.
"AI한테 잘 말하면 잘 대답한다"는 거였죠. 실제로 프롬프트를 어떻게 쓰느냐에 따라 결과가 크게 달라지니까요.
그런데 AI가 점점 더 복잡한 일을 하게 되면서, 프롬프트만으로는 한계가 드러나기 시작했어요. 그래서 다음 단계가 나왔어요.
컨텍스트 엔지니어링 (Context Engineering)
프롬프트 엔지니어링이 "AI한테 뭘 말할까"였다면, 컨텍스트 엔지니어링은 "AI한테 어떤 맥락을 줄까"예요.
같은 질문이라도 AI한테 어떤 배경 정보를 함께 주느냐에 따라 답이 완전히 달라지거든요.
"마케팅 전략 세워줘"라고만 하는 것과, 우리 회사 소개, 지난 분기 매출 데이터, 타겟 고객 분석 자료를 함께 넣어주고 "이 맥락에서 마케팅 전략 세워줘"라고 하는 건 차원이 다른 결과가 나와요.
핵심은, 좋은 프롬프트를 쓰는 것만으로는 부족하고 AI한테 주는 정보의 질과 구조 자체를 설계해야 한다는 거예요.
2025~2026년에 가장 주목받는 개념 중 하나이고, "프롬프트를 잘 쓰는 시대에서 맥락을 잘 설계하는 시대로 넘어가고 있다"는 이야기가 많이 나오고 있어요.
하네스 엔지니어링 (Harness Engineering)
컨텍스트 엔지니어링에서 한 단계 더 나아간 개념이에요.
하네스는 원래 말의 고삐를 뜻하는데, AI에서는 AI가 일하는 환경 전체를 설계하는 것을 말해요.
프롬프트 엔지니어링이 "뭘 말할까", 컨텍스트 엔지니어링이 "어떤 맥락을 줄까"였다면, 하네스 엔지니어링은 "AI가 실수하지 않도록 주변 시스템을 어떻게 짤까"예요.
예를 들어 AI 에이전트한테 "코드를 작성해"라고 시킬 때, 코드를 쓰기 전에 반드시 테스트를 통과하게 하고, 특정 파일은 건드리지 못하게 제한하고, 작업 결과를 자동으로 검토하는 과정을 설계하는 거예요.
AI 자체를 더 똑똑하게 만드는 게 아니라, AI가 일하는 환경의 규칙과 안전장치를 설계하는 거죠.
이게 왜 중요하냐면, OpenAI 엔지니어들이 직접 코드를 한 줄도 치지 않고 5개월간 프로덕션 코드 100만 줄을 만든 사례가 있는데, 핵심이 "더 좋은 모델"이 아니라 바로 이 하네스 설계였어요. 2026년 현재 AI 개발에서 가장 뜨거운 주제 중 하나예요.
정리하면, AI를 잘 쓰는 방법론이 이렇게 진화해 온 거예요.
프롬프트 엔지니어링 (AI한테 잘 말하기) → 컨텍스트 엔지니어링 (AI한테 좋은 맥락 주기) → 하네스 엔지니어링 (AI가 일하는 환경 자체를 설계하기)
RAG (Retrieval-Augmented Generation)
RAG는 검색 증강 생성이라는 뜻인데, 풀어서 말하면 AI가 답변하기 전에 관련 자료를 먼저 찾아보고 그걸 참고해서 답하는 방식이에요.
원래 AI는 학습할 때 본 데이터만 가지고 답해요. 그래서 학습 이후에 나온 최신 정보나, 우리 회사 내부 문서 같은 건 알 수가 없었어요.
모르는 건 모른다고 하면 좋겠는데, 1편에서 말한 할루시네이션 때문에 그럴듯하게 지어내기도 하죠.
RAG가 생기면서 이 문제가 해결됐어요. AI가 답하기 전에 먼저 관련 자료를 검색하고, 그 자료를 참고해서 답변을 만드는 거예요.
예를 들어 회사 내부 매뉴얼을 RAG로 연결해두면, AI가 그 매뉴얼을 보면서 직원 질문에 답할 수 있게 돼요.
Perplexity라는 AI 검색 서비스가 대표적인 RAG 활용 사례예요. 질문하면 웹에서 자료를 먼저 찾고, 그걸 기반으로 답해주거든요.
일반 AI가 "기억에서 꺼내 답하는" 거라면, RAG는 "찾아보고 답하는" 거예요.
병목현상 (Bottleneck)
특정 구간이 막혀서 전체 흐름이 느려지는 현상이에요.
원래 제조업에서 쓰던 말인데, AI에서도 자주 나와요. 예를 들어 AI한테 매일 보고서를 만들게 하는 자동화를 만들었다고 해볼게요.
AI가 글을 쓰는 건 빠른데, 데이터를 가져오는 과정이 느리면 전체가 느려져요.
이때 "데이터 수집 단계가 병목이다"라고 해요. 가장 느린 구간이 전체 속도를 결정하는 거예요.
AI 강의나 자동화 관련 글에서 "어디가 병목인지 찾아라"는 말이 자주 나오는데, "전체 과정에서 가장 막히는 지점을 찾아서 해결하라"는 뜻이에요.
AI를 도입해도 효과가 없다면, AI 자체의 문제가 아니라 다른 단계가 병목일 수 있어요.
AI가 직접 행동하는 시대 🤖
여기서부터가 2025~2026년에 가장 크게 변한 영역이에요. AI가 "답해주는 존재"에서 "직접 일하는 존재"로 바뀌고 있거든요.
AI 에이전트 (AI Agent)
AI가 스스로 판단하고, 여러 단계의 작업을 알아서 수행하는 것이에요.
원래 AI는 물어보면 답하는 수준이었어요. "이메일 초안 써줘"라고 하면 초안을 써주는 것까지가 전부였죠. 그런데 에이전트는 달라요.
"이번 달 매출 보고서 만들어줘"라고 하면, 스스로 데이터를 찾고, 분석하고, 정리해서 보고서까지 만들어줘요.
한 번 시키면 여러 단계를 알아서 해내는 거예요.
"물어보면 답하는 존재"에서 "시키면 알아서 해내는 존재"로 바뀐 거예요.
요즘은 에이전틱 AI(Agentic AI)라는 표현이 더 자주 쓰이는데, "에이전트처럼 행동하는 AI"라는 뜻이에요.
2025~2026년 AI의 가장 큰 흐름이 바로 이 에이전트예요.
헤르메스 (Hermes)
AI 에이전트가 개념이라면, 헤르메스는 에이전트로 활용할 수 있는 대표적인 AI 모델이에요.
Nous Research에서 만든 오픈소스 모델인데, 2026년 2월에 Hermes Agent로 출시되면서 크게 주목받았어요.
출시 3개월 만에 GitHub 스타 14만 개를 돌파했고, NVIDIA가 RTX PC에서 직접 지원할 정도예요.
헤르메스가 특별한 이유는 도구 호출(function calling)에 최적화돼 있다는 거예요.
일반적인 AI는 글을 쓰고 대화하는 데 강하지만, 헤르메스는 "슬랙 메시지를 보내", "캘린더에 일정을 추가해", "파일을 정리해" 같은 외부 도구 조작에 특화돼 있어요. 그래서 AI 에이전트를 직접 만들거나 자동화를 구축할 때 핵심 모델로 많이 쓰여요.
오픈소스라서 누구든 무료로 가져다 쓸 수 있고, 앞에서 설명한 하네스 엔지니어링과 결합해서 쓰는 경우가 많아요.
MCP (Model Context Protocol)
AI가 외부 도구나 서비스와 연결되는 표준 규격이에요.
원래 AI는 대화만 할 수 있었어요. 뭘 물어보면 답해주는 것까지가 전부였죠.
슬랙 메시지를 읽어달라고 해도 "저는 슬랙에 접근할 수 없어요"라고 했어요. AI의 능력과 바깥 세상 사이에 벽이 있었던 거예요.
MCP가 생기면서 이 벽이 무너졌어요. MCP는 AI가 외부 서비스에 접근하는 방식을 하나의 규격으로 통일한 거예요. 이 규격 덕분에 AI가 슬랙, 캘린더, 먼데이닷컴, 파일 시스템 등 다양한 도구에 연결될 수 있게 됐어요.
예를 들어 Claude한테 "내 슬랙 메시지 요약해줘"라고 하면, MCP를 통해 슬랙에 접근해서 메시지를 읽고 정리해줄 수 있어요. "내 캘린더 확인해서 이번 주 빈 시간 알려줘"도 가능하고요. AI가 "말만 하는 존재"에서 "직접 행동하는 존재"로 넘어가는 데 핵심이 된 기술이에요.
플러그인 / 스킬 / 익스텐션 / GPTs
AI의 능력을 확장하는 것과 관련된 단어들인데, 자주 함께 언급되다 보니 헷갈리기 쉬워요. 하나씩 짚어볼게요.
먼저 앞에서 설명한 MCP를 떠올려 보세요.
MCP는 AI가 슬랙, 캘린더, 데이터베이스 같은 외부 서비스에 연결되는 규격이에요. 연결 통로를 만들어주는 거예요.
스킬은 이것과 역할이 달라요. 스킬은 AI의 지식과 기능 자체를 확장하는 거예요.
예를 들어 "엑셀 파일을 이런 방식으로 만들어", "PDF를 이렇게 처리해" 같은 작업 방법과 지시를 AI한테 가르쳐주는 거예요.
MCP가 "어디에 연결할지"라면, 스킬은 "무엇을 어떻게 할지"에 해당해요.
플러그인은 이 둘을 하나로 묶은 설치 패키지예요.
MCP 서버(연결) + 스킬(기능) + 기타 설정을 세트로 묶어서, 한 번에 설치할 수 있게 만든 거예요.
하나하나 따로 설정할 필요 없이 플러그인 하나만 설치하면 연결과 기능이 한꺼번에 추가되는 거죠.
정리하면 이런 관계예요.
- MCP = 외부 서비스와 연결하는 규격 (통로)
- 스킬 = AI의 지식과 기능을 확장 (능력)
- 플러그인 = MCP + 스킬을 세트로 묶은 패키지 (배포 단위)
GPTs(커스텀 GPT)는 ChatGPT 쪽의 개념이에요.
ChatGPT를 특정 목적에 맞게 미리 세팅해둔 버전인데, 역할, 지식, 응답 방식을 미리 설정해서 누구든 쓸 수 있게 공유하는 기능이에요. "마케팅 전문가 GPT", "논문 분석 GPT" 같은 것들이에요. 원래 ChatGPT에도 "플러그인"이 있었는데 2024년에 단종되고 GPTs로 대체됐어요.
익스텐션(확장 프로그램)은 주로 브라우저에 기능을 추가하는 것을 말해요. Chrome 익스텐션처럼요.
AI 도구들이 브라우저 익스텐션 형태로 제공되는 경우가 많아서 함께 알아두면 좋아요.
이 단어들이 헷갈리는 이유는, 전부 "AI한테 뭔가를 더해준다"는 맥락에서 나오기 때문이에요.
하지만 각각 하는 역할이 다르고, 특히 MCP·스킬·플러그인은 상하 관계가 있다는 걸 알아두면 명확하게 구분할 수 있어요.
그리고 에이전트는 이런 MCP 연결과 스킬을 스스로 조합해서 일하는 AI예요.
API (Application Programming Interface)
AI를 다른 서비스나 프로그램 안에서 가져다 쓸 수 있게 해주는 통로예요.
우리가 ChatGPT 웹사이트에서 대화하는 건 ChatGPT의 화면을 직접 쓰는 거예요.
그런데 쇼핑몰에서 고객 문의에 AI가 자동으로 답하게 하고 싶다면? ChatGPT 웹사이트를 열어두는 게 아니라, AI의 능력만 가져다가 쇼핑몰 시스템 안에서 작동하게 해야 해요. 이때 쓰는 게 API예요.
API는 AI 이전부터 있던 개념이에요. 네이버 지도를 다른 앱에서 쓸 수 있는 것도 API 덕분이고, 카카오 로그인을 다른 사이트에서 쓸 수 있는 것도 API예요. AI 시대가 되면서 "AI API"가 특히 자주 언급되고 있는 거죠.
비개발자라면 직접 API를 다룰 일은 적지만, "API 연동"이라는 말이 뭔 뜻인지 알아두면 AI 관련 대화에서 막히지 않아요.
AI로 만드는 시대 🛠️
AI가 대화 상대를 넘어서 "무언가를 만드는 도구"가 되고 있어요. 코드를 모르는 사람도 AI를 통해 서비스를 만들 수 있는 시대가 열렸어요.
바이브 코딩 (Vibe Coding)
코드를 모르는 사람이 AI한테 말로 설명해서 프로그램을 만드는 것이에요.
원래 프로그램을 만들려면 프로그래밍 언어를 배우고 직접 코드를 써야 했어요.
그런데 AI가 코드를 대신 써줄 수 있게 되면서, 아이디어만 있으면 누구나 프로그램을 만들 수 있게 됐어요.
"회원가입 페이지 만들어줘"라고 AI한테 말하면, AI가 코드를 써주고 실행까지 해줘요.
"바이브"라는 이름처럼 느낌만 전달하면 AI가 알아서 만들어준다는 뜻이에요.
바이브 코딩을 할 수 있는 도구도 빠르게 늘어나고 있어요. 크게 세 가지 종류로 나눌 수 있어요.
AI 코드 에디터
Cursor, Windsurf 같은 도구예요. 개발 환경 안에 AI가 결합돼 있어서, 자연어로 지시하면 코드를 생성해줘요.
원래 개발자용이지만, 바이브 코딩 도구로도 많이 쓰여요.
AI 웹 빌더
v0, Bolt, Lovable 같은 도구예요. "이런 웹사이트 만들어줘"라고 말하면 디자인과 코드를 한번에 만들어줘요. 비개발자가 가장 접근하기 쉬운 형태예요.
AI 개발 프레임워크
bkit 같은 도구예요. Claude Code 위에서 체계적인 개발 프로세스를 잡아주는 프레임워크인데, 단순히 "만들어줘"를 넘어서 계획-설계-실행-검증까지 구조화해줘요.
이 분야는 새로운 도구가 정말 빠르게 나오고 있어서, 지금 이 순간에도 늘어나고 있어요.
중요한 건 특정 도구보다 "바이브 코딩"이라는 흐름 자체를 아는 거예요.
워크플로우 / 노코드 / 로우코드
바이브 코딩이 "프로그램을 만드는 것"이라면, 여기서는 반복되는 업무를 자동화하는 것에 대한 이야기예요.
먼저 워크플로우(Workflow)라는 단어부터 알아야 해요. 워크플로우는 반복되는 업무의 흐름이에요.
예를 들어 "이메일이 오면 → 내용을 확인하고 → 중요한 건 슬랙에 공유하고 → 나머지는 폴더에 정리한다" 이 전체 과정이 하나의 워크플로우예요.
예전에는 이 흐름을 사람이 하나하나 직접 처리했는데, AI와 결합되면서 자동으로 돌아가게 만들 수 있게 됐어요.
"AI 자동화"라고 할 때 대부분 이 워크플로우를 자동화하는 걸 말해요.
이 워크플로우를 코드 없이 만들 수 있게 해주는 게 노코드/로우코드(No-code/Low-code) 도구예요.
코드를 전혀 쓰지 않고(노코드) 또는 아주 적게 쓰면서(로우코드) 자동화를 만드는 방식인데, 대표적인 도구들이 있어요.
n8n
오픈소스 워크플로우 자동화 도구예요. 블록을 연결하듯이 자동화를 만들 수 있고, 무료로 쓸 수 있어요.
Make
시각적으로 워크플로우를 만드는 도구예요. "이메일이 오면 → AI가 요약해서 → 슬랙에 보내줘" 같은 자동화를 드래그 앤 드롭으로 만들 수 있어요.
Zapier
가장 오래되고 널리 쓰이는 자동화 도구예요. 연결할 수 있는 서비스가 많아서 시작하기 쉬워요.
정리하면, 바이브 코딩이 "AI한테 말로 시켜서 프로그램을 만드는 것"이라면, 노코드는 "블록을 조립해서 업무 자동화를 만드는 것"이에요.
둘 다 코드를 모르는 사람이 무언가를 만들 수 있게 해준다는 공통점이 있어요.
GitHub
코드와 프로젝트를 저장하고 공유하는 플랫폼이에요. 개발자들의 작업 공간 같은 곳인데, AI를 공부하다 보면 개발자가 아니어도 계속 만나게 돼요.
왜냐하면 오픈소스 AI 모델, 플러그인, 도구들이 대부분 GitHub에 올라와 있거든요.
앞에서 "헤르메스가 GitHub 스타 14만 개를 받았다"고 했는데, 이때 "스타"는 GitHub에서 "좋아요" 같은 거예요. 프로젝트의 인기를 나타내요.
AI 관련 새로운 도구를 설치하거나 사용법을 찾으려면 GitHub 페이지를 방문하는 경우가 정말 많아요.
직접 코드를 올리지 않더라도, AI 생태계를 따라가려면 GitHub이 뭔지는 알아두는 게 좋아요.
요즘은 GitHub 자체에도 AI(GitHub Copilot)가 결합돼서, 코드 작성부터 프로젝트 관리까지 AI가 도와주는 플랫폼으로 진화하고 있어요.
AI와 함께 정리하고 관리하기 📚
AI가 정보를 다루는 방식이 바뀌면서, 개인이 지식을 정리하고 관리하는 방법도 함께 바뀌고 있어요.
PKM (Personal Knowledge Management)
자기가 배운 것, 메모한 것, 읽은 것을 체계적으로 정리하고 관리하는 방법이에요. AI 이전부터 있던 개념인데, AI와 만나면서 크게 주목받고 있어요.
원래 메모나 노트 정리는 적어두는 것까지가 전부였어요. 나중에 다시 찾으려면 어디에 적었는지 기억해야 했고, 메모가 쌓일수록 관리가 어려워졌죠.
그런데 AI가 결합되면서, 내가 쌓아둔 메모를 AI가 읽고 검색해주고 요약해줄 수 있게 됐어요.
대표적인 도구들을 소개할게요.
옵시디언(Obsidian)
메모를 적고, 메모끼리 연결하고, 거기에 AI 플러그인을 붙여서 내 메모를 기반으로 질문하거나 요약할 수 있는 도구예요.
"두 번째 뇌(Second Brain)"를 만든다는 컨셉으로 유명하고, 마크다운을 기본 문법으로 써요.
요즘 AI에 관심 있는 사람들 사이에서 빠르게 퍼지고 있어요.
노션(Notion)
원래는 메모와 문서 중심의 도구였는데,
2025년에 "Everything is database"라는 대규모 업데이트를 하면서 데이터베이스 중심 플랫폼으로 방향을 바꿨어요.
지금은 문서, 데이터베이스, 프로젝트 관리에 더해 메일, 캘린더까지 통합된 종합 업무 플랫폼에 가까워요.
Notion AI도 결합돼서 문서 안에서 바로 AI한테 질문하거나 요약을 시킬 수 있고, AI 에이전트가 워크플로우를 자동화해주는 기능까지 나왔어요.
이미 쓰고 있는 분들도 많을 거예요.
NotebookLM
구글에서 만든 서비스로, 문서를 올리면 AI가 그 문서를 읽고 대화해줘요.
내 자료만을 기반으로 답해주니까 할루시네이션이 줄어드는 장점이 있어요. RAG가 적용된 서비스라고 볼 수 있어요.
이런 도구들이 주목받는 건, 결국 AI를 잘 쓰려면 내가 가진 정보를 잘 정리해야 하기 때문이에요.
AI한테 좋은 맥락을 주려면(컨텍스트 엔지니어링), 그 맥락이 될 자료가 잘 정리돼 있어야 하거든요. 🧠
직접 환경을 구축하려면 ⚙️
여기서부터는 AI를 단순히 쓰는 것을 넘어서, 직접 설치하거나 커스텀하는 영역이에요.
당장 필요하지 않을 수 있지만, AI를 더 깊이 다루고 싶을 때 만나게 되는 개념들이에요.
파인튜닝 (Fine-tuning)
이미 만들어진 AI 모델을 특정 목적에 맞게 추가 학습시키는 것이에요.
기본 AI는 범용적으로 두루 잘하지만, 특정 분야의 전문성은 부족할 수 있어요. 파인튜닝을 하면 그 분야에 특화된 AI가 돼요.
예를 들어 의료 데이터로 파인튜닝하면 의료 질문에 더 정확하게 답하는 AI가 되고, 법률 데이터로 파인튜닝하면 법률 자문에 강한 AI가 되는 거예요.
로컬 LLM / 온디바이스 AI
AI를 클라우드 서비스(ChatGPT, Claude 등)를 통하지 않고, 내 기기에서 직접 돌리는 것이에요.
로컬 LLM은 내 컴퓨터에 AI 모델을 설치해서 쓰는 거예요. 인터넷 없이도 작동하고, 데이터가 외부로 나가지 않으니 보안이 중요한 경우에 쓰여요.
1편에서 설명한 오픈소스 모델이 있기 때문에 이게 가능한 거예요.
온디바이스 AI는 같은 개념이 스마트폰이나 PC로 온 거예요.
갤럭시의 통역 기능이나 사진 편집 AI, 아이폰의 Apple Intelligence 같은 게 온디바이스 AI예요.
클라우드가 아니라 내 기기에서 AI가 직접 돌아가는 거죠. 이미 체감하고 있는 분들도 많을 거예요.
임베딩 / 벡터 DB
AI가 텍스트의 "의미"를 숫자로 바꾸는 기술이에요.
"강아지"와 "puppy"는 글자는 전혀 다르지만 의미는 비슷하잖아요?
임베딩은 이런 의미적 유사성을 숫자로 표현하는 방법이고, 벡터 DB는 그 숫자들을 저장하고 검색하는 공간이에요.
이게 왜 필요하냐면, 앞에서 설명한 RAG가 작동하려면 "의미가 비슷한 문서를 찾는" 과정이 필요하거든요.
단순히 같은 단어가 들어 있는 문서를 찾는 게 아니라, 의미가 통하는 문서를 찾아야 해요. 임베딩과 벡터 DB가 그 역할을 해요.
여기까지가 2025~2026년 현재 시점에서 AI를 둘러싼 주요 용어들이에요.
AI는 앞으로도 계속 새로운 용어가 나오고, 지금 있는 개념도 바뀌어갈 거예요.
하지만 여기서 정리한 뼈대가 있으면 새로운 게 나왔을 때 "아, 이건 이런 종류구나" 하고 자리를 잡아주는 감각이 생겨요.
한 번에 다 외울 필요 없이, 모르는 단어가 나왔을 때 돌아와서 찾아보는 용도로 써주세요.
1편에서는 AI의 기본 개념과, AI를 쓰기 시작하면 바로 만나는 용어들을 정리했어요.
LLM, 프롬프트, 토큰, 할루시네이션 같은 것들이요. 아직 안 읽으셨다면 1편부터 보시는 걸 추천해요.
1편 보러가기 👉 AI 용어 총정리 2026 — 기본 개념부터 차근차근 ①
2편에서는 한 발 더 나아가요.
AI를 단순히 "질문하고 답 받는 것"을 넘어서, 실제 업무에 도구로 활용하거나 직접 환경을 세팅할 때 만나는 용어들을 정리할 거예요.
여기 나오는 용어들은 대부분 최근 1~2년 사이에 생기거나 급부상한 것들이에요.
AI가 빠르게 발전하면서 그만큼 새로운 개념도 빠르게 쌓이고 있다는 뜻이기도 해요.
AI를 더 잘 쓰는 기술 🎯
AI를 쓰다 보면 자연스럽게 "어떻게 하면 더 잘 쓸 수 있을까?"라는 질문이 생겨요.
이 영역에서 방법론이 빠르게 진화하고 있는데, 그 흐름을 한번 따라가볼게요.
프롬프트 엔지니어링 (Prompt Engineering)
1편에서 프롬프트가 AI한테 하는 말이라고 했잖아요. 프롬프트 엔지니어링은 그 말을 전략적으로 잘 하는 방법이에요.
예를 들어 AI한테 역할을 부여하거나, 예시를 먼저 보여주거나, 단계별로 생각하게 하거나, 출력 형식을 지정하는 것 같은 기법들이 있어요.
원래는 AI를 잘 쓰려면 이 프롬프트 엔지니어링을 잘하면 충분하다고 했어요.
"AI한테 잘 말하면 잘 대답한다"는 거였죠. 실제로 프롬프트를 어떻게 쓰느냐에 따라 결과가 크게 달라지니까요.
그런데 AI가 점점 더 복잡한 일을 하게 되면서, 프롬프트만으로는 한계가 드러나기 시작했어요. 그래서 다음 단계가 나왔어요.
컨텍스트 엔지니어링 (Context Engineering)
프롬프트 엔지니어링이 "AI한테 뭘 말할까"였다면, 컨텍스트 엔지니어링은 "AI한테 어떤 맥락을 줄까"예요.
같은 질문이라도 AI한테 어떤 배경 정보를 함께 주느냐에 따라 답이 완전히 달라지거든요.
"마케팅 전략 세워줘"라고만 하는 것과, 우리 회사 소개, 지난 분기 매출 데이터, 타겟 고객 분석 자료를 함께 넣어주고 "이 맥락에서 마케팅 전략 세워줘"라고 하는 건 차원이 다른 결과가 나와요.
핵심은, 좋은 프롬프트를 쓰는 것만으로는 부족하고 AI한테 주는 정보의 질과 구조 자체를 설계해야 한다는 거예요.
2025~2026년에 가장 주목받는 개념 중 하나이고, "프롬프트를 잘 쓰는 시대에서 맥락을 잘 설계하는 시대로 넘어가고 있다"는 이야기가 많이 나오고 있어요.
하네스 엔지니어링 (Harness Engineering)
컨텍스트 엔지니어링에서 한 단계 더 나아간 개념이에요.
하네스는 원래 말의 고삐를 뜻하는데, AI에서는 AI가 일하는 환경 전체를 설계하는 것을 말해요.
프롬프트 엔지니어링이 "뭘 말할까", 컨텍스트 엔지니어링이 "어떤 맥락을 줄까"였다면, 하네스 엔지니어링은 "AI가 실수하지 않도록 주변 시스템을 어떻게 짤까"예요.
예를 들어 AI 에이전트한테 "코드를 작성해"라고 시킬 때, 코드를 쓰기 전에 반드시 테스트를 통과하게 하고, 특정 파일은 건드리지 못하게 제한하고, 작업 결과를 자동으로 검토하는 과정을 설계하는 거예요.
AI 자체를 더 똑똑하게 만드는 게 아니라, AI가 일하는 환경의 규칙과 안전장치를 설계하는 거죠.
이게 왜 중요하냐면, OpenAI 엔지니어들이 직접 코드를 한 줄도 치지 않고 5개월간 프로덕션 코드 100만 줄을 만든 사례가 있는데, 핵심이 "더 좋은 모델"이 아니라 바로 이 하네스 설계였어요. 2026년 현재 AI 개발에서 가장 뜨거운 주제 중 하나예요.
정리하면, AI를 잘 쓰는 방법론이 이렇게 진화해 온 거예요.
프롬프트 엔지니어링 (AI한테 잘 말하기) → 컨텍스트 엔지니어링 (AI한테 좋은 맥락 주기) → 하네스 엔지니어링 (AI가 일하는 환경 자체를 설계하기)
RAG (Retrieval-Augmented Generation)
RAG는 검색 증강 생성이라는 뜻인데, 풀어서 말하면 AI가 답변하기 전에 관련 자료를 먼저 찾아보고 그걸 참고해서 답하는 방식이에요.
원래 AI는 학습할 때 본 데이터만 가지고 답해요. 그래서 학습 이후에 나온 최신 정보나, 우리 회사 내부 문서 같은 건 알 수가 없었어요.
모르는 건 모른다고 하면 좋겠는데, 1편에서 말한 할루시네이션 때문에 그럴듯하게 지어내기도 하죠.
RAG가 생기면서 이 문제가 해결됐어요. AI가 답하기 전에 먼저 관련 자료를 검색하고, 그 자료를 참고해서 답변을 만드는 거예요.
예를 들어 회사 내부 매뉴얼을 RAG로 연결해두면, AI가 그 매뉴얼을 보면서 직원 질문에 답할 수 있게 돼요.
Perplexity라는 AI 검색 서비스가 대표적인 RAG 활용 사례예요. 질문하면 웹에서 자료를 먼저 찾고, 그걸 기반으로 답해주거든요.
일반 AI가 "기억에서 꺼내 답하는" 거라면, RAG는 "찾아보고 답하는" 거예요.
병목현상 (Bottleneck)
특정 구간이 막혀서 전체 흐름이 느려지는 현상이에요.
원래 제조업에서 쓰던 말인데, AI에서도 자주 나와요. 예를 들어 AI한테 매일 보고서를 만들게 하는 자동화를 만들었다고 해볼게요.
AI가 글을 쓰는 건 빠른데, 데이터를 가져오는 과정이 느리면 전체가 느려져요.
이때 "데이터 수집 단계가 병목이다"라고 해요. 가장 느린 구간이 전체 속도를 결정하는 거예요.
AI 강의나 자동화 관련 글에서 "어디가 병목인지 찾아라"는 말이 자주 나오는데, "전체 과정에서 가장 막히는 지점을 찾아서 해결하라"는 뜻이에요.
AI를 도입해도 효과가 없다면, AI 자체의 문제가 아니라 다른 단계가 병목일 수 있어요.
AI가 직접 행동하는 시대 🤖
여기서부터가 2025~2026년에 가장 크게 변한 영역이에요. AI가 "답해주는 존재"에서 "직접 일하는 존재"로 바뀌고 있거든요.
AI 에이전트 (AI Agent)
AI가 스스로 판단하고, 여러 단계의 작업을 알아서 수행하는 것이에요.
원래 AI는 물어보면 답하는 수준이었어요. "이메일 초안 써줘"라고 하면 초안을 써주는 것까지가 전부였죠. 그런데 에이전트는 달라요.
"이번 달 매출 보고서 만들어줘"라고 하면, 스스로 데이터를 찾고, 분석하고, 정리해서 보고서까지 만들어줘요.
한 번 시키면 여러 단계를 알아서 해내는 거예요.
"물어보면 답하는 존재"에서 "시키면 알아서 해내는 존재"로 바뀐 거예요.
요즘은 에이전틱 AI(Agentic AI)라는 표현이 더 자주 쓰이는데, "에이전트처럼 행동하는 AI"라는 뜻이에요.
2025~2026년 AI의 가장 큰 흐름이 바로 이 에이전트예요.
헤르메스 (Hermes)
AI 에이전트가 개념이라면, 헤르메스는 에이전트로 활용할 수 있는 대표적인 AI 모델이에요.
Nous Research에서 만든 오픈소스 모델인데, 2026년 2월에 Hermes Agent로 출시되면서 크게 주목받았어요.
출시 3개월 만에 GitHub 스타 14만 개를 돌파했고, NVIDIA가 RTX PC에서 직접 지원할 정도예요.
헤르메스가 특별한 이유는 도구 호출(function calling)에 최적화돼 있다는 거예요.
일반적인 AI는 글을 쓰고 대화하는 데 강하지만, 헤르메스는 "슬랙 메시지를 보내", "캘린더에 일정을 추가해", "파일을 정리해" 같은 외부 도구 조작에 특화돼 있어요. 그래서 AI 에이전트를 직접 만들거나 자동화를 구축할 때 핵심 모델로 많이 쓰여요.
오픈소스라서 누구든 무료로 가져다 쓸 수 있고, 앞에서 설명한 하네스 엔지니어링과 결합해서 쓰는 경우가 많아요.
MCP (Model Context Protocol)
AI가 외부 도구나 서비스와 연결되는 표준 규격이에요.
원래 AI는 대화만 할 수 있었어요. 뭘 물어보면 답해주는 것까지가 전부였죠.
슬랙 메시지를 읽어달라고 해도 "저는 슬랙에 접근할 수 없어요"라고 했어요. AI의 능력과 바깥 세상 사이에 벽이 있었던 거예요.
MCP가 생기면서 이 벽이 무너졌어요. MCP는 AI가 외부 서비스에 접근하는 방식을 하나의 규격으로 통일한 거예요. 이 규격 덕분에 AI가 슬랙, 캘린더, 먼데이닷컴, 파일 시스템 등 다양한 도구에 연결될 수 있게 됐어요.
예를 들어 Claude한테 "내 슬랙 메시지 요약해줘"라고 하면, MCP를 통해 슬랙에 접근해서 메시지를 읽고 정리해줄 수 있어요. "내 캘린더 확인해서 이번 주 빈 시간 알려줘"도 가능하고요. AI가 "말만 하는 존재"에서 "직접 행동하는 존재"로 넘어가는 데 핵심이 된 기술이에요.
플러그인 / 스킬 / 익스텐션 / GPTs
AI의 능력을 확장하는 것과 관련된 단어들인데, 자주 함께 언급되다 보니 헷갈리기 쉬워요. 하나씩 짚어볼게요.
먼저 앞에서 설명한 MCP를 떠올려 보세요.
MCP는 AI가 슬랙, 캘린더, 데이터베이스 같은 외부 서비스에 연결되는 규격이에요. 연결 통로를 만들어주는 거예요.
스킬은 이것과 역할이 달라요. 스킬은 AI의 지식과 기능 자체를 확장하는 거예요.
예를 들어 "엑셀 파일을 이런 방식으로 만들어", "PDF를 이렇게 처리해" 같은 작업 방법과 지시를 AI한테 가르쳐주는 거예요.
MCP가 "어디에 연결할지"라면, 스킬은 "무엇을 어떻게 할지"에 해당해요.
플러그인은 이 둘을 하나로 묶은 설치 패키지예요.
MCP 서버(연결) + 스킬(기능) + 기타 설정을 세트로 묶어서, 한 번에 설치할 수 있게 만든 거예요.
하나하나 따로 설정할 필요 없이 플러그인 하나만 설치하면 연결과 기능이 한꺼번에 추가되는 거죠.
정리하면 이런 관계예요.
GPTs(커스텀 GPT)는 ChatGPT 쪽의 개념이에요.
ChatGPT를 특정 목적에 맞게 미리 세팅해둔 버전인데, 역할, 지식, 응답 방식을 미리 설정해서 누구든 쓸 수 있게 공유하는 기능이에요. "마케팅 전문가 GPT", "논문 분석 GPT" 같은 것들이에요. 원래 ChatGPT에도 "플러그인"이 있었는데 2024년에 단종되고 GPTs로 대체됐어요.
익스텐션(확장 프로그램)은 주로 브라우저에 기능을 추가하는 것을 말해요. Chrome 익스텐션처럼요.
AI 도구들이 브라우저 익스텐션 형태로 제공되는 경우가 많아서 함께 알아두면 좋아요.
이 단어들이 헷갈리는 이유는, 전부 "AI한테 뭔가를 더해준다"는 맥락에서 나오기 때문이에요.
하지만 각각 하는 역할이 다르고, 특히 MCP·스킬·플러그인은 상하 관계가 있다는 걸 알아두면 명확하게 구분할 수 있어요.
그리고 에이전트는 이런 MCP 연결과 스킬을 스스로 조합해서 일하는 AI예요.
API (Application Programming Interface)
AI를 다른 서비스나 프로그램 안에서 가져다 쓸 수 있게 해주는 통로예요.
우리가 ChatGPT 웹사이트에서 대화하는 건 ChatGPT의 화면을 직접 쓰는 거예요.
그런데 쇼핑몰에서 고객 문의에 AI가 자동으로 답하게 하고 싶다면? ChatGPT 웹사이트를 열어두는 게 아니라, AI의 능력만 가져다가 쇼핑몰 시스템 안에서 작동하게 해야 해요. 이때 쓰는 게 API예요.
API는 AI 이전부터 있던 개념이에요. 네이버 지도를 다른 앱에서 쓸 수 있는 것도 API 덕분이고, 카카오 로그인을 다른 사이트에서 쓸 수 있는 것도 API예요. AI 시대가 되면서 "AI API"가 특히 자주 언급되고 있는 거죠.
비개발자라면 직접 API를 다룰 일은 적지만, "API 연동"이라는 말이 뭔 뜻인지 알아두면 AI 관련 대화에서 막히지 않아요.
AI로 만드는 시대 🛠️
AI가 대화 상대를 넘어서 "무언가를 만드는 도구"가 되고 있어요. 코드를 모르는 사람도 AI를 통해 서비스를 만들 수 있는 시대가 열렸어요.
바이브 코딩 (Vibe Coding)
코드를 모르는 사람이 AI한테 말로 설명해서 프로그램을 만드는 것이에요.
원래 프로그램을 만들려면 프로그래밍 언어를 배우고 직접 코드를 써야 했어요.
그런데 AI가 코드를 대신 써줄 수 있게 되면서, 아이디어만 있으면 누구나 프로그램을 만들 수 있게 됐어요.
"회원가입 페이지 만들어줘"라고 AI한테 말하면, AI가 코드를 써주고 실행까지 해줘요.
"바이브"라는 이름처럼 느낌만 전달하면 AI가 알아서 만들어준다는 뜻이에요.
바이브 코딩을 할 수 있는 도구도 빠르게 늘어나고 있어요. 크게 세 가지 종류로 나눌 수 있어요.
AI 코드 에디터
Cursor, Windsurf 같은 도구예요. 개발 환경 안에 AI가 결합돼 있어서, 자연어로 지시하면 코드를 생성해줘요.
원래 개발자용이지만, 바이브 코딩 도구로도 많이 쓰여요.
AI 웹 빌더
v0, Bolt, Lovable 같은 도구예요. "이런 웹사이트 만들어줘"라고 말하면 디자인과 코드를 한번에 만들어줘요. 비개발자가 가장 접근하기 쉬운 형태예요.
AI 개발 프레임워크
bkit 같은 도구예요. Claude Code 위에서 체계적인 개발 프로세스를 잡아주는 프레임워크인데, 단순히 "만들어줘"를 넘어서 계획-설계-실행-검증까지 구조화해줘요.
이 분야는 새로운 도구가 정말 빠르게 나오고 있어서, 지금 이 순간에도 늘어나고 있어요.
중요한 건 특정 도구보다 "바이브 코딩"이라는 흐름 자체를 아는 거예요.
워크플로우 / 노코드 / 로우코드
바이브 코딩이 "프로그램을 만드는 것"이라면, 여기서는 반복되는 업무를 자동화하는 것에 대한 이야기예요.
먼저 워크플로우(Workflow)라는 단어부터 알아야 해요. 워크플로우는 반복되는 업무의 흐름이에요.
예를 들어 "이메일이 오면 → 내용을 확인하고 → 중요한 건 슬랙에 공유하고 → 나머지는 폴더에 정리한다" 이 전체 과정이 하나의 워크플로우예요.
예전에는 이 흐름을 사람이 하나하나 직접 처리했는데, AI와 결합되면서 자동으로 돌아가게 만들 수 있게 됐어요.
"AI 자동화"라고 할 때 대부분 이 워크플로우를 자동화하는 걸 말해요.
이 워크플로우를 코드 없이 만들 수 있게 해주는 게 노코드/로우코드(No-code/Low-code) 도구예요.
코드를 전혀 쓰지 않고(노코드) 또는 아주 적게 쓰면서(로우코드) 자동화를 만드는 방식인데, 대표적인 도구들이 있어요.
n8n
오픈소스 워크플로우 자동화 도구예요. 블록을 연결하듯이 자동화를 만들 수 있고, 무료로 쓸 수 있어요.
Make
시각적으로 워크플로우를 만드는 도구예요. "이메일이 오면 → AI가 요약해서 → 슬랙에 보내줘" 같은 자동화를 드래그 앤 드롭으로 만들 수 있어요.
Zapier
가장 오래되고 널리 쓰이는 자동화 도구예요. 연결할 수 있는 서비스가 많아서 시작하기 쉬워요.
정리하면, 바이브 코딩이 "AI한테 말로 시켜서 프로그램을 만드는 것"이라면, 노코드는 "블록을 조립해서 업무 자동화를 만드는 것"이에요.
둘 다 코드를 모르는 사람이 무언가를 만들 수 있게 해준다는 공통점이 있어요.
GitHub
코드와 프로젝트를 저장하고 공유하는 플랫폼이에요. 개발자들의 작업 공간 같은 곳인데, AI를 공부하다 보면 개발자가 아니어도 계속 만나게 돼요.
왜냐하면 오픈소스 AI 모델, 플러그인, 도구들이 대부분 GitHub에 올라와 있거든요.
앞에서 "헤르메스가 GitHub 스타 14만 개를 받았다"고 했는데, 이때 "스타"는 GitHub에서 "좋아요" 같은 거예요. 프로젝트의 인기를 나타내요.
AI 관련 새로운 도구를 설치하거나 사용법을 찾으려면 GitHub 페이지를 방문하는 경우가 정말 많아요.
직접 코드를 올리지 않더라도, AI 생태계를 따라가려면 GitHub이 뭔지는 알아두는 게 좋아요.
요즘은 GitHub 자체에도 AI(GitHub Copilot)가 결합돼서, 코드 작성부터 프로젝트 관리까지 AI가 도와주는 플랫폼으로 진화하고 있어요.
AI와 함께 정리하고 관리하기 📚
AI가 정보를 다루는 방식이 바뀌면서, 개인이 지식을 정리하고 관리하는 방법도 함께 바뀌고 있어요.
PKM (Personal Knowledge Management)
자기가 배운 것, 메모한 것, 읽은 것을 체계적으로 정리하고 관리하는 방법이에요. AI 이전부터 있던 개념인데, AI와 만나면서 크게 주목받고 있어요.
원래 메모나 노트 정리는 적어두는 것까지가 전부였어요. 나중에 다시 찾으려면 어디에 적었는지 기억해야 했고, 메모가 쌓일수록 관리가 어려워졌죠.
그런데 AI가 결합되면서, 내가 쌓아둔 메모를 AI가 읽고 검색해주고 요약해줄 수 있게 됐어요.
대표적인 도구들을 소개할게요.
옵시디언(Obsidian)
메모를 적고, 메모끼리 연결하고, 거기에 AI 플러그인을 붙여서 내 메모를 기반으로 질문하거나 요약할 수 있는 도구예요.
"두 번째 뇌(Second Brain)"를 만든다는 컨셉으로 유명하고, 마크다운을 기본 문법으로 써요.
요즘 AI에 관심 있는 사람들 사이에서 빠르게 퍼지고 있어요.
노션(Notion)
원래는 메모와 문서 중심의 도구였는데,
2025년에 "Everything is database"라는 대규모 업데이트를 하면서 데이터베이스 중심 플랫폼으로 방향을 바꿨어요.
지금은 문서, 데이터베이스, 프로젝트 관리에 더해 메일, 캘린더까지 통합된 종합 업무 플랫폼에 가까워요.
Notion AI도 결합돼서 문서 안에서 바로 AI한테 질문하거나 요약을 시킬 수 있고, AI 에이전트가 워크플로우를 자동화해주는 기능까지 나왔어요.
이미 쓰고 있는 분들도 많을 거예요.
NotebookLM
구글에서 만든 서비스로, 문서를 올리면 AI가 그 문서를 읽고 대화해줘요.
내 자료만을 기반으로 답해주니까 할루시네이션이 줄어드는 장점이 있어요. RAG가 적용된 서비스라고 볼 수 있어요.
이런 도구들이 주목받는 건, 결국 AI를 잘 쓰려면 내가 가진 정보를 잘 정리해야 하기 때문이에요.
AI한테 좋은 맥락을 주려면(컨텍스트 엔지니어링), 그 맥락이 될 자료가 잘 정리돼 있어야 하거든요. 🧠
직접 환경을 구축하려면 ⚙️
여기서부터는 AI를 단순히 쓰는 것을 넘어서, 직접 설치하거나 커스텀하는 영역이에요.
당장 필요하지 않을 수 있지만, AI를 더 깊이 다루고 싶을 때 만나게 되는 개념들이에요.
파인튜닝 (Fine-tuning)
이미 만들어진 AI 모델을 특정 목적에 맞게 추가 학습시키는 것이에요.
기본 AI는 범용적으로 두루 잘하지만, 특정 분야의 전문성은 부족할 수 있어요. 파인튜닝을 하면 그 분야에 특화된 AI가 돼요.
예를 들어 의료 데이터로 파인튜닝하면 의료 질문에 더 정확하게 답하는 AI가 되고, 법률 데이터로 파인튜닝하면 법률 자문에 강한 AI가 되는 거예요.
로컬 LLM / 온디바이스 AI
AI를 클라우드 서비스(ChatGPT, Claude 등)를 통하지 않고, 내 기기에서 직접 돌리는 것이에요.
로컬 LLM은 내 컴퓨터에 AI 모델을 설치해서 쓰는 거예요. 인터넷 없이도 작동하고, 데이터가 외부로 나가지 않으니 보안이 중요한 경우에 쓰여요.
1편에서 설명한 오픈소스 모델이 있기 때문에 이게 가능한 거예요.
온디바이스 AI는 같은 개념이 스마트폰이나 PC로 온 거예요.
갤럭시의 통역 기능이나 사진 편집 AI, 아이폰의 Apple Intelligence 같은 게 온디바이스 AI예요.
클라우드가 아니라 내 기기에서 AI가 직접 돌아가는 거죠. 이미 체감하고 있는 분들도 많을 거예요.
임베딩 / 벡터 DB
AI가 텍스트의 "의미"를 숫자로 바꾸는 기술이에요.
"강아지"와 "puppy"는 글자는 전혀 다르지만 의미는 비슷하잖아요?
임베딩은 이런 의미적 유사성을 숫자로 표현하는 방법이고, 벡터 DB는 그 숫자들을 저장하고 검색하는 공간이에요.
이게 왜 필요하냐면, 앞에서 설명한 RAG가 작동하려면 "의미가 비슷한 문서를 찾는" 과정이 필요하거든요.
단순히 같은 단어가 들어 있는 문서를 찾는 게 아니라, 의미가 통하는 문서를 찾아야 해요. 임베딩과 벡터 DB가 그 역할을 해요.
여기까지가 2025~2026년 현재 시점에서 AI를 둘러싼 주요 용어들이에요.
AI는 앞으로도 계속 새로운 용어가 나오고, 지금 있는 개념도 바뀌어갈 거예요.
하지만 여기서 정리한 뼈대가 있으면 새로운 게 나왔을 때 "아, 이건 이런 종류구나" 하고 자리를 잡아주는 감각이 생겨요.
한 번에 다 외울 필요 없이, 모르는 단어가 나왔을 때 돌아와서 찾아보는 용도로 써주세요.