AI 스타터팩

컴퓨터가 사람처럼 보고, 듣고, 생각하고, 말할 수 있도록 만든 기술입니다. 사람이 수천 번 연습해서 자전거 타는 법을 익히듯, AI도 수억 개의 데이터를 학습해서 점점 똑똑해집니다. 예전에는 컴퓨터가 정해진 규칙만 따랐다면, AI는 스스로 패턴을 찾아 판단하고 행동할 수 있습니다.

세상에 존재하는 책, 논문, 뉴스, 웹사이트 등 수천억 개의 문서를 통째로 학습한 AI입니다. 도서관 수억 권의 책을 전부 읽고 암기한 천재 비서라고 생각하면 됩니다. 그래서 어떤 주제로 말을 걸어도 자연스럽게 대화하고, 글을 쓰고, 번역하고, 요약할 수 있습니다.

AI에게 내리는 지시문 또는 질문입니다. 같은 AI라도 어떻게 말하느냐에 따라 결과물의 품질이 완전히 달라집니다. 마치 새 직원에게 업무를 맡길 때 "보고서 써"보다 "3페이지 분량으로 경쟁사 현황을 정리하고 시사점을 포함해서 써줘"가 훨씬 좋은 결과를 내는 것과 같습니다. AI를 잘 쓰는 핵심은 결국 프롬프트를 얼마나 구체적으로 쓰느냐입니다.

API는 서로 다른 프로그램이 대화할 수 있게 해주는 연결 통로입니다. 식당에 비유하면, 손님(내 앱)이 주방(AI)에 직접 들어가는 대신 종업원(API)을 통해 주문을 전달하는 것과 같습니다. API Key는 그 식당을 이용할 수 있는 회원증입니다. Key가 있어야만 AI 기능을 내 서비스에 연결할 수 있고, 없으면 접근이 차단됩니다.

컴퓨터가 데이터를 정리해서 주고받을 때 사용하는 표준 형식입니다. 사람으로 치면 엑셀 표와 비슷하지만, 컴퓨터가 훨씬 빠르게 읽고 처리할 수 있습니다. AI 설정 파일, API 응답 등에서 자주 등장하며, 처음엔 낯설어 보여도 구조 자체는 매우 단순합니다. 직접 작성할 일은 거의 없고 AI가 자동으로 생성해줍니다.

키보드 특수기호 몇 가지로 문서 서식을 표현하는 방법입니다. 워드처럼 버튼을 클릭하는 대신, 별표(**)나 샵(#) 같은 기호를 텍스트 앞뒤에 붙여서 굵게·제목·목록 등을 표현합니다. Claude나 ChatGPT가 답변할 때 자동으로 마크다운을 사용하는데, 그래서 AI 답변이 제목·목록·표 등으로 깔끔하게 보이는 겁니다. 직접 쓸 줄 몰라도 되지만, 알면 AI와 소통이 더 편해집니다.

AI가 글을 읽고 처리하는 가장 작은 단위입니다. 우리가 글을 읽을 때 글자 단위로 읽듯, AI는 토큰 단위로 글을 인식합니다. AI 서비스 요금은 이 토큰 수를 기준으로 계산됩니다. 마치 택시 미터기가 거리만큼 요금을 올리듯, AI는 처리한 토큰만큼 비용이 발생합니다. 그래서 프롬프트를 너무 길게 쓰면 비용이 올라갑니다.

AI가 한 번의 대화에서 기억할 수 있는 최대 정보량입니다. 사람도 한 번에 너무 많은 걸 들으면 앞에서 들은 내용을 잊어버리듯, AI도 처리할 수 있는 텍스트 양에 한계가 있습니다. 이 한계를 컨텍스트 윈도우라고 합니다. 창이 클수록 두꺼운 보고서도 통째로 분석할 수 있고, 긴 대화도 처음부터 끝까지 기억합니다.

단순히 질문에 답하는 AI를 넘어, 스스로 계획을 세우고 행동하는 AI입니다. 일반 챗봇은 말로만 대답하지만, 에이전트는 실제로 인터넷을 검색하고, 파일을 만들고, 코드를 실행하는 등 사람처럼 일을 처리합니다. 마치 지시만 내리면 알아서 일 처리하고 결과를 가져오는 유능한 직원과 같습니다.

큰 프로젝트를 팀원들에게 나눠서 처리할 때처럼, 메인 AI(팀장)가 세부 작업들을 여러 하위 AI(팀원)에게 나눠 맡기는 구조입니다. 각 서브에이전트는 자신이 맡은 일만 집중해서 처리하고 결과를 팀장에게 보고합니다. 이 방식으로 복잡한 작업을 빠르고 정확하게 완료할 수 있습니다.

여러 AI 에이전트(팀원)를 총괄 지휘하는 AI 팀장입니다. 오케스트라 지휘자가 바이올린·첼로·피아노 각 파트에 지시를 내리고 전체 음악을 조율하듯, 오케스트레이터는 큰 목표를 작은 단위로 나눠 각 서브에이전트에게 배분하고, 결과를 모아 최종 결과물을 완성합니다. 사람이 직접 하나하나 지시하지 않아도 알아서 흐름을 관리합니다.

AI가 외부 프로그램이나 서비스를 사용할 수 있게 연결해주는 표준 규격입니다. USB 포트에 비유할 수 있습니다. USB가 어떤 기기든 꽂으면 작동하듯, MCP 규격을 따르면 AI가 다양한 도구(파일, 인터넷, 회사 데이터베이스 등)를 표준화된 방식으로 연결해 사용할 수 있습니다. 한 번 설정해두면 AI의 능력이 크게 확장됩니다.

AI에게 특정 업무를 처리하는 방법을 레시피처럼 저장해두는 기능입니다. 요리사가 레시피 북에 자주 만드는 요리 방법을 적어두듯, AI에게도 자주 반복하는 업무의 방법을 저장해두면 매번 길게 설명하지 않아도 됩니다. "스킬 사용해"라는 말 한 마디로 AI가 저장된 방식대로 완벽하게 처리합니다.

AI가 모르는 것을 마치 아는 것처럼 자신 있게 틀린 답변을 하는 현상입니다. 마치 모르는 것도 당당하게 대답하는 신입사원처럼, AI도 정확한 정보가 없을 때 그럴듯하게 꾸며낸 답을 만들어냅니다. AI는 "모르겠습니다"보다는 그럴싸한 답을 만드는 쪽으로 학습되어 있어서 이런 문제가 생깁니다. 특히 숫자·날짜·법령·인명 등 구체적인 사실에서 자주 발생합니다.

대화가 시작되기 전에 AI에게 미리 주는 역할·규칙·성격 설정서입니다. 회사에서 신입사원에게 "우리 회사는 이런 곳이고, 이렇게 일해줘"라고 사전 교육을 하는 것과 같습니다. 시스템 프롬프트를 잘 설정하면 AI가 매번 같은 성격과 방식으로 일관되게 답변합니다. 일반 사용자에게는 보이지 않지만, 서비스 뒤에서 AI의 행동을 조종하는 핵심 설정입니다.

AI가 답변하기 전에 미리 저장된 문서나 자료를 검색해서 참고하는 방식입니다. 오픈북 시험에 비유할 수 있습니다. 일반 AI는 학습한 내용만으로 답하지만(암기 시험), RAG를 적용하면 우리 회사 자료를 실시간으로 찾아보고(오픈북) 정확하게 답합니다. 회사 내부 문서, 최신 자료, 개인화된 데이터를 AI에 연결할 때 핵심적으로 사용되는 기술입니다.

기존 AI 모델을 우리 회사나 특정 분야에 맞게 추가로 재교육시키는 과정입니다. 요리학교를 졸업한 요리사(기본 AI)를 우리 식당에 고용해서 우리만의 레시피와 서비스 방식을 별도로 교육하는 것과 같습니다. 파인튜닝된 AI는 일반 AI보다 우리 분야 용어·형식·스타일을 훨씬 자연스럽게 처리합니다. 다만 시간과 비용이 필요해서 신중하게 결정해야 합니다.