리포트/뉴스레터
[칼럼] AI 기초 기술

오늘은 해양산업과 관련된 최신 AI 기술과 주권형 (Sovereign) AI, 그리고 실제 사례들을 소개해 드리겠습니다.
1차 뉴스레터에서 ‘AX 의미와 발전, 해양산업에서의 AX’를 다뤘다면, 본 칼럼에서는 구체적인 기술과 적용 사례에 집중해 보겠습니다.
우리가 활용하는 AI에는 여러 기법과 기술들이 있습니다. 이해를 돕기 위해, 가상의 해운사 코리아오션에서 근무하는 김해운 대리의 하루 업무를 따라가 보겠습니다.

Generative AI (생성형 AI)
Generative AI(생성형 AI)는 단순히 데이터를 분석하는 기존 AI와 달리, 새로운 무언가를 ‘창조’한다는 점에서 차별화됩니다. 텍스트, 이미지, 코드, 오디오, 영상 등 다양한 형태로 결과물을 만들어내며, ChatGPT와 같은 대화형 모델을 시작으로 전 세계적 주목을 받기 시작했습니다.
특히 2022년 말 ChatGPT의 등장은 AI를 대중화하는 결정적 계기가 되었습니다. 누구나 질문을 던지고 자연스러운 답변을 받을 수 있게 되면서, AI는 더 이상 연구실 안의 기술이 아니라 실무 현장에서 바로 활용 가능한 도구로 자리매김했습니다. 그 뒤로도 매달 새로운 생성형 AI 툴과 서비스가 등장하며, 업무와 일상의 경계를 빠르게 허물고 있습니다.
맥킨지 분석에 따르면 생성형 AI는 매년 전 세계 경제에 최대 4.4조 달러의 가치를 창출할 수 있을 것으로 전망됩니다. 이는 단순한 자동화의 수준을 넘어, 지식 노동자의 업무 방식을 바꾸고 산업 전반의 생산성을 재편할 잠재력을 보여줍니다.
생성형 AI가 만들어낼 수 있는 결과물은 매우 다양합니다. 텍스트와 이미지뿐 아니라 코드, 오디오, 영상, 심지어 비즈니스 시뮬레이션까지 생산할 수 있습니다. 적절한 프롬프팅(Prompting)을 통해 AI에게 원하는 결과물을 요청하면, 몇 초 안에 신속하게 초안을 얻을 수 있고 이를 기반으로 업무 효율성을 크게 높일 수 있습니다.
DALL-E 같은 생성 모델을 보면, 단지 재미있는 그림만 만들어내는 것이 아니라 비즈니스 아이디어 구상, 신규 앱 Mockup, 기존 Stock Photo를 대체하는 실 업무에서 생성형 AI가 매우 유용하게 사용 되는 것을 볼 수 있습니다. 바로 다음과 같은 이미지 또한 생성형 AI의 대표적인 예시입니다.

2025년 3월, 생성형 AI를 활용해 스튜디오 지브리 특유의 애니메이션 풍 이미지를 만드는 ‘지브리 열풍’이 온라인을 휩쓸었습니다. 문제는 이러한 ‘스타일 모방’이 단순한 재미를 넘어 저작권 침해 논란으로 이어질 수 있다는 점입니다. 원작의 표현 요소를 충분히 재현한다면 법적 침해로 인정될 수 있습니다. 실제로 GPT-4o 같은 최신 모델은 특정 창작물과 유사한 결과를 내면서 위험성이 더 커졌다는 지적이 나옵니다. 전문가들은 AI의 예술적 활용과 창작자 권리 보호 사이에서 균형을 찾는 제도적 정비가 시급하다고 강조합니다. 지브리 사례는 생성형 AI가 가진 잠재력과 동시에 저작권 제도의 허점을 드러낸 대표적 경고라고 할 수 있습니다.
업무 적용 예시:
김해운 대리는 평소 항만·선박 관련 보고서를 작성하고, 화물 운송 스케줄을 관리하며, 화주들의 질의에 응답하는 업무를 맡고 있습니다. 특히 선박 운항 지침과 안전 규정과 같은 문서를 정리할 때는 방대한 규정집과 과거 자료를 일일이 확인해야 해서 많은 시간이 소요되었습니다.
하지만 AI 기반 챗봇 도입 후, 단순 질의응답을 통해 김 대리의 업무가 매우 간단해졌습니다. AI가 기본 템플릿과 표를 불러오고, 필요한 규정 내용을 정리해 문장 초안을 제시합니다. 김 대리는 여기에 실제 데이터와 스케줄 정보를 추가하고 표현만 다듬으면 되므로, 보고서 작성 시간이 과거의 절반 이하로 줄어들었습니다.
또한 해외 화주에게 영어 보고서를 제출해야 하는 경우에도 AI가 유용하게 사용됩니다. 김 대리는 영어에 능숙해 팀 내 번역 업무를 자주 도맡았지만, 과중한 부담이 늘 문제였습니다. 이제는 완성된 보고서를 AI에게 “영어로 번역해줘”라고 요청하기만 하면, 자연스러운 번역본이 생성됩니다. 덕분에 김 대리는 반복적인 번역 작업에서 벗어나, 더 중요한 고객 대응과 운송 스케줄 관리에 시간을 집중할 수 있게 되었습니다.
이처럼 생성형 AI는 자동 생성 기능을 기반으로 문서 작업을 신속하게 지원하는 효과적인 업무 보조 도구가 될 수 있습니다.
RAG (Retrieval-Augmented Generation)
RAG(Retrieval-Augmented Generation)는 단순히 AI가 지식을 흉내 내어 말하는 기술이 아닙니다. 필요한 순간마다 관련 문서를 검색·참조하여, 그 근거를 바탕으로 답변을 생성하는 기술입니다.
일반적인 AI 모델은 훈련 데이터에만 의존하기 때문에 기업 고유의 규정이나 최신 정보에는 약점을 보입니다. 반면 RAG는 AI가 답변을 생성하기 전에 사내 문서, 데이터베이스, 외부 지식원을 실시간으로 검색·참조하고, 그 결과를 답변에 반영합니다.
RAG는 크게 두 단계로 이뤄집니다.
- Ingestion(수집): 기업 내부 문서와 데이터들을 벡터화(embedding)해 체계적으로 정리
- Retrieval(검색): 사용자의 질문에 맞춰 가장 관련성 높은 문서를 불러와, 이를 근거로 답변 생성
RAG가 주목받는 이유는 기존 생성형 AI가 가진 두 가지 한계를 보완하기 때문입니다.
첫째는 환각(hallucination) 문제입니다. 일반적인 AI는 학습하지 않은 최신 사건이나 데이터에 대해 질문을 받으면 사실과 다른 답변을 자신 있게 내놓을 수 있습니다. 그러나 RAG는 질문에 앞서 관련 문서를 검색하고 그 내용을 답변에 반영하기 때문에, 실제 근거가 있는 응답을 만들어낼 수 있습니다. 사용자는 답변의 출처를 확인할 수 있어 신뢰성 역시 높아집니다.
둘째는 데이터 최신화와 비용 문제입니다. LLM 자체를 계속 재훈련하거나 미세 조정하는 것은 막대한 비용이 들어 현실적이지 않습니다. 반면 RAG는 새로운 데이터나 사내 문서를 모델에 직접 학습시킬 필요 없이, 질문 시점에 필요한 정보를 불러와 활용합니다. 덕분에 최신 정보 반영이 빠르고 유연하며, 민감한 데이터도 안전하게 관리할 수 있습니다.
결국, RAG는 정확성(accuracy)과 유연성(flexibility)을 동시에 확보해, 생성형 AI를 실무 환경에서 보다 견고하게 활용할 수 있도록 하는 핵심 기술로 자리매김하고 있습니다.

업무 적용 예시:
김해운 대리는 평소 화주로부터 “특정 선박의 적재 제한 기준은 무엇인가요?” 같은 질문을 자주 받습니다. 그러나 이 정보를 찾으려면 두꺼운 규정집과 수많은 과거 보고서를 일일이 뒤져야 했습니다. 업무가 몰리는 날에는 단순히 자료를 찾는 데만 몇 시간을 쓰기도 했습니다.
이제 RAG 기반 사내 AI 시스템을 활용하면 상황이 달라집니다. 김 대리가 AI에게 질문을 입력하면, AI는 내부 규정집과 과거 문서에서 관련 내용을 검색해 즉시 답변을 제시합니다. 단순한 요약이 아니라 실제 문서 근거를 함께 보여주기 때문에, 김 대리는 신뢰성 있는 정보를 빠르게 확인하고 화주에게 곧바로 답변할 수 있습니다.
이 덕분에 과거에는 규정집을 뒤지느라 반나절이 걸리던 작업이 이제는 몇 분 만에 해결됩니다. RAG는 방대한 내부 문서를 ‘찾아주고, 연결해주고, 근거를 제시하는’ AI 보조자가 된 것입니다.
Vector DB (벡터 데이터베이스)
벡터 DB(Vector Database)는 쉽게 말해 비슷한 것을 찾아주는 데이터베이스라고 이해할 수 있습니다. 일반적인 데이터베이스가 “정확히 일치하는 정보”만 보여주는 전화번호부라면, 벡터 DB는 “닮은 정보를 찾아주는 검색엔진”에 가깝습니다.
예를 들어, 전통적인 검색에서는 “부산 신항 컨테이너 터미널”이라는 정확한 키워드를 입력해야 해당 결과가 나오지만, 벡터 DB는 “부산 신항”이나 “컨테이너 부두”처럼 유사한 의미의 질의도 연결해 결과를 보여줍니다.
벡터 DB는 생성형 AI와 RAG의 성능을 뒷받침하는 핵심 인프라입니다. 방대한 사내 문서·이메일·보고서를 벡터화해 저장하면, AI가 즉시 검색하고 답변에 반영할 수 있기 때문입니다.
물론 고려해야 할 점도 있습니다. 데이터 품질이 떨어지거나 최신 정보가 반영되지 않으면 검색 결과가 왜곡될 수 있으므로, 꾸준한 업데이트와 관리가 필요합니다.
업무 적용 예시:
김해운 대리는 업무 특성상 수많은 자료를 다룹니다. 선박별 운항 지침은 PDF로, 화물 스케줄은 엑셀로, 안전 규정은 워드 파일로, 고객과의 협의 내용은 이메일로 흩어져 있습니다. 기존 검색 시스템으로는 이 자료들을 한 번에 찾기 어려워 늘 시간이 많이 걸렸습니다.
Vector DB가 도입되면서 상황은 크게 달라졌습니다. 문서의 형식이 달라도 모두 벡터화되어 하나의 데이터베이스에 저장되기 때문에, 김 대리는 “OO 선박의 위험 화물 적재 기준”처럼 자연어로 검색하기만 하면 관련된 PDF, 엑셀, 이메일까지 한 번에 찾아볼 수 있습니다.
기존의 GenAI가 보고서를 자동으로 작성하고, RAG가 필요한 규정을 근거와 함께 찾아준다면, Vector DB는 그 기반이 되는 방대한 자료들을 정리·구조화해 검색 효율을 극대화하는 인프라 역할을 합니다. 덕분에 김 대리는 더 이상 자료를 흩어진 폴더와 시스템 속에서 헤매지 않고, 필요한 정보를 즉시 확보해 화주 대응과 보고서 작성에 집중할 수 있게 되었습니다.