GSP1231

개요

Gemini는 Google DeepMind에서 개발한 생성형 AI 모델 제품군으로, 멀티모달 사용 사례를 위해 설계되었습니다. Gemini API를 통해 Gemini Pro Vision 및 Gemini Pro 모델에 액세스할 수 있습니다.

검색 증강 생성(RAG)은 LLM이 외부 데이터에 액세스할 수 있도록 하는 데 널리 사용되는 패러다임이 되었으며 할루시네이션을 완화하기 위한 그라운딩 메커니즘으로도 사용되고 있습니다. RAG 모델은 대규모 코퍼스에서 관련 문서를 검색한 다음 검색된 문서를 기반으로 대답을 생성하도록 학습되었습니다. 이 실습에서는 텍스트와 이미지가 모두 채워진 재무 문서에 대해 Q&A를 수행하는 멀티모달 RAG를 수행하는 방법을 알아봅니다.

텍스트 기반 RAG와 멀티모달 RAG 비교

텍스트 기반 RAG 대비 멀티모달 RAG의 이점은 다음과 같습니다.

1. 향상된 자료 액세스: 멀티모달 RAG는 텍스트 정보와 시각적 정보 모두에 액세스하고 이러한 정보를 처리하여 LLM에 대한 더욱 풍부하고 포괄적인 기술 자료를 제공할 수 있습니다.
2. 개선된 추론 기능: 멀티모달 RAG는 시각적 단서를 통합하여 다양한 유형의 데이터 모달에 대해 더 나은 정보 기반 추론을 수행할 수 있습니다.

이 실습에서는 Vertex AI Gemini API, 텍스트 임베딩 및 멀티모달 임베딩과 RAG를 사용하여 문서 검색엔진을 구축하는 방법을 보여줍니다.

목표

이 실습에서는 다음을 수행하는 방법에 대해 알아봅니다.

• 텍스트와 이미지가 모두 포함된 문서의 메타데이터를 추출 및 저장하고 문서 임베딩을 생성합니다.
• 텍스트 쿼리로 메타데이터를 검색하여 유사한 텍스트나 이미지를 찾습니다.
• 이미지 쿼리로 메타데이터를 검색하여 유사한 이미지를 찾습니다.
• 텍스트 쿼리를 입력하여 텍스트와 이미지를 모두 사용해 상황에 맞는 답변을 검색합니다.

설정 및 요건

실습 시작 버튼을 클릭하기 전에

다음 안내를 확인하세요. 실습에는 시간 제한이 있으며 일시중지할 수 없습니다. 실습 시작을 클릭하면 타이머가 시작됩니다. 이 타이머에는 Google Cloud 리소스를 사용할 수 있는 시간이 얼마나 남았는지 표시됩니다.

실무형 실습을 통해 시뮬레이션이나 데모 환경이 아닌 실제 클라우드 환경에서 직접 실습 활동을 진행할 수 있습니다. 실습 시간 동안 Google Cloud에 로그인하고 액세스하는 데 사용할 수 있는 새로운 임시 사용자 인증 정보가 제공됩니다.

이 실습을 완료하려면 다음을 준비해야 합니다.

• 표준 인터넷 브라우저 액세스 권한(Chrome 브라우저 권장)

참고: 이 실습을 실행하려면 시크릿 모드 또는 시크릿 브라우저 창을 사용하세요. 개인 계정과 학생 계정 간의 충돌로 개인 계정에 추가 요금이 발생하는 일을 방지해 줍니다.

• 실습을 완료하기에 충분한 시간---실습을 시작하고 나면 일시중지할 수 없습니다.

참고: 계정에 추가 요금이 발생하지 않도록 하려면 개인용 Google Cloud 계정이나 프로젝트가 이미 있어도 이 실습에서는 사용하지 마세요.

실습을 시작하고 Google Cloud 콘솔에 로그인하는 방법

1. 실습 시작 버튼을 클릭합니다. 실습 비용을 결제해야 하는 경우 결제 수단을 선택할 수 있는 팝업이 열립니다. 왼쪽에는 다음과 같은 항목이 포함된 실습 세부정보 패널이 있습니다.

   • Google Cloud 콘솔 열기 버튼
   • 남은 시간
   • 이 실습에 사용해야 하는 임시 사용자 인증 정보
   • 필요한 경우 실습 진행을 위한 기타 정보

2. Google Cloud 콘솔 열기를 클릭합니다(Chrome 브라우저를 실행 중인 경우 마우스 오른쪽 버튼으로 클릭하고 시크릿 창에서 링크 열기를 선택합니다).

   실습에서 리소스가 가동되면 다른 탭이 열리고 로그인 페이지가 표시됩니다.

   팁: 두 개의 탭을 각각 별도의 창으로 나란히 정렬하세요.

   참고: 계정 선택 대화상자가 표시되면 다른 계정 사용을 클릭합니다.

3. 필요한 경우 아래의 사용자 이름을 복사하여 로그인 대화상자에 붙여넣습니다.

   {{{user_0.username | "Username"}}}

   실습 세부정보 패널에서도 사용자 이름을 확인할 수 있습니다.

4. 다음을 클릭합니다.

5. 아래의 비밀번호를 복사하여 시작하기 대화상자에 붙여넣습니다.

   {{{user_0.password | "Password"}}}

   실습 세부정보 패널에서도 비밀번호를 확인할 수 있습니다.

6. 다음을 클릭합니다.

   중요: 실습에서 제공하는 사용자 인증 정보를 사용해야 합니다. Google Cloud 계정 사용자 인증 정보를 사용하지 마세요. 참고: 이 실습에 자신의 Google Cloud 계정을 사용하면 추가 요금이 발생할 수 있습니다.

7. 이후에 표시되는 페이지를 클릭하여 넘깁니다.

   • 이용약관에 동의합니다.
   • 임시 계정이므로 복구 옵션이나 2단계 인증을 추가하지 않습니다.
   • 무료 체험판을 신청하지 않습니다.

잠시 후 Google Cloud 콘솔이 이 탭에서 열립니다.

참고: Google Cloud 제품 및 서비스 목록이 있는 메뉴를 보려면 왼쪽 상단의 탐색 메뉴를 클릭합니다.

작업 1. Vertex AI Workbench에서 노트북 열기

1. Google Cloud 콘솔의 탐색 메뉴에서 Vertex AI > Workbench를 클릭합니다.

2. generative-ai-jupyterlab 노트북을 찾은 다음 JupyterLab 열기 버튼을 클릭합니다.

Workbench 인스턴스의 JupyterLab 인터페이스가 새 브라우저 탭에서 열립니다.

작업 2. 노트북 설정

1. intro_multimodal_rag.ipynb 파일을 클릭합니다.

2. 노트북의 시작하기 및 라이브러리 가져오기 섹션을 훑어봅니다.

   • 프로젝트 ID로는 를 사용하고, 위치로는 을 사용합니다.

참고: Colab만 해당이라고 되어 있는 노트북 셀은 건너뛰어도 됩니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. Vertex AI SDK for Python을 설치하고 라이브러리를 가져옵니다.

다음 섹션에서는 노트북 셀을 훑어보며 Gemini API를 통해 멀티모달 RAG 시스템을 구축하는 방법을 확인합니다.

작업 3. Gemini Pro 모델 사용하기

Gemini Pro(gemini-pro) 모델은 자연어 작업, 멀티턴 텍스트 및 코드 채팅, 코드 생성을 처리하도록 설계되었습니다. 이 섹션에서는 가독성을 높이기 위해 이 노트북에 필요한 몇 가지 도우미 함수를 다운로드합니다. GitHub(intro_multimodal_rag_utils.py)에서 바로 코드를 볼 수도 있습니다.

1. 이 작업에서는 노트북 셀을 훑어보며 모델을 로드하고, 도우미 함수를 다운로드하고, Cloud Storage에서 문서와 이미지를 가져옵니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. Cloud Storage에서 이미지와 문서를 다운로드합니다.

작업 4. 텍스트와 이미지가 포함된 문서의 메타데이터 구축

이 실습에서 사용하는 소스 데이터는 회사의 재무 성과, 비즈니스 운영, 관리, 위험 요소에 대한 포괄적인 개요를 제공하는 Google-10K의 수정된 버전입니다. 원본 문서가 다소 크기 때문에 14페이지만 있는 수정된 버전을 대신 사용했습니다. 크기는 줄었지만 샘플 문서의 표, 차트, 그래프 등의 이미지와 텍스트가 그대로 포함되어 있습니다.

1. 이 작업에서는 노트북 셀을 훑어보며 문서에서 텍스트와 이미지의 메타데이터를 추출하고 저장합니다.

참고: 문서에서 텍스트와 이미지의 메타데이터를 추출하고 저장하는 셀이 완료되는 데 몇 분 정도 걸릴 수 있습니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 문서에서 텍스트와 이미지의 메타데이터를 추출하고 저장합니다.

작업 5. 텍스트 검색

간단한 질문으로 검색을 시작하고 텍스트 임베딩을 사용한 간단한 텍스트 검색이 이에 답할 수 있는지 확인하겠습니다. 올바른 대답은 Google의 다양한 주식 유형별 기본주당순이익 및 희석주당순이익 값을 보여주는 것입니다.

1. 이 작업에서는 노트북 셀을 훑어보며 텍스트 쿼리를 통해 유사한 텍스트와 이미지를 검색합니다.

작업 6. 이미지 검색

이미지를 검색한다고 상상해 보세요. 단, 단어를 입력하지 않고 실제 이미지를 단서로 사용합니다. 2년 동안의 수익 비용에 대한 수치가 포함된 표가 있고 동일한 문서나 여러 문서에서 이와 유사한 다른 이미지를 찾으려고 합니다.

사용자 입력에 따라 유사한 텍스트와 이미지를 식별하는 Gemini 및 임베딩 기반 기능은 다음 작업에서 살펴볼 멀티모달 RAG 시스템 개발의 중요한 토대가 됩니다.

1. 이 작업에서는 노트북 셀을 훑어보며 이미지 쿼리를 통해 유사한 이미지를 검색합니다.

참고: 이 작업의 점수를 확인하려면 몇 분 정도 기다려야 할 수 있습니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 이미지 쿼리로 유사한 이미지를 검색합니다.

비교 추론

Class A Google 주식을 S&P 500이나 다른 테크 회사 등과 같이 다른 주식과 비교하여 보여주는 그래프가 있다고 가정해 보겠습니다. Class C 주식의 실적을 해당 그래프와 비교하려고 합니다. 다른 유사한 이미지를 찾는 대신 Gemini에게 관련 이미지를 비교하고 어떤 주식에 투자하는 것이 더 좋을지 알려달라고 요청할 수 있습니다. 그러면 Gemini가 그렇게 생각하는 이유를 설명할 것입니다.

1. 이 작업에서는 노트북 셀을 훑어보며 두 이미지를 비교하고 가장 유사한 이미지를 찾습니다.

작업 7. 멀티모달 검색 증강 생성(RAG)

이제 지금까지의 작업을 기반으로 멀티모달 RAG를 구현하겠습니다. 이전 섹션에서 살펴본 모든 요소를 사용하여 멀티모달 RAG를 구현합니다. 단계는 다음과 같습니다.

• 1단계: 예상되는 정보가 문서에 있고 이미지와 텍스트에 포함되어 있는 경우 사용자는 텍스트 형식으로 쿼리를 입력합니다.
• 2단계: 텍스트 검색에서 살펴본 것과 유사한 방법을 사용하여 문서의 페이지에서 모든 텍스트 청크를 찾습니다.
• 3단계: 이미지 검색에서 살펴본 것과 동일한 방법을 사용하여 image_description과 일치하는 사용자 쿼리를 기반으로 페이지에서 유사한 이미지를 모두 찾습니다.
• 4단계: 2단계와 3단계에서 찾은 모든 유사한 텍스트와 이미지를 context_text 및 context_images로 결합합니다.
• 5단계: Gemini의 도움으로 2단계와 3단계에서 찾은 텍스트 및 이미지 컨텍스트를 사용하여 사용자 쿼리를 전달할 수 있습니다. 사용자 쿼리에 대답하는 동안 모델이 기억해야 하는 구체적인 요청 사항을 추가할 수도 있습니다.
• 6단계: Gemini가 답변을 생성하면 사용자는 인용 문구를 인쇄하여 쿼리를 해결하는 데 사용된 모든 관련 텍스트와 이미지를 확인할 수 있습니다.

1. 이 작업에서는 노트북 셀을 훑어보며 멀티모달 RAG를 수행합니다.

참고: 이 작업의 점수를 확인하려면 몇 분 정도 기다려야 할 수 있습니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 인용 문구를 인쇄하여 모든 관련 텍스트와 이미지를 확인합니다.

수고하셨습니다

이 실습에서는 멀티모달 검색 증강 생성(RAG)을 사용하여 강력한 문서 검색엔진을 구축하는 방법을 배웠습니다. 텍스트와 이미지가 모두 포함된 문서의 메타데이터를 추출 및 저장하고 문서에 대한 임베딩을 생성하는 방법을 배웠습니다. 또한 유사한 텍스트와 이미지를 찾기 위해 텍스트 및 이미지 쿼리로 메타데이터를 검색하는 방법도 배웠습니다. 마지막으로 텍스트 쿼리를 입력하여 텍스트와 이미지를 모두 사용해 상황에 맞는 답변을 검색하는 방법을 배웠습니다.

다음 단계/자세히 알아보기

• Vertex AI의 생성형 AI 문서 참조하기
• Google Cloud Tech YouTube 채널에서 생성형 AI 자세히 알아보기
• Google Cloud 생성형 AI 공식 저장소
• Gemini 노트북 예시

Google Cloud 교육 및 자격증

Google Cloud 기술을 최대한 활용하는 데 도움이 됩니다. Google 강의에는 빠른 습득과 지속적인 학습을 지원하는 기술적인 지식과 권장사항이 포함되어 있습니다. 기초에서 고급까지 수준별 학습을 제공하며 바쁜 일정에 알맞은 주문형, 실시간, 가상 옵션이 포함되어 있습니다. 인증은 Google Cloud 기술에 대한 역량과 전문성을 검증하고 입증하는 데 도움이 됩니다.

설명서 최종 업데이트: 2024년 6월 13일

실습 최종 테스트: 2024년 6월 13일

Copyright 2024 Google LLC All rights reserved. Google 및 Google 로고는 Google LLC의 상표입니다. 기타 모든 회사명 및 제품명은 해당 업체의 상표일 수 있습니다.