GSP071

개요

대규모 데이터 세트를 저장하고 쿼리할 때 올바른 하드웨어와 인프라를 사용하지 않으면 많은 시간과 비용이 들 수 있습니다. BigQuery는 Google 인프라의 처리 능력을 사용하여 매우 빠른 SQL 쿼리를 지원함으로써 이러한 문제를 해결하는, 확장성이 뛰어난 서버리스 클라우드 데이터 웨어하우스입니다. BigQuery로 데이터를 이동하기만 하면 됩니다. 힘든 작업은 Google에서 처리합니다. 비즈니스 요구사항을 기준으로 다른 사용자에게 데이터를 보거나 쿼리할 수 있는 권한을 부여하는 등 프로젝트 및 데이터에 대한 액세스를 제어할 수 있습니다.

콘솔이나 웹 UI를 통해 BigQuery에 액세스하거나 Java, .NET, Python 같은 다양한 클라이언트 라이브러리를 사용해 명령줄 도구를 호출하여 BigQuery에 액세스할 수 있습니다. 또한 다양한 솔루션 제공업체를 통해서도 BigQuery와 상호작용할 수 있습니다.

이 실무형 실습에서는 BigQuery용 Python 기반 명령줄 도구인 bq를 사용하여 공개 테이블을 쿼리하고 샘플 데이터를 BigQuery에 로드하는 방법을 살펴봅니다.

실습할 내용

• 공개 데이터 세트 쿼리하기
• 새 데이터 세트 만들기
• 새 테이블에 데이터 로드하기
• 커스텀 테이블 쿼리하기

설정 및 요건

실습 시작 버튼을 클릭하기 전에

다음 안내를 확인하세요. 실습에는 시간 제한이 있으며 일시중지할 수 없습니다. 실습 시작을 클릭하면 타이머가 시작됩니다. 이 타이머에는 Google Cloud 리소스를 사용할 수 있는 시간이 얼마나 남았는지 표시됩니다.

실무형 실습을 통해 시뮬레이션이나 데모 환경이 아닌 실제 클라우드 환경에서 직접 실습 활동을 진행할 수 있습니다. 실습 시간 동안 Google Cloud에 로그인하고 액세스하는 데 사용할 수 있는 새로운 임시 사용자 인증 정보가 제공됩니다.

이 실습을 완료하려면 다음을 준비해야 합니다.

• 표준 인터넷 브라우저 액세스 권한(Chrome 브라우저 권장)

참고: 이 실습을 실행하려면 시크릿 모드 또는 시크릿 브라우저 창을 사용하세요. 개인 계정과 학생 계정 간의 충돌로 개인 계정에 추가 요금이 발생하는 일을 방지해 줍니다.

• 실습을 완료하기에 충분한 시간---실습을 시작하고 나면 일시중지할 수 없습니다.

참고: 계정에 추가 요금이 발생하지 않도록 하려면 개인용 Google Cloud 계정이나 프로젝트가 이미 있어도 이 실습에서는 사용하지 마세요.

실습을 시작하고 Google Cloud 콘솔에 로그인하는 방법

1. 실습 시작 버튼을 클릭합니다. 실습 비용을 결제해야 하는 경우 결제 수단을 선택할 수 있는 팝업이 열립니다. 왼쪽에는 다음과 같은 항목이 포함된 실습 세부정보 패널이 있습니다.

   • Google Cloud 콘솔 열기 버튼
   • 남은 시간
   • 이 실습에 사용해야 하는 임시 사용자 인증 정보
   • 필요한 경우 실습 진행을 위한 기타 정보

2. Google Cloud 콘솔 열기를 클릭합니다(Chrome 브라우저를 실행 중인 경우 마우스 오른쪽 버튼으로 클릭하고 시크릿 창에서 링크 열기를 선택합니다).

   실습에서 리소스가 가동되면 다른 탭이 열리고 로그인 페이지가 표시됩니다.

   팁: 두 개의 탭을 각각 별도의 창으로 나란히 정렬하세요.

   참고: 계정 선택 대화상자가 표시되면 다른 계정 사용을 클릭합니다.

3. 필요한 경우 아래의 사용자 이름을 복사하여 로그인 대화상자에 붙여넣습니다.

   {{{user_0.username | "Username"}}}

   실습 세부정보 패널에서도 사용자 이름을 확인할 수 있습니다.

4. 다음을 클릭합니다.

5. 아래의 비밀번호를 복사하여 시작하기 대화상자에 붙여넣습니다.

   {{{user_0.password | "Password"}}}

   실습 세부정보 패널에서도 비밀번호를 확인할 수 있습니다.

6. 다음을 클릭합니다.

   중요: 실습에서 제공하는 사용자 인증 정보를 사용해야 합니다. Google Cloud 계정 사용자 인증 정보를 사용하지 마세요. 참고: 이 실습에 자신의 Google Cloud 계정을 사용하면 추가 요금이 발생할 수 있습니다.

7. 이후에 표시되는 페이지를 클릭하여 넘깁니다.

   • 이용약관에 동의합니다.
   • 임시 계정이므로 복구 옵션이나 2단계 인증을 추가하지 않습니다.
   • 무료 체험판을 신청하지 않습니다.

잠시 후 Google Cloud 콘솔이 이 탭에서 열립니다.

참고: Google Cloud 제품 및 서비스 목록이 있는 메뉴를 보려면 왼쪽 상단의 탐색 메뉴를 클릭합니다.

Cloud Shell 활성화

Cloud Shell은 다양한 개발 도구가 탑재된 가상 머신으로, 5GB의 영구 홈 디렉터리를 제공하며 Google Cloud에서 실행됩니다. Cloud Shell을 사용하면 명령줄을 통해 Google Cloud 리소스에 액세스할 수 있습니다.

1. Google Cloud 콘솔 상단에서 Cloud Shell 활성화 를 클릭합니다.

연결되면 사용자 인증이 이미 처리된 것이며 프로젝트가 PROJECT_ID로 설정됩니다. 출력에 이 세션의 PROJECT_ID를 선언하는 줄이 포함됩니다.

Your Cloud Platform project in this session is set to YOUR_PROJECT_ID

gcloud는 Google Cloud의 명령줄 도구입니다. Cloud Shell에 사전 설치되어 있으며 명령줄 자동 완성을 지원합니다.

2. (선택사항) 다음 명령어를 사용하여 활성 계정 이름 목록을 표시할 수 있습니다.

gcloud auth list

3. 승인을 클릭합니다.

4. 다음과 비슷한 결과가 출력됩니다.

출력:

ACTIVE: * ACCOUNT: student-01-xxxxxxxxxxxx@qwiklabs.net To set the active account, run: $ gcloud config set account `ACCOUNT`

5. (선택사항) 다음 명령어를 사용하여 프로젝트 ID 목록을 표시할 수 있습니다.

gcloud config list project

출력:

[core] project = <project_ID>

출력 예시:

[core] project = qwiklabs-gcp-44776a13dea667a6 참고: gcloud 전체 문서는 Google Cloud에서 gcloud CLI 개요 가이드를 참조하세요.

작업 1. 테이블 검사

BigQuery는 쿼리를 실행할 수 있는 여러 샘플 테이블을 제공합니다. 이 실습에서는 모든 희곡의 모든 단어 항목이 포함된 shakespeare 테이블을 대상으로 쿼리를 실행합니다.

샘플 데이터 세트에 있는 Shakespeare 테이블의 스키마를 조사하려면 다음 명령어를 실행합니다.

bq show bigquery-public-data:samples.shakespeare

이 명령어로 다음 작업을 수행합니다.

• bq로는 BigQuery 명령줄 도구를 호출할 수 있습니다.
• show는 작업을 나타냅니다.
• 그런 다음, BigQuery에서 확인하려는 project:public dataset.table의 이름을 나열합니다.

출력:

Last modified Schema Total Rows Total Bytes Expiration Time Partitioning Clustered Fields Labels ----------------- ------------------------------------ ------------ ------------- ------------ ------------------- ------------------ -------- 14 Mar 13:16:45 |- word: string (required) 164656 6432064 |- word_count: integer (required) |- corpus: string (required) |- corpus_date: integer (required)

작업 2. help 명령어 실행

help 명령어에 명령어 이름을 포함하면 해당 명령어에 관한 정보를 확인할 수 있습니다.

1. 예를 들어 다음 bq help 호출로 query 명령어에 대한 정보를 검색할 수 있습니다.

bq help query

2. bq에서 사용하는 명령어 목록을 모두 보려면 bq help를 실행하기만 하면 됩니다.

작업 3. 쿼리 실행

이제 쿼리를 실행하여 셰익스피어 작품에서 하위 문자열 'raisin'이 나타나는 횟수를 확인합니다.

1. 쿼리를 실행하려면 bq query "[SQL_STATEMENT]" 명령어를 실행합니다.

• [SQL_STATEMENT] 내의 인용 부호를 \ 기호로 이스케이프합니다.

• 또는 감싸고 있는 기호와 다른 유형의 따옴표를 사용합니다(" 또는 ').

2. Cloud Shell에서 다음 표준 SQL 쿼리를 실행하여 모든 셰익스피어 작품에서 하위 문자열 'raisin'이 나타나는 횟수를 계산합니다.

bq query --use_legacy_sql=false \ 'SELECT word, SUM(word_count) AS count FROM `bigquery-public-data`.samples.shakespeare WHERE word LIKE "%raisin%" GROUP BY word'

이 명령어에서

• --use_legacy_sql=false는 표준 SQL을 기본 쿼리 문법으로 설정합니다.

출력:

Waiting on job_e19 ... (0s) Current status: DONE +---------------+-------+ | word | count | +---------------+-------+ | praising | 8 | | Praising | 4 | | raising | 5 | | dispraising | 2 | | dispraisingly | 1 | | raisins | 1 |

실제 단어 raisin이 나타나지 않더라도 셰익스피어의 여러 작품에서 문자가 순서대로 표시된다는 사실을 이 테이블에서 확인할 수 있습니다.

완료된 작업 테스트하기

내 진행 상황 확인하기를 클릭하여 실행한 작업을 확인합니다. 공개 데이터 세트를 대상으로 쿼리를 정상적으로 실행하면 평가 점수가 표시됩니다.

쿼리 실행(데이터 세트: samples, 테이블: shakespeare, 하위 문자열: raisin)

Shakespeare의 작품에 나오지 않는 단어를 검색하는 경우 결과가 반환되지 않습니다.

• 'huzzah'를 찾기 위해 다음 검색을 실행하면 일치 항목이 반환되지 않습니다.

bq query --use_legacy_sql=false \ 'SELECT word FROM `bigquery-public-data`.samples.shakespeare WHERE word = "huzzah"'

완료된 작업 테스트하기

내 진행 상황 확인하기를 클릭하여 실행한 작업을 확인합니다. 공개 데이터 세트를 대상으로 쿼리를 정상적으로 실행하면 평가 점수가 표시됩니다.

쿼리 실행(데이터 세트: samples, 테이블: shakespeare, 하위 문자열: huzzah)

작업 4. 새 테이블 만들기

이제 테이블을 직접 만들어 봅니다. 모든 테이블은 데이터 세트 안에 저장됩니다. 데이터 세트는 테이블이나 뷰와 같은 리소스의 그룹입니다.

새 데이터 세트 만들기

1. bq ls 명령어를 사용하여 프로젝트에 있는 모든 기존 데이터 세트를 나열합니다.

bq ls

프로젝트에 아직 데이터 세트가 없으므로 명령줄로 돌아가게 됩니다.

2. bq ls 및 bigquery-public-data 프로젝트 ID를 실행하여 해당 프로젝트에 있는 데이터 세트를 나열하고 뒤에 콜론(:)을 추가합니다.

bq ls bigquery-public-data:

출력:

datasetId ----------------------------- austin_311 austin_bikeshare austin_crime austin_incidents austin_waste baseball bitcoin_blockchain bls census_bureau_construction census_bureau_international census_bureau_usa census_utility chicago_crime ...

이제 데이터 세트를 만듭니다. 데이터 세트 이름은 최대 1,024자까지 가능하며 A~Z, a~z, 0~9, 밑줄로 구성되지만 숫자 또는 밑줄로 시작할 수 없으며 공백도 사용할 수 없습니다.

3. bq mk 명령어를 사용하여 프로젝트에 이름이 babynames인 새 데이터 세트를 만듭니다.

bq mk babynames

샘플 출력:

Dataset 'qwiklabs-gcp-ba3466847fe3cec0:babynames' successfully created.

완료된 작업 테스트하기

내 진행 상황 확인하기를 클릭하여 실행한 작업을 확인합니다. babynames라는 BigQuery 데이터 세트가 정상적으로 생성되면 평가 점수가 표시됩니다.

새 데이터 세트 만들기(이름: babynames)

• bq ls를 실행하여 데이터 세트가 이제 프로젝트의 일부로 표시되는지 확인합니다.

bq ls

샘플 출력:

datasetId ------------- babynames

데이터 세트 업로드하기

테이블을 빌드하려면 먼저 프로젝트에 데이터 세트를 추가해야 합니다. 실습에서 사용하는 커스텀 데이터 파일에는 미국 사회보장국에서 제공하는 약 7MB의 인기 있는 아기 이름 데이터가 포함되어 있습니다.

1. 이 명령어를 실행하여 데이터 파일의 URL을 사용해 아기 이름 ZIP 파일을 프로젝트에 추가합니다.

curl -LO http://www.ssa.gov/OACT/babynames/names.zip

2. 파일을 나열합니다.

ls

프로젝트에 추가된 파일 이름이 표시됩니다.

3. 이제 파일의 압축을 풉니다.

unzip names.zip

4. 텍스트 파일의 목록이 너무 깁니다. 파일을 다시 나열합니다.

ls

bq load 명령어는 테이블을 만들거나 업데이트한 후 여러 단계를 거치지 않고 한 번에 데이터를 로드합니다.

bq load 명령어를 사용하여, 방금 만든 babynames 데이터 세트의 새 테이블 names2010에 소스 파일을 로드합니다. 기본적으로 이 작업은 동기식으로 실행되며 완료되기까지 몇 초 정도 시간이 걸립니다.

다음과 같은 bq load 인수를 실행할 수 있습니다.

datasetID: babynames tableID: names2010 source: yob2010.txt schema: name:string,gender:string,count:integer

5. 테이블을 만듭니다.

bq load babynames.names2010 yob2010.txt name:string,gender:string,count:integer

샘플 출력:

Waiting on job_4f0c0878f6184119abfdae05f5194e65 ... (35s) Current status: DONE

완료된 작업 테스트하기

내 진행 상황 확인하기를 클릭하여 실행한 작업을 확인합니다. 데이터 세트 테이블에 데이터가 정상적으로 로드되면 평가 점수가 표시됩니다.

새 테이블에 데이터 로드

1. bq ls 및 babynames를 실행하여 테이블이 이제 데이터 세트에 표시되는지 확인합니다.

bq ls babynames

출력:

tableId Type ----------- ------- names2010 TABLE

2. bq show 및 dataset.table을 실행하여 스키마를 확인합니다.

bq show babynames.names2010

출력:

Last modified Schema Total Rows Total Bytes Expiration Time Partitioning Clustered Fields Labels ----------------- ------------------- ------------ ------------- ----------------- ------------------- ------------------ -------- 13 Aug 14:37:34 |- name: string 34073 654482 12 Oct 14:37:34 |- gender: string |- count: integer 참고: 데이터를 로드할 때 BigQuery는 기본적으로 UTF-8로 인코딩된 데이터를 예상합니다. ISO-8859-1(또는 Latin-1)로 인코딩된 데이터가 있고 로드된 데이터에 문제가 있는 경우 -E 플래그를 사용하여 BigQuery에 명시적으로 데이터를 Latin-1로 취급하도록 지시할 수 있습니다. 문자 인코딩에 대한 자세한 내용은 데이터 로드 소개 가이드를 참조하세요.

작업 5. 쿼리 실행

이제 데이터를 쿼리하여 흥미로운 결과를 반환할 준비가 되었습니다.

1. 다음 명령어를 실행하여 가장 인기 있는 여아 이름 5개를 반환합니다.

bq query "SELECT name,count FROM babynames.names2010 WHERE gender = 'F' ORDER BY count DESC LIMIT 5"

출력:

Waiting on job_58c0f5ca52764ef1902eba611b71c651 ... (0s) Current status: DONE +----------+-------+ | name | count | +----------+-------+ | Isabella | 22913 | | Sophia | 20643 | | Emma | 17345 | | Olivia | 17028 | | Ava | 15433 | +----------+-------+

2. 다음 명령어를 실행하여 가장 드문 남아 이름 5개를 확인합니다.

bq query "SELECT name,count FROM babynames.names2010 WHERE gender = 'M' ORDER BY count ASC LIMIT 5" 참고: 5회 미만으로 나타나는 이름은 소스 데이터에서 생략되므로 최소 수는 5입니다.

출력:

Waiting on job_556ba2e5aad340a7b2818c3e3280b7a3 ... (1s) Current status: DONE +----------+-------+ | name | count | +----------+-------+ | Aaqib | 5 | | Aaidan | 5 | | Aadhavan | 5 | | Aarian | 5 | | Aamarion | 5 | +----------+-------+

완료된 작업 테스트하기

내 진행 상황 확인하기를 클릭하여 실행한 작업을 확인합니다. 커스텀 데이터 세트를 정상적으로 쿼리하면 평가 점수가 표시됩니다.

데이터 세트 테이블을 대상으로 쿼리 실행

작업 6. 학습한 내용 테스트

아래에는 이 실습에서 배운 내용을 복습하기 위한 객관식 테스트가 나와 있습니다. 최선을 다해 풀어보세요.

작업 7. 삭제

1. bq rm 명령어를 실행하여 -r 플래그가 있는 babynames 데이터 세트를 삭제해 데이터 세트의 모든 테이블을 소거합니다.

bq rm -r babynames

2. Y를 입력하여 삭제 명령어를 확인합니다.

완료된 작업 테스트하기

내 진행 상황 확인하기를 클릭하여 실행한 작업을 확인합니다. babynames 데이터 세트를 정상적으로 삭제하면 평가 점수가 표시됩니다.

babynames 데이터 세트 삭제

수고하셨습니다

이제 명령줄을 사용하여 공개 테이블을 쿼리하고 샘플 데이터를 BigQuery에 로드할 수 있습니다.

다음 단계/더 학습하기

이 실습은 Qwik Start라는 실습 시리즈에 속해 있기도 합니다. 이 실습은 Google Cloud에서 제공하는 다양한 기능을 간략하게 소개하고자 마련되었습니다. 실습 카탈로그에서 'Qwik Start'를 검색하여 다음으로 참여할 실습을 찾아보세요.

Google Cloud 교육 및 자격증

Google Cloud 기술을 최대한 활용하는 데 도움이 됩니다. Google 강의에는 빠른 습득과 지속적인 학습을 지원하는 기술적인 지식과 권장사항이 포함되어 있습니다. 기초에서 고급까지 수준별 학습을 제공하며 바쁜 일정에 알맞은 주문형, 실시간, 가상 옵션이 포함되어 있습니다. 인증은 Google Cloud 기술에 대한 역량과 전문성을 검증하고 입증하는 데 도움이 됩니다.

설명서 최종 업데이트: 2024년 1월 26일

실습 최종 테스트: 2023년 8월 24일

Copyright 2024 Google LLC All rights reserved. Google 및 Google 로고는 Google LLC의 상표입니다. 기타 모든 회사명 및 제품명은 해당 업체의 상표일 수 있습니다.