GSP196

Visão geral

Neste laboratório, você vai importar dados de arquivos de texto CSV para o Cloud SQL e analisar alguns dados básicos usando consultas simples.

O conjunto de dados usado neste laboratório é fornecido pela Secretaria de Estatísticas de Transporte dos EUA (em inglês) e contém informações sobre voos domésticos nos Estados Unidos. Com esse conjunto de dados, é possível mostrar diversos conceitos e técnicas da ciência de dados. Ele também é usado em todos os laboratórios da Quest Data Science on Google Cloud Platform.

Objetivos

• Criar uma instância do Cloud SQL
• Criar um banco de dados do Cloud SQL
• Importar dados de texto para o Cloud SQL
• Criar um modelo de dados inicial usando consultas

Configuração e requisitos

Antes de clicar no botão Start Lab

Leia estas instruções. Os laboratórios são cronometrados e não podem ser pausados. O timer é iniciado quando você clica em Começar o laboratório e mostra por quanto tempo os recursos do Google Cloud vão ficar disponíveis.

Este laboratório prático permite que você realize as atividades em um ambiente real de nuvem, não em uma simulação ou demonstração. Você vai receber novas credenciais temporárias para fazer login e acessar o Google Cloud durante o laboratório.

Confira os requisitos para concluir o laboratório:

• Acesso a um navegador de Internet padrão (recomendamos o Chrome).

Observação: para executar este laboratório, use o modo de navegação anônima ou uma janela anônima do navegador. Isso evita conflitos entre sua conta pessoal e a conta de estudante, o que poderia causar cobranças extras na sua conta pessoal.

• Tempo para concluir o laboratório---não se esqueça: depois de começar, não será possível pausar o laboratório.

Observação: não use seu projeto ou conta do Google Cloud neste laboratório para evitar cobranças extras na sua conta.

Como iniciar seu laboratório e fazer login no console do Google Cloud

1. Clique no botão Começar o laboratório. Se for preciso pagar, você verá um pop-up para selecionar a forma de pagamento. No painel Detalhes do laboratório à esquerda, você vai encontrar o seguinte:

   • O botão Abrir console do Google Cloud
   • O tempo restante
   • As credenciais temporárias que você vai usar neste laboratório
   • Outras informações, se forem necessárias

2. Se você estiver usando o navegador Chrome, clique em Abrir console do Google Cloud ou clique com o botão direito do mouse e selecione Abrir link em uma janela anônima.

   O laboratório ativa os recursos e depois abre a página Fazer login em outra guia.

   Dica: coloque as guias em janelas separadas lado a lado.

   Observação: se aparecer a caixa de diálogo Escolher uma conta, clique em Usar outra conta.

3. Se necessário, copie o Nome de usuário abaixo e cole na caixa de diálogo Fazer login.

   {{{user_0.username | "Nome de usuário"}}}

   Você também encontra o Nome de usuário no painel Detalhes do laboratório.

4. Clique em Seguinte.

5. Copie a Senha abaixo e cole na caixa de diálogo de boas-vindas.

   {{{user_0.password | "Senha"}}}

   Você também encontra a Senha no painel Detalhes do laboratório.

6. Clique em Seguinte.

   Importante: você precisa usar as credenciais fornecidas no laboratório, e não as da sua conta do Google Cloud. Observação: se você usar sua própria conta do Google Cloud neste laboratório, é possível que receba cobranças adicionais.

7. Acesse as próximas páginas:

   • Aceite os Termos e Condições.
   • Não adicione opções de recuperação nem autenticação de dois fatores (porque essa é uma conta temporária).
   • Não se inscreva em testes gratuitos.

Depois de alguns instantes, o console do Google Cloud será aberto nesta guia.

Observação: clique em Menu de navegação no canto superior esquerdo para acessar uma lista de produtos e serviços do Google Cloud.

Ativar o Cloud Shell

O Cloud Shell é uma máquina virtual com várias ferramentas de desenvolvimento. Ele tem um diretório principal permanente de 5 GB e é executado no Google Cloud. O Cloud Shell oferece acesso de linha de comando aos recursos do Google Cloud.

1. Clique em Ativar o Cloud Shell na parte de cima do console do Google Cloud.

Depois de se conectar, vai notar que sua conta já está autenticada, e que o projeto está configurado com seu PROJECT_ID. A saída contém uma linha que declara o projeto PROJECT_ID para esta sessão:

Your Cloud Platform project in this session is set to YOUR_PROJECT_ID

gcloud é a ferramenta de linha de comando do Google Cloud. Ela vem pré-instalada no Cloud Shell e aceita preenchimento com tabulação.

2. (Opcional) É possível listar o nome da conta ativa usando este comando:

gcloud auth list

3. Clique em Autorizar.

4. A saída será parecida com esta:

Saída:

ACTIVE: * ACCOUNT: student-01-xxxxxxxxxxxx@qwiklabs.net To set the active account, run: $ gcloud config set account `ACCOUNT`

5. (Opcional) É possível listar o ID do projeto usando este comando:

gcloud config list project

Saída:

[core] project = <project_ID>

Exemplo de saída:

[core] project = qwiklabs-gcp-44776a13dea667a6 Observação: para conferir a documentação completa da gcloud, acesse o guia com informações gerais sobre a gcloud CLI no Google Cloud.

Tarefa 1: Prepare o ambiente

Este laboratório usa um conjunto de exemplos de código e scripts do livro Data Science on the Google Cloud Platform, 2nd Edition (O'Reilly Media, Inc.). Além disso, o laboratório aborda as tarefas de configuração do Google Cloud SQL e de importação de dados descritas no capítulo 3, "Creating Compelling Dashboards". Você vai clonar o repositório de exemplo (capítulo 2) do GitHub para o Cloud Shell, onde realizará todas as tarefas do laboratório.

Clone o repositório do Data Science on Google Cloud

1. No Cloud Shell, digite estes comandos para clonar o repositório:

git clone \ https://github.com/GoogleCloudPlatform/data-science-on-gcp/

2. Mude para o diretório do repositório:

cd data-science-on-gcp/03_sqlstudio

3. Crie as variáveis de ambiente que vão ser usadas mais adiante neste laboratório como seu ID do projeto, também crie o bucket de armazenamento que vai conter os dados:

export PROJECT_ID=$(gcloud info --format='value(config.project)') export BUCKET=${PROJECT_ID}-ml

4. Insira o comando a seguir para salvar o arquivo no bucket do Cloud Storage:

gsutil cp create_table.sql \ gs://$BUCKET/create_table.sql

Tarefa 2: Crie uma instância do Cloud SQL

1. Para criar uma instância do Cloud SQL, use os seguintes comandos:

gcloud sql instances create flights \ --database-version=POSTGRES_13 --cpu=2 --memory=8GiB \ --region={{{project_0.default_region | "REGION"}}} --root-password=Passw0rd

Esse processo leva alguns minutos para ser concluído.

Teste a tarefa concluída

Clique em Verificar meu progresso para conferir a tarefa realizada. Se você tiver criado corretamente uma instância do Cloud SQL, verá uma pontuação de avaliação.

Crie uma instância do Cloud SQL.

2. Crie uma variável de ambiente com o endereço IP do Cloud Shell:

export ADDRESS=$(curl -s http://ipecho.net/plain)/32

3. Autorize a instância do Cloud Shell a ter acesso de gerenciamento à sua instância do SQL:

gcloud sql instances patch flights --authorized-networks $ADDRESS

4. Quando solicitado, pressione Y para confirmar a mudança.

Teste a tarefa concluída

Clique em Verificar meu progresso para conferir a tarefa realizada. Se você tiver autorizado o Cloud Shell a acessar a instância do SQL, verá uma pontuação de avaliação.

Autorize a instância do Cloud Shell a ter acesso à sua instância do SQL.

Crie um banco de dados e uma tabela

Para importar dados para uma tabela postgres, primeiro crie um banco de dados e uma tabela vazios com o esquema correto.

1. No console do Cloud, acesse o Menu de navegação () e clique em SQL.

2. Para abrir a página "Visão geral" de uma instância, clique no nome de instância flights.

3. No menu de navegação do SQL à esquerda, selecione Banco de dados.

4. Clique em Criar banco de dados.

5. Na caixa de diálogo "Novo banco de dados", nomeie como bts.

6. Clique em Criar.

7. Para abrir a página "Visão geral" de uma instância, selecione Visão geral no menu de navegação do SQL.

8. Na parte de cima, clique em IMPORTAR.

9. No campo de arquivo do Cloud Storage, clique em Procurar.

10. Na seção "Buckets", clique na seta ao lado do nome do bucket.

11. Selecione o arquivo create_table.sql.

12. Clique em Selecionar.

13. Na seção Formato de arquivo, selecione "SQL".

14. Especifique o banco de dados bts na instância do Cloud SQL.

15. Para iniciar o processo, clique em Importar.

Uma tabela vazia vai ser criada depois de alguns segundos.

Teste a tarefa concluída

Clique em Verificar meu progresso para conferir a tarefa realizada. Se você tiver criado corretamente um banco de dados bts e uma tabela de voos usando o arquivo create_table.sql, verá uma pontuação de avaliação.

Crie um banco de dados bts e uma tabela de voos usando o arquivo create_table.sql.

Tarefa 3: Adicione dados a uma instância do Cloud SQL

Você criou um banco de dados e uma tabela vazios, depois disso, carregue os arquivos CSV nessa tabela. Para carregar os dados de janeiro, procure o arquivo 201501.csv no bucket e defina o formato como CSV, o banco de dados como "bts", e a tabela como "flights".

1. Na página da instância do Cloud SQL, clique em IMPORTAR.

2. No campo do arquivo do Cloud Storage, selecione Procurar, clique na seta ao lado do nome do bucket e selecione 201501.csv.

3. Clique em Selecionar.

4. Selecione CSV como o formato de arquivo.

5. Selecione o banco de dados bts e especifique flights como a tabela.

6. Clique em IMPORTAR.

Tarefa 4: Interaja com o banco de dados

1. Use o comando a seguir para se conectar à instância do Cloud SQL usando o Cloud Shell:

gcloud sql connect flights --user=postgres

2. Quando uma senha for solicitada, digite Passw0rd. Não é possível ver os caracteres enquanto digita.

3. Insira o comando a seguir no prompt para se conectar ao banco de dados bts:

\c bts;

4. Quando uma senha for solicitada, digite Passw0rd.

5. Em seguida, execute uma consulta para saber quais são os cinco aeroportos mais movimentados:

SELECT "Origin", COUNT(*) AS num_flights FROM flights GROUP BY "Origin" ORDER BY num_flights DESC LIMIT 5;

Essa consulta é eficiente porque o conjunto de dados é relativamente pequeno (somente janeiro), e o banco de dados vai ficar mais lento quando outros meses forem adicionados.

Os bancos de dados relacionais são adequados para conjuntos de dados pequenos, em que você executa consultas ad hoc que retornam um pequeno subconjunto dos dados. Para conjuntos de dados maiores, ajuste o desempenho de um banco de dados relacional indexando as colunas relevantes. Além disso, geralmente os bancos de dados relacionais têm suporte às transações e garantem consistência forte, sendo uma ótima opção para dados atualizados com frequência.

No entanto, um banco de dados relacional não vai ser uma boa escolha se:

• a maioria dos seus dados for somente para leitura;
• o tamanho do conjunto de dados estiver em terabytes;
• for necessário verificar a tabela completa (por exemplo, para calcular o valor máximo de uma coluna) ou se os fluxos de dados forem transmitidos em alta velocidade.

Isso descreve um caso de uso para atrasos em voos. Nesse caso, recomendamos mudar de um banco de dados relacional para um data warehouse de análise, o BigQuery. Esse serviço permite usar o SQL, além de ser essencial para processar grandes conjuntos de dados e consultas ad hoc (por exemplo, não é necessário indexar as colunas).

Parabéns!

Agora você já sabe criar tabelas e importar para o Google Cloud SQL dados de texto armazenados no Cloud Storage.

Próximas etapas/Saiba mais

Veja o que fazer em seguida:

• Data Science on the Google Cloud Platform, 2nd Edition: O'Reilly Media, Inc.

Treinamento e certificação do Google Cloud

Esses treinamentos ajudam você a aproveitar as tecnologias do Google Cloud ao máximo. Nossas aulas incluem habilidades técnicas e práticas recomendadas para ajudar você a alcançar rapidamente o nível esperado e continuar sua jornada de aprendizado. Oferecemos treinamentos que vão do nível básico ao avançado, com opções de aulas virtuais, sob demanda e por meio de transmissões ao vivo para que você possa encaixá-las na correria do seu dia a dia. As certificações validam sua experiência e comprovam suas habilidades com as tecnologias do Google Cloud.

Manual atualizado em 28 de novembro de 2023

Laboratório testado em 28 de novembro de 2023

Copyright 2024 Google LLC. Todos os direitos reservados. Google e o logotipo do Google são marcas registradas da Google LLC. Todos os outros nomes de produtos e empresas podem ser marcas registradas das respectivas empresas a que estão associados.