markdown stringlengths 0 1.02M | code stringlengths 0 832k | output stringlengths 0 1.02M | license stringlengths 3 36 | path stringlengths 6 265 | repo_name stringlengths 6 127 |
|---|---|---|---|---|---|
Learning rate scheduler | lr_min = 1e-6
lr_start = 0
lr_max = config['LEARNING_RATE']
step_size = 26880 // config['BATCH_SIZE'] #(len(k_fold[k_fold[f'fold_{fold_n}'] == 'train']) * 2) // config['BATCH_SIZE']
total_steps = config['EPOCHS'] * step_size
hold_max_steps = 0
warmup_steps = step_size * 5
num_cycles = 5
rng = [i for i in range(0, tota... | Learning rate schedule: 0 to 0.0003 to 1e-06
| MIT | Model backlog/Train/31-melanoma-5fold-resnet18-cosine-decay-wr.ipynb | dimitreOliveira/melanoma-classification |
Model | def model_fn(input_shape):
input_image = L.Input(shape=input_shape, name='input_image')
BaseModel, preprocess_input = Classifiers.get('resnet18')
base_model = BaseModel(input_shape=input_shape,
weights=config['BASE_MODEL_PATH'],
include_top=False)
... | _____no_output_____ | MIT | Model backlog/Train/31-melanoma-5fold-resnet18-cosine-decay-wr.ipynb | dimitreOliveira/melanoma-classification |
Training | eval_dataset = get_eval_dataset(TRAINING_FILENAMES, batch_size=config['BATCH_SIZE'], buffer_size=AUTO)
image_names = next(iter(eval_dataset.unbatch().map(lambda data, label, image_name: image_name).batch(len(k_fold)))).numpy().astype('U')
image_data = eval_dataset.map(lambda data, label, image_name: data)
history_list... |
FOLD: 1
Downloading data from https://github.com/qubvel/classification_models/releases/download/0.0.1/resnet18_imagenet_1000_no_top.h5
44924928/44920640 [==============================] - 2s 0us/step
Epoch 1/20
388/388 - 110s - loss: 0.3444 - auc: 0.5745 - val_loss: 0.3190 - val_auc: 0.4678
Epoch 2/20
388/388 - 110s -... | MIT | Model backlog/Train/31-melanoma-5fold-resnet18-cosine-decay-wr.ipynb | dimitreOliveira/melanoma-classification |
Model loss graph | for n_fold in range(config['N_FOLDS']):
print(f'Fold: {n_fold + 1}')
plot_metrics(history_list[n_fold]) | Fold: 1
| MIT | Model backlog/Train/31-melanoma-5fold-resnet18-cosine-decay-wr.ipynb | dimitreOliveira/melanoma-classification |
Model loss graph aggregated | plot_metrics_agg(history_list, config['N_FOLDS']) | _____no_output_____ | MIT | Model backlog/Train/31-melanoma-5fold-resnet18-cosine-decay-wr.ipynb | dimitreOliveira/melanoma-classification |
Model evaluation | display(evaluate_model(k_fold, config['N_FOLDS']).style.applymap(color_map)) | _____no_output_____ | MIT | Model backlog/Train/31-melanoma-5fold-resnet18-cosine-decay-wr.ipynb | dimitreOliveira/melanoma-classification |
Model evaluation by Subset | display(evaluate_model_Subset(k_fold, config['N_FOLDS']).style.applymap(color_map)) | _____no_output_____ | MIT | Model backlog/Train/31-melanoma-5fold-resnet18-cosine-decay-wr.ipynb | dimitreOliveira/melanoma-classification |
Confusion matrix | for n_fold in range(config['N_FOLDS']):
n_fold += 1
pred_col = f'pred_fold_{n_fold}'
train_set = k_fold[k_fold[f'fold_{n_fold}'] == 'train']
valid_set = k_fold[k_fold[f'fold_{n_fold}'] == 'validation']
print(f'Fold: {n_fold}')
plot_confusion_matrix(train_set['target'], np.round(train_set[pred_... | Fold: 1
| MIT | Model backlog/Train/31-melanoma-5fold-resnet18-cosine-decay-wr.ipynb | dimitreOliveira/melanoma-classification |
Visualize predictions | k_fold['pred'] = 0
for n_fold in range(config['N_FOLDS']):
k_fold['pred'] += k_fold[f'pred_fold_{n_fold+1}'] / config['N_FOLDS']
print('Top 10 samples')
display(k_fold[['image_name', 'sex', 'age_approx','anatom_site_general_challenge', 'diagnosis',
'target', 'pred'] + [c for c in k_fold.columns... | Top 10 samples
| MIT | Model backlog/Train/31-melanoma-5fold-resnet18-cosine-decay-wr.ipynb | dimitreOliveira/melanoma-classification |
Make predictions | model_path_list = glob.glob('/kaggle/working/' + '*.h5')
n_models = len(model_path_list)
model_path_list.sort()
print(f'{n_models} Models to predict:')
print(*model_path_list, sep='\n')
test_dataset = get_test_dataset(TEST_FILENAMES, batch_size=config['BATCH_SIZE'], buffer_size=AUTO)
NUM_TEST_IMAGES = len(test)
test_p... | /kaggle/working/model_fold_1.h5
/kaggle/working/model_fold_2.h5
/kaggle/working/model_fold_3.h5
/kaggle/working/model_fold_4.h5
/kaggle/working/model_fold_5.h5
| MIT | Model backlog/Train/31-melanoma-5fold-resnet18-cosine-decay-wr.ipynb | dimitreOliveira/melanoma-classification |
Visualize test predictions | print(f"Test predictions {len(test[test['target'] > .5])}|{len(test[test['target'] <= .5])}")
print('Top 10 samples')
display(test[['image_name', 'sex', 'age_approx','anatom_site_general_challenge','target'] +
[c for c in test.columns if (c.startswith('pred_fold'))]].head(10))
print('Top 10 positive samp... | Test predictions 12|10970
Top 10 samples
| MIT | Model backlog/Train/31-melanoma-5fold-resnet18-cosine-decay-wr.ipynb | dimitreOliveira/melanoma-classification |
Test set predictions | submission = pd.read_csv(database_base_path + 'sample_submission.csv')
submission['target'] = test['target']
submission.to_csv('submission.csv', index=False)
display(submission.head(10))
display(submission.describe()) | _____no_output_____ | MIT | Model backlog/Train/31-melanoma-5fold-resnet18-cosine-decay-wr.ipynb | dimitreOliveira/melanoma-classification |
This exercise uses data from: Zaker, Farzin, 2019, "Online Shopping Store - Web Server Logs", https://doi.org/10.7910/DVN/3QBYB5, Harvard Dataverse, V1 The files `server_log_00.txt` `server_log_01.txt` `server_log_02.txt` `server_log_03.txt` `server_log_04.txt` `server_log_05.txt` `server_log_06.txt` `server_log_07.t... | df_00 = pd.read_csv('data/server_log_00.txt', sep='\n', header=None)
df_00.head() | _____no_output_____ | MIT | 19-workout-blank_combining_datasets_concat_append.ipynb | hanisaf/advanced-data-management-and-analytics |
Each row is one big string containing the server log. The [log contains multiple fields](https://docs.nginx.com/nginx/admin-guide/monitoring/logging/)In this exercise we are interested in the IP address (the first field) and the timestamp. For example, the first row | df_00.iloc[0, 0] | _____no_output_____ | MIT | 19-workout-blank_combining_datasets_concat_append.ipynb | hanisaf/advanced-data-management-and-analytics |
is a request coming from `54.36.149.41` on `22/Jan/2019:03:56:14 +0330`. 1. Extract the IP and timestamp in two separate columns. Discard the original column `0`. The data frame should look like | df_00.head() | _____no_output_____ | MIT | 19-workout-blank_combining_datasets_concat_append.ipynb | hanisaf/advanced-data-management-and-analytics |
**Fundamentos de Python para Data Science**  Essa é uma introdução bem rápida aos conceitos fundamentais de programação em Python. Se familiarizar com tais conceitos é um primeiro passo suficiente para fazer seus p... | meu_nome = 'Ricardo'
meu_sobrenome = 'Rocha'
meu_produto = "Caixa d'agua"
minha_frase = '"Vamos que vamos!"'
print(meu_nome)
print(meu_sobrenome)
print(meu_produto)
print(minha_frase) | Ricardo
Rocha
Caixa d'agua
"Vamos que vamos!"
| MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Não é possível atribuir variáveis com nomes começando com números, nem com espaços no nome ou com aspas. OBS.: O **hashtag ** na frente de uma linha torna ela um **comentário**, pois o interpretador ignora tudo que vem depois dela **Primeiras Funções** Conheça a função **len**, que retorna o tamanho de uma string (... | nome = 'Ricardo'
len(nome) | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Não só no Python, mas em programação em geral, sempre precisamos controlar o tipo das variáveis que utilizamos. Veja o exemplo abaixo: | minha_idade = '33'
type(minha_idade)
| _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Usando a função **int** para converter a variável em formato string para o formato inteiro |
minha_idade = int(minha_idade)
type(minha_idade) | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
**Operadores Aritméticos** Confira na tabela abaixo como funcionam os operadores aritméticos em Python. Em especial, veja que a sintaxe da exponenciação não é feita através do sinal '^'. | Operator | Name | Description ||--------------|----------------|--------... | print(a + b)
print(a - b)
print(a * b)
print(a / b)
print(a // b)
print(a % b)
print(a ** b)
print(-a)
print(max(a, b))
print(min(a, b))
print(abs(-a)) | 1.0
1
-2
1
| MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
**Comparações e Booleanos** Quando comparamos objetos em Python é como se estivéssemos fazendo uma pergunta a ele. Duas variáveis são iguais? Uma é maior que a outra? E a resposta é um objeto do tipo **booleano**, que é indicado por **True** ou **False**, indicando, respectivamente, se a resposta é verdadeira ou fals... | var1 = 35
var2 = 36
var1 == var2
print(type(33.2) == str)
print(type(33.2) == int)
print(type(33.2) == float)
True and True
True or False
not False | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
**Condicional IF-ELSE** Veja abaixo como funciona a estrutura geral de condicionais no Python. Temos a versão IF ELSE, e a versão IF ELIF ELSE.Note que é possível utilizar o ELIF várias vezes se necessário.No espaço de condição, o Python espera um objeto booleano. Se for True, ele executa, se for False, segue adiante... | # sintaxe IF-ELSE geral
if condição:
executa aqui
else:
executa aqui
# sintaxe IF-ELIF-ELSE geral
if condição:
executa aqui
elif outra_condição:
executa aqui
else:
executa aqui
#não executar essa célula!
a, b, c = 1, -2 , 0
delta = b**2 - 4*a*c
if delta > 0:
x1 = (-b + delta**0.5)/(2*a)
... | As raízes são 3.0 e 1.0
| MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
**Definição de Funções** Uma função é um recurso para não precisarmos repetir o mesmo código desnecessariamente. Assim como as funções da matemática, sua tarefa é transformar um input, uma entrada, uma coleção de variáveis, em uma saída, um output. No exemplo abaixo, utilizamos como variáveis o tipo de símbolo e o ta... | def Mensagem(simbolo = '*', tamanho = 51):
print(simbolo*tamanho)
print('Estamos só começando, o melhor ainda estar por vir!')
print(simbolo*tamanho)
Mensagem('-', 51) | ---------------------------------------------------
Estamos só começando, o melhor ainda estar por vir!
---------------------------------------------------
| MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Voltando no exemplo da fórmula de Bhaskara, fica bem conveniente quando colocamos no formato de função, para analisar as saídas de maneira mais prática. | def Bhaskara(a, b, c):
# dando uma resposta adequada para quando o valor de a for igual a zero
if a == 0:
print('Quando a = 0 não se aplica Bhaskara')
else:
delta = b**2 - 4*a*c
if delta > 0:
x1 = (-b + delta**0.5)/(2*a)
x2 = (-b - delta**0.5)/(2*a)
... | Não há soluções reais para essa equação
| MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
**Importação de Bibliotecas** | from math import pi
print(pi)
import math
print(math.pi)
import math as m
print(m.pi) | 3.141592653589793
| MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
**A Biblioteca Numpy** Numpy é a biblioteca mais popular do python para se trabalhar com arrays. Arrays são conjuntos de valores, que podem ser n-dimensionais. Geralmente, um número apenas, um ponto, é um array de dimensão 0Uma lista de valores é um array de dimensão 1. Uma matriz de valores é uma array de dimensão 2... | import numpy as np
a0 = np.array(1)
a1 = np.array([1, 2])
a2 = np.array([[1, 2], [3, 4]])
a3 = np.array([[[1, 2], [3, 4]], [[5, 6], [7, 8]]])
print('Array a0:\n', a0)
print('Array a1:\n', a1)
print('Array a2:\n', a2)
print('Array a3:\n', a3) | Array a0:
1
Array a1:
[1 2]
Array a2:
[[1 2]
[3 4]]
Array a3:
[[[1 2]
[3 4]]
[[5 6]
[7 8]]]
| MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Use o atributo ndim para verificar a dimensão dos arrays numpy | print('Dimensão de a0:', a0.ndim)
print('Dimensão de a1:', a1.ndim)
print('Dimensão de a2:', a2.ndim)
print('Dimensão de a3:', a3.ndim) | Dimensão de a0: 0
Dimensão de a1: 1
Dimensão de a2: 2
Dimensão de a3: 3
| MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Transforme uma lista em um array | lista = [1, 2, 3, 4]
array = np.array(lista) | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Arrays são feitos para se trabalhar com álgebra linear. Veja a diferença quando multiplicamos cada elemento por um escalar | print(2*lista)
print(2*array) | [1, 2, 3, 4, 1, 2, 3, 4]
[2 4 6 8]
| MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Similarmente, podemos realizar as demais operações com arrays | print(array + array)
print(array * 2)
print(array / 3)
print(array ** 2)
print(array // 2)
print(array % 2) | [2 4 6 8]
[2 4 6 8]
[0.33333333 0.66666667 1. 1.33333333]
[ 1 4 9 16]
[0 1 1 2]
[1 0 1 0]
| MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
**Listas** Um objeto do tipo lista é um dos mais importantes do universo Python. Sua versatilidade permite a construção e organização simples de diversas funcionalidades. **Uma lista é definida por conchetes [ ]**. Vejamos alguns exemplos: | minha_lista = [1, 1, 2, 3, 5, 8, 13]
print(minha_lista)
len(minha_lista) | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
**Importante**: A indexação no Python, assim como em diversas linguagens de programação, começam com índice 0Isso quer dizer que o primeiro elemento está na entrada 0 da lista, o segundo elemento na entrada 1, e assim por diante.Nós acessamos os elementos de uma lista também utilizando **colchetes** | minha_lista[0]
minha_lista[len(minha_lista) - 1] | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Uma lista permite armazenar todos os tipos de objetos do Python, veja no exemplo abaixo: | lista = ['Python', 1996, True, len, [1,2,'Ricardo']]
print(lista)
lista[0] + ' é muito massa'
lista[1] + 1337
lista[2] and True
lista[3](lista) | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Podemos acessar caracteres de listas através de colchetes também. No python, strings são como listas de caracteres: | 'Python'[0]
py = 'Python'
py[0] + py[5] | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
E podemos acessar listas dentro de listas | lista[4]
lista[4][2]
lista[4][2][0]
lista[0]
lista[0][0] | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Alguns comandos úteis para acessar elementos em listas: | frase = 'Python é excelente para análise de dados'
frase[:6] #retorna todos os elementos até o indice 6 da lista (o indice 6 (sétimo elemento) não está incluido)
frase[6:] #retorna todos os elementos após o indice 6 da lista | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
No Python, o padrão é trabalhar com **intervalos semi-abertos [ , )**, como no exemplo abaixo. O índice 9 está incluso na seleção, mas não o 18. | frase[9:18] # retorna o elemento de indice 9 até o 18, mas não inclui o 18 | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Para inverter a ordem de uma lista, utilize | frase[::-1] | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Para tomar elementos de 2 em 2, utilize | frase[::2] | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Combine os comandos da maneira que lhe for conveniente | frase[::-1][::3] | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
**Métodos de Listas** **Métodos são como funções que são aplicáveis a um certo tipo de objetos.** Nesse caso, veremos os métodos para os objetos do tipo lista. Métodos são inerentes ao Python pelo contexto de programação orientada a objetos, que veremos com mais detalhes adiante nesse curso | lista = ['A', 'B']
lista.append('C')
lista
lista.pop()
lista.count('B')
lista.index('B') | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
**Métodos de Strings** | nome = 'Ricardo Rocha'
nome.lower()
nome.upper()
nome.capitalize()
nome.split(' ') | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
**Funções Importantes** O comando **input** serve para se comunicar com o usuário enquanto se executa um programa. Veja o exemplo abaixo | x = input('Digite o seu nome: ')
print(x)
y = input('Digite a sua idade: ')
print('\nA idade declarada foi {}'.format(y)) | Digite a sua idade: 33
A idade declarada foi 33
| MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Mas note que os inputs são sempre no format string. Se quisermos usá-lo numericamente, temos que converter as entradas adequadamanente. Em geral usamos a função **int** para inteiros ou **float** para números reais. Você pode usar a função float para números que são inteiros também. | y = int(input('Digite a sua idade '))
print('\nSe você já fez aniversário esse ano, seu ano de nascimento foi {}.'.format(2020 - y)) | Digite a sua idade 33
Se você já fez aniversário esse ano, seu ano de nascimento foi 1987.
| MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
--- A função **range** cria um objeto capaz de gerar listas de valores entre dois números. Ela não gera a lista em si, mas um gerador de lista pra quando ela for utilizada. **Ela trabalha com intervalos semi-abertos do tipo [ , )**. Veja os exemplos. | range(4) | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Para listar os valores da função range, utilize o comando **list** | list(range(4)) | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Use-a com dois parâmetros para definir o começo e o fim da lista. Note que o primeiro valor é incluido, mas o último não, pois o intervalo dela é semi-aberto | list(range(3, 10)) | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Você ainda pode usar um terceiro parâmetro, que é o passo da lista. Ele deve ser inteiro e representa o salto de um número para o outro. | list(range(2, 21, 2))
list(range(10, 101, 10)) | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
A função **list** também pode ser utilizada para quebrar uma string em caracteres dentro de uma lista, veja: | list('Python') | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
**Iteradores FOR e WHILE** Utilizamos a estrutura de repetição FOR sempre que desejamos repetir um certo pedaço de código, com alterações ou não, por um número pre-determinado de vezes.Veja os exemplos | for variante in lista_de_variações:
codigo a ser repetido
#esquema geral do FOR, não executar esse bloco
for i in ['banana', 'mamão', 'abacate']:
print('Eu gosto de {}'.format(i))
for i in range(10):
print(i*'*') |
*
**
***
****
*****
******
*******
********
*********
| MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Problema: Se eu tomar dois números inteiros no intervalo [1, 10], qual a probabilidade aproximada da soma dos números ser maior que 10? | from random import randint
lista = []
replicas = 10000
for i in range(replicas):
if randint(1,10) + randint (1,10) > 10:
lista.append(True)
else:
lista.append(False)
prob = sum(lista)/replicas
print('A probabilidade aproximada é {}%'.format(100*prob)) | A probabilidade aproximada é 54.52%
| MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
--- O iterador WHILE usamos quando queremos repetir código sem saber de antemão quando este deve ser interrompido. Ele será finalizado quando alguma condição for satisfeita. Por isso, tome cuidado em não escrever um WHILE infinito. Você terá que cancelar a execução do código para pará-lo.Veja a estrutura geral | while condicao_verdadeira:
codigo repetido
if condicao:
break
#esquema geral do FOR, não executar esse bloco
i = 1
while i <= 10:
print(i * '*')
i += 1 | *
**
***
****
*****
******
*******
********
*********
**********
*
| MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Código equivalente utilizando o comando break para interromper o loop | i = 1
while True:
print(i * '*')
i += 1
if i == 10:
break
| *
**
***
****
*****
******
*******
********
*********
| MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Exemplo de um **while** infinito | while True:
print('Python é legal demais!') | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
O **while** também aceita o comando **else** no após o seu fim. Algo para executar após o break acontecer | i = 1
while i <= 10:
print(i * '*')
i += 1
else:
print('*') | *
**
***
****
*****
******
*******
********
*********
**********
*
| MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
***Projeto: simulação de um álbum de figurinhas*** EXEMPLO: **Álbum Premier League 2019-2020**1. Total de cromos: **636**2. Preço do livro ilustrado capa brochura: **R\$ 8,90**3. Envelope com 5 cromos: **R\$ 2,50** SUPOSIÇÕES1. Todas as figurinhas tem igual probabilidade de serem sorteradas2. Um pacotinho é comprado... | n_album = 636
preco_pacote = 2.50
preco_album = 8.90
simulacoes = 1000
import numpy as np
# representação do álbum
album = np.zeros(n_album)
# representação do pacote de figurinhas
pacotinho = np.random.choice(range(n_album), 5)
pacotinho
# 'colando' as figurinhas obtidas no álbum
for i in pacotinho:
album[i] +... | Simulação: 50 / 1000
Simulação: 100 / 1000
Simulação: 150 / 1000
Simulação: 200 / 1000
Simulação: 250 / 1000
Simulação: 300 / 1000
Simulação: 350 / 1000
Simulação: 400 / 1000
Simulação: 450 / 1000
Simulação: 500 / 1000
Simulação: 550 / 1000
Simulação: 600 / 1000
Simulação: 650 / 1000
Simulação: 700 / 1000... | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
As respostas das perguntas 1 e 2, respectivamente, são: | print('O valor médio gasto foi:', round(np.mean(valores), 2))
print('O numero de pacotes médio foi:', round((np.mean(valores) - preco_album)/preco_pacote, 2)) | O valor médio gasto foi: 2245.0
O numero de pacotes médio foi: 894.44
| MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Podemos visualizar a distribuição empírica do valor gasto através do **histograma** dos valores simulados | import matplotlib.pyplot as plt
plt.hist(valores, bins = 20, density = True, edgecolor = 'black')
plt.title('Distribuição Empírica do Valor Gasto para Completar o Álbum')
plt.show() | _____no_output_____ | MIT | Projeto 1/Fundamentos_de_Python_para_Data_Science.ipynb | josecavalcante720/Python-Para-Ciencia-de-Dados |
Table of Contents1 Import libraries2 Understanding MAGI output3 My approach to magi_results.csv4 Get MetaCyc compound ids Import libraries | import os
import pandas as pd
import numpy as np | _____no_output_____ | MIT | 6_genome_integration/3_parsing_magi_output.ipynb | nathaliagg/oak_metabolomics |
Understanding MAGI outputExplanation of [MAGI output](https://magi.nersc.gov/help/outputs), and what to do with [magi_results.csv](https://magi.nersc.gov/tutorial/step4-4)- `compound_score` == if user doesn't provide a score, this will be 1.0- `level` describes how far into the chemical similarity network MAGI went to... | df = pd.read_csv('magi_output/magi_results.csv')
df = df.sort_values('MAGI_score', ascending=False).reset_index(drop=True)
print(df.shape)
df['neighbor'] = df['neighbor'].replace(np.nan, '')
df.head()
# filtering
subset_df = df[(df['MAGI_score'] >= 2) & # (df['homology_score'] == 400) &
(df['recipro... | (912, 15)
(0, 15)
| MIT | 6_genome_integration/3_parsing_magi_output.ipynb | nathaliagg/oak_metabolomics |
Get MetaCyc compound ids | metacyc = pd.read_csv("metacyc/All_compounds_of_MetaCyc.txt", sep = '\t')
metacyc['InChI-Key'] = metacyc['InChI-Key'].str[:-2]
metacyc
direct_compounds = subset_direct[['original_compound',
'label']].drop_duplicates(
['original_compound',
... | _____no_output_____ | MIT | 6_genome_integration/3_parsing_magi_output.ipynb | nathaliagg/oak_metabolomics |
**Solving the Definition Extraction Problem** **Approach 3: Using Doc2Vec model and Classifiers.****Doc2Vec** is a Model that represents each Document as a Vector. The goal of Doc2Vec is to create a numeric representation of a document, regardless of its length. So, the input of texts per document can be various whil... | from google.colab import drive
drive.mount('/content/drive')
!unzip 'drive/My Drive/wikipedia-movie-plots.zip'
import os
import nltk
import pandas as pd
from nltk.tokenize import word_tokenize
from nltk.corpus import stopwords
from nltk.stem import PorterStemmer
from gensim.models.doc2vec import Doc2Vec, TaggedDocumen... | [nltk_data] Downloading package punkt to /root/nltk_data...
[nltk_data] Unzipping tokenizers/punkt.zip.
[nltk_data] Downloading package stopwords to /root/nltk_data...
[nltk_data] Unzipping corpora/stopwords.zip.
[nltk_data] Downloading package wordnet to /root/nltk_data...
[nltk_data] Unzipping corpora/wordnet.z... | MIT | notebooks/Doc2Vec With External Corpus Approach.ipynb | Elzawawy/DeftEval |
**Load Doc2Vec Model Trainning Data** | # Load amazon review reports of movies.
with open('wiki_movie_plots_deduped.csv') as data:
corpus_list = pd.read_csv(data, sep=",", header = None)
corpus_list = corpus_list[7].tolist()[1:]
print("Corpus legnth: ", len(corpus_list))
stop_words = set(stopwords.words('english'))
porter = PorterStemmer()
qoutes_list = ["... | _____no_output_____ | MIT | notebooks/Doc2Vec With External Corpus Approach.ipynb | Elzawawy/DeftEval |
**Train Doc2Vec Model Based on Amazon Reviews.**First we will define the attributes of Doc2Vec model:* **Vector Size:** Dimensionality of the documents feature vector.* **Min Count:** Ignores all words with total frequency lower than this.* **Epochs:** Number of iterations (epochs) over the corpus.* **Workers:... | model = Doc2Vec(vector_size=300, min_count=2, epochs=40, workers=8)
model.build_vocab(train_corpus)
model.train(train_corpus, total_examples=model.corpus_count, epochs=model.epochs) | _____no_output_____ | MIT | notebooks/Doc2Vec With External Corpus Approach.ipynb | Elzawawy/DeftEval |
**Load DeftEval Trainning & Dev Data**Note: as the code is executed on google colab, the path of the data is rooted from the drive. So, the path of the data need to be change if the code will be executed on the local machine. | deft_loader = DeftCorpusLoader("drive/My Drive/DeftEval/deft_corpus/data")
trainframe, devframe = deft_loader.load_classification_data()
deft_loader.preprocess_data(devframe)
deft_loader.clean_data(devframe)
dev_vectors = []
# Create test data vectors from Doc2Vec model
for parsed_list in devframe["Parsed"]:
dev_vec... | _____no_output_____ | MIT | notebooks/Doc2Vec With External Corpus Approach.ipynb | Elzawawy/DeftEval |
**Apply Classifiers Algorithms**For each classifier test, **F1-score** and **Accuracy** are calculated. **1. Naive Bayes Algorithm** | gnb = GaussianNB()
test_predict = gnb.fit(train_vectors, trainframe['HasDef']).predict(dev_vectors)
print(metrics.classification_report(list(devframe["HasDef"]), test_predict)) | precision recall f1-score support
0 0.69 0.69 0.69 510
1 0.42 0.42 0.42 275
accuracy 0.60 785
macro avg 0.56 0.56 0.56 785
weighted avg 0.60 0.60 0.60 ... | MIT | notebooks/Doc2Vec With External Corpus Approach.ipynb | Elzawawy/DeftEval |
**2. Decision Tree Algorithm** | decision_tree = tree.DecisionTreeClassifier(class_weight="balanced")
test_predict = decision_tree.fit(train_vectors, trainframe['HasDef']).predict(dev_vectors)
print(metrics.classification_report(list(devframe["HasDef"]), test_predict)) | precision recall f1-score support
0 0.68 0.72 0.70 510
1 0.42 0.38 0.40 275
accuracy 0.60 785
macro avg 0.55 0.55 0.55 785
weighted avg 0.59 0.60 0.60 ... | MIT | notebooks/Doc2Vec With External Corpus Approach.ipynb | Elzawawy/DeftEval |
**3. Logistic Regression Algorithm** | test_predict = LogisticRegression(class_weight="balanced", random_state=0).fit(train_vectors, trainframe['HasDef']).predict(dev_vectors)
print(metrics.classification_report(list(devframe["HasDef"]), test_predict)) | precision recall f1-score support
0 0.74 0.69 0.72 510
1 0.49 0.55 0.52 275
accuracy 0.64 785
macro avg 0.61 0.62 0.62 785
weighted avg 0.65 0.64 0.65 ... | MIT | notebooks/Doc2Vec With External Corpus Approach.ipynb | Elzawawy/DeftEval |
PA005: High Value Customer Identification (Insiders) 0.0. Imports | from sklearn import cluster as c
from sklearn import metrics as m
from sklearn import preprocessing as pp
from sklearn import decomposition as dd
from sqlalchemy import create_engine
import pandas as pd
import numpy as np
import seaborn as sns
import... | _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
0.2. Helper Functions | def num_attributes(df1):
num_attributes = df1.select_dtypes(['int64', 'float64'])
#central tendency
ct1 = pd.DataFrame(num_attributes.apply(np.mean)).T
ct2 = pd.DataFrame(num_attributes.apply(np.median)).T
#dispersion
d1 = pd.DataFrame(num_attributes.apply(np.min)).T
d2 = pd.DataFrame... | _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
0.3. Load Data | s3 = boto3.resource(
service_name='s3',
region_name='us-east-2',
aws_access_key_id='AKIAU4UCEADPNRXISEJV',
aws_secret_access_key='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'
)
# # path_s3='s3://insiders-dataset-heitor'
# # df_raw = pd.read_csv(path_s3 + 'Ecommerce.csv')
# for bucket in s3.buckets.all():
... | _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
1.0. Data Description | df1 = df_raw.reset_index().copy() | _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
1.1. Rename Columns | df1.columns = ['invoice_no', 'stock_code', 'description', 'quantity', 'invoice_date',
'unit_price', 'customer_id', 'country'] | _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
1.2. Data Shape | print(f'Number of rows: {df1.shape[0]}')
print(f'Number of columns: {df1.shape[1]}') | Number of rows: 541909
Number of columns: 8
| MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
1.3. Data Types | df1.dtypes | _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
1.4. Check NAs | df1.isna().sum() | _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
1.5. Fill NAs | #remove na
df_missing = df1[df1['customer_id'].isna()]
df_not_missing = df1[-df1['customer_id'].isna()]
len(df_missing)
len(df_not_missing)
#create reference
df_backup = pd.DataFrame(df_missing['invoice_no'].drop_duplicates())
df_backup['customer_id'] = np.arange(19000, 19000+len(df_backup),1)
#merge
df1 = pd.merge(... | _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
1.6. Change dtypes | df1.dtypes
#invoice_no
# df1['invoice_no'] = df1['invoice_no'].astype(int)
#stock_code
# df1['stock_code'] = df1['stock_code'].astype(int)
#invoice_date --> Month --> b
df1['invoice_date'] = pd.to_datetime(df1['invoice_date'], format=('%d-%b-%y'))
#customer_id
df1['customer_id'] = df1['customer_id'].astype(int... | _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
1.7. Descriptive statistics |
cat_attributes = df1.select_dtypes(exclude = ['int64', 'float64', 'datetime64[ns]']) | _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
1.7.1. Numerical Attributes | m1 = num_attributes(df1)
m1 | _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
1.7.1.1 Investigating 1. Negative quantity (devolution?)2. Price = 0 (Promo?) 1.7.2. Categorical Attributes | cat_attributes.head() | _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
Invoice no |
#invoice_no -- some of them has one char
df_invoice_char = df1.loc[df1['invoice_no'].apply(lambda x: bool(re.search('[^0-9]+', x))), :]
len(df_invoice_char[df_invoice_char['quantity']<0])
print('Total of invoices with letter: {}'.format(len(df_invoice_char)))
print('Total of negative quantaty: {}'.format(len(df1... | Total of invoices with letter: 9291
Total of negative quantaty: 10624
Letter means negative quantity
| MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
Stock Code | #all stock codes with char
df1.loc[df1['stock_code'].apply(lambda x: bool(re.search('^[a-zA-Z]+$', x))), 'stock_code'].unique()
#remove stock code in ['POST', 'D', 'M', 'PADS', 'DOT', 'CRUK']
# df1 = df1[-df1.isin(['POST', 'D', 'M', 'PADS', 'DOT', 'CRUK'])] | _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
Description | df1.head(2) #remove description
| _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
Country | df1['country'].value_counts(normalize='True').head()
df1[['country', 'customer_id']].drop_duplicates().groupby('country').count().reset_index().sort_values('customer_id', ascending=False).head() | _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
2.0. Data Filtering | df2 = df1.copy()
# === Numerical attributes ====
df2 = df2.loc[df2['unit_price'] >= 0.04, :]
# === Categorical attributes ====
df2 = df2[~df2['stock_code'].isin( ['POST', 'D', 'DOT', 'M', 'S', 'AMAZONFEE', 'm', 'DCGSSBOY', 'DCGSSGIRL', 'PADS', 'B', 'CRUK'] ) ]
# description
df2 = df2.drop( columns='description', axi... | _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
3.0. Feature Engineering | df3 = df2.copy() | _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
3.1. Feature Creation | # data reference
df_ref = df3.drop( ['invoice_no', 'stock_code', 'quantity', 'invoice_date', 'unit_price', 'country'], axis=1 ).drop_duplicates( ignore_index=True )
| _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
3.1.1. Gross Revenue | #calculate gross revenue
df_purchase.loc[:,'gross_revenue'] = df_purchase.loc[:, 'quantity'] * df_purchase.loc[:, 'unit_price']
#gross revenue by customer
df_monetary = df_purchase.loc[:,['customer_id', 'gross_revenue']].groupby('customer_id').sum().reset_index()
df_ref = pd.merge(df_ref, df_monetary, on='customer_id... | /tmp/ipykernel_17484/3123439491.py:2: SettingWithCopyWarning:
A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_indexer,col_indexer] = value instead
See the caveats in the documentation: https://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#returning-a-view-versus-a... | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
3.1.2. Recency - Days from last purchase | #recency
df_recency = df_purchase.loc[:,['customer_id', 'invoice_date']].groupby('customer_id').max().reset_index()
df_recency['recency_days'] = (df3['invoice_date'].max() - df_recency['invoice_date']).dt.days
df_recency = df_recency[['customer_id', 'recency_days']].copy()
df_ref = pd.merge(df_ref, df_recency, on='c... | _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
3.1.4. Quantity of purchase |
# Número de compras
df_invoice = df_purchase.loc[:,['customer_id', 'invoice_no']].drop_duplicates().groupby('customer_id').count().reset_index().rename(columns={'invoice_no':'qt_invoice'})
df_ref = pd.merge(df_ref, df_invoice, on='customer_id', how='left')
| _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
3.1.4. Quantity of products purchase | # Número de compras
df_stock_code = df_purchase.loc[:,['customer_id', 'stock_code']].groupby('customer_id').count().reset_index().rename(columns={'stock_code':'qt_products'})
df_ref = pd.merge(df_ref, df_stock_code, on='customer_id', how='left')
| _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
3.1.6. Frequency | df_aux = (df_purchase[['customer_id', 'invoice_no', 'invoice_date']].drop_duplicates().groupby('customer_id').agg(
max_ = ('invoice_date', 'max'),
min_ = ('invoice_date', 'min'),
... | _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
3.1.7. Returns | df_aux = df_returns[['customer_id', 'quantity']].groupby('customer_id').sum().reset_index().rename(columns={'quantity':'qt_returns'})
df_aux['qt_returns'] = -1*df_aux['qt_returns']
#merge
df_ref = pd.merge(df_ref, df_aux, on='customer_id', how='left')
df_ref.loc[df_ref['qt_returns'].isna(), 'qt_returns'] = 0
| _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
4.0. Exploratory Data Analisys | df_ref.isna().sum()
df4 = df_ref.dropna()
| _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
4.3. Estudo do Espaço | # selected dataset
cols_selected = ['customer_id', 'gross_revenue', 'recency_days', 'qt_products', 'frequency', 'qt_returns']
df43 = df4[ cols_selected ].drop( columns='customer_id', axis=1 ).copy()
mm = pp.MinMaxScaler()
df43['gross_revenue'] = mm.fit_transform( df43[['gross_revenue']] )
df43['recency_days'] = mm.f... | _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
PCA |
X=df43.copy()
pca = dd.PCA( n_components=X.shape[1] )
principal_components = pca.fit_transform( X )
# plot explained variable
features = range( pca.n_components_ )
plt.bar( features, pca.explained_variance_ratio_, color='black' )
# pca component
df_pca = pd.DataFrame( principal_components ) | _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
TSNE | reducer = TSNE( n_components=2,n_jobs=-1, random_state=3)
embedding = reducer.fit_transform(X)
df_tsne = pd.DataFrame()
df_tsne['embedding_x'] = embedding[:,0]
df_tsne['embedding_y'] = embedding[:,1]
plt.figure(figsize=(20,12));
sns.scatterplot(x='embedding_x', y='embedding_y',data=df_tsne); | /home/heitor/repos/insiders_clustering/venv/lib/python3.8/site-packages/sklearn/manifold/_t_sne.py:780: FutureWarning: The default initialization in TSNE will change from 'random' to 'pca' in 1.2.
warnings.warn(
/home/heitor/repos/insiders_clustering/venv/lib/python3.8/site-packages/sklearn/manifold/_t_sne.py:790: Fu... | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
8.2. GMM | # model definition
k = 8
X=df43.copy()
#model definition
kmeans_model = c.KMeans(n_clusters=k, random_state=42)
#model training
kmeans_model.fit(X)
#model predict
labels = kmeans_model.predict(X)
#model performance
sil = m.silhouette_score(X, labels, metric='euclidean')
m.silhouette_score(X, labels, metric='eucl... | _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
9.0. Cluster Analisys | cols_selected = ['customer_id', 'gross_revenue', 'recency_days', 'qt_products', 'frequency', 'qt_returns']
df9 = X.copy()
df9['cluster'] = labels
| _____no_output_____ | MIT | models/pa005_insiders_deploy.ipynb | heitorfe/insiders_clustering |
Subsets and Splits
No community queries yet
The top public SQL queries from the community will appear here once available.