PROJETOS-RAIA commited on
Commit
943158f
·
verified ·
1 Parent(s): bccbb1d

Create README.md

Browse files
Files changed (1) hide show
  1. README.md +99 -0
README.md ADDED
@@ -0,0 +1,99 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ pipeline_tag: image-classification
3
+ ---
4
+
5
+ # SpellNetLIBRAS
6
+
7
+ SpellNetLIBRAS é um modelo de classificação de letras em Língua Brasileira de Sinais (LIBRAS), treinado com redes neurais convolucionais (CNNs), com foco em reconhecimento de fingerspelling em tempo real. O modelo faz parte da plataforma interativa SpellNet, que permite ao usuário praticar soletração em LIBRAS ou ASL por meio da webcam, com feedback instantâneo. Seu principal objetivo é promover acessibilidade e inclusão no ensino de línguas de sinais.
8
+
9
+ ## Detalhes do Modelo
10
+
11
+ ### Descrição
12
+
13
+ * **Desenvolvido por:** [Cecilia Sedenho](https://br.linkedin.com/in/cec%C3%ADlia-nunes-sedenho-305059255/pt), [João Pedro Viguini](https://br.linkedin.com/in/jo%C3%A3o-pedro-viguini-1829281bb), [Daniel Carvalho](https://br.linkedin.com/in/daniel-carvalho-aba61717a), [Bernardo Marques](https://br.linkedin.com/in/bernardo-marques-costa), [Gabriel Iamato](https://br.linkedin.com/in/gabriel-campanelli-iamato), [Matheus Vicente](https://br.linkedin.com/in/matheushrv)
14
+ * **Patrocinado por:** [SignLink](https://br.linkedin.com/company/sign-link-project)
15
+ * **Tipo do modelo:** Classificador de imagem baseado em CNN (MobileNet via *feature extraction*)
16
+ * **Modelo base:** MobileNet
17
+ * **Correspondência:** [raia.projetos@gmail.com](mailto:raia.projetos@gmail.com), [ceciliasedenho@gmail.com](mailto:ceciliasedenho@gmail.com)
18
+
19
+ ### Fontes
20
+
21
+ * **Repositório:** [https://github.com/gruporaia/SpellNet](https://github.com/gruporaia/SpellNet)
22
+ * **Demo:** [Vídeo no YouTube](https://youtu.be/rYjGjfw7ID8)
23
+
24
+ ## Usos
25
+
26
+ O modelo é destinado ao uso em aplicações de ensino e prática de fingerspelling em LIBRAS. Os usuários interagem com a aplicação por meio de webcam, recebendo feedback letra por letra conforme tentam soletrar palavras. Pode ser usado por:
27
+
28
+ * Estudantes de LIBRAS;
29
+ * Instrutores e intérpretes;
30
+ * Pesquisadores em acessibilidade e visão computacional;
31
+ * Desenvolvedores de aplicações educacionais.
32
+
33
+ ## Viéses, Riscos e Limitações
34
+
35
+ * **Vieses nos dados de treinamento:** Como os dados foram coletados por membros da equipe via webcam, há risco de viés relacionado à aparência das mãos, fundo, iluminação e estilo de gesticulação.
36
+ * **Contextos inadequados:** O modelo não é adequado para reconhecimento de gestos contínuos ou palavras com sinais únicos (sem soletração).
37
+
38
+ ## Como Usar
39
+
40
+ ```python
41
+ # Available backend options are: "jax", "torch", "tensorflow".
42
+ import os
43
+ os.environ["KERAS_BACKEND"] = "torch"
44
+
45
+ import keras
46
+
47
+ model = keras.saving.load_model("hf://RAIA-BRASIL/spellnet_libras")
48
+ ```
49
+
50
+ ## Detalhes do treinamento
51
+
52
+ ### Dados de Treino
53
+
54
+ * Dados autorais capturados via webcam com \~3.700 imagens por classe para LIBRAS (gestos estáticos de letras).
55
+
56
+ ### Procedimento
57
+
58
+ #### Pré-processamento
59
+
60
+ * Redimensionamento para 224x224 px
61
+ * Extração de landmarks com MediaPipe Hands
62
+ * Data augmentation: rotação, variações de cor, *salt and pepper noise*
63
+
64
+ #### Hiperparâmetros
65
+
66
+ \[More Information Needed]
67
+
68
+ ### Infraestrutura computacional
69
+
70
+ #### Hardware
71
+
72
+ * 1x GPU (L4)
73
+ * Treinamento feito localmente com validação cruzada estratificada por intérprete
74
+
75
+ #### Software
76
+
77
+ * Python, TensorFlow/Keras, OpenCV, MediaPipe, Docker, Streamlit
78
+
79
+ ## Avaliação
80
+
81
+ ### Dados de Teste & Métricas
82
+
83
+ #### Dados de Teste
84
+
85
+ * Conjunto separado por intérprete (cross-validation estratificada)
86
+
87
+ #### Métricas
88
+
89
+ * Acurácia
90
+
91
+ ### Resultados
92
+
93
+ | Tarefa | Dataset | Métrica | Resultado |
94
+ | ------------------------------ | --------------- | -------- | --------- |
95
+ | Classificação de letras LIBRAS | Dataset autoral | Acurácia | 90% |
96
+
97
+ ## Agradecimentos
98
+
99
+ Agradecimentos aos membros da RAIA e à equipe da SignLink, cuja colaboração foi essencial para o sucesso deste projeto.