taetae030 commited on
Commit
6910699
ยท
verified ยท
1 Parent(s): ba176f9

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +51 -29
README.md CHANGED
@@ -1,45 +1,67 @@
 
 
 
 
 
 
 
 
 
1
 
2
  # ๐Ÿ“˜ fin-term-instruct: ํ•œ๊ตญ์–ด ๊ธˆ์œต ์šฉ์–ด ์งˆ์˜์‘๋‹ต ๋ฐ์ดํ„ฐ์…‹
3
 
4
- `fin-term-instruct`๋Š” ํ•œ๊ตญ์–ด ๊ธˆ์œต ์šฉ์–ด์— ๋Œ€ํ•œ ์งˆ๋ฌธ๊ณผ ๊ฐ„๊ฒฐํ•œ ์„ค๋ช…์œผ๋กœ ๊ตฌ์„ฑ๋œ **instruct-style ๋ฐ์ดํ„ฐ์…‹**์ž…๋‹ˆ๋‹ค.
5
- Meta์˜ LLaMA ๊ณ„์—ด ์–ธ์–ด๋ชจ๋ธ์„ ํŒŒ์ธํŠœ๋‹ํ•˜์—ฌ ๊ธˆ์œต ์šฉ์–ด ์„ค๋ช… ์ฑ—๋ด‡์„ ๋งŒ๋“ค๊ธฐ ์œ„ํ•œ ๋ชฉ์ ์œผ๋กœ ๊ตฌ์ถ•๋˜์—ˆ์Šต๋‹ˆ๋‹ค.
 
 
6
 
 
7
 
8
- ## ๐Ÿ“‘ ๋ฐ์ดํ„ฐ ๊ตฌ์„ฑ
9
- ### ๐Ÿ“Œ ๊ตฌ์กฐ (Alpaca/Instruct ํฌ๋งท)
10
- | instruction | input (๋ฌธ๋งฅ, ์ƒ๋žต ๊ฐ€๋Šฅ) | output (์„ค๋ช…) |
11
- |----------------------------------|---------------------------|-----------------------------------------------------------------------------------------------------|
12
- | ๊ธฐ์ค€๊ธˆ๋ฆฌ๋ž€ ๋ฌด์—‡์ธ๊ฐ€์š”? | | ๊ธฐ์ค€๊ธˆ๋ฆฌ๋Š” ์ค‘์•™์€ํ–‰์ด ์‹œ์ค‘ ์€ํ–‰์— ์ ์šฉํ•˜๋Š” ์ตœ์ € ๊ธˆ๋ฆฌ๋กœ, ์‹œ์ค‘ ๊ธˆ๋ฆฌ์˜ ๊ธฐ์ค€์ด ๋˜๋Š” ์ •์ฑ…๊ธˆ๋ฆฌ์ž…๋‹ˆ๋‹ค. |
13
- | ํ†ตํ™”์Šค์™€ํ”„๋ž€? | | ํ†ตํ™”์Šค์™€ํ”„๋Š” ๋‘ ๋‚˜๋ผ๊ฐ€ ์‚ฌ์ „์— ์•ฝ์ •ํ•œ ํ™˜์œจ์— ๋”ฐ๋ผ ์ผ์ • ๊ธˆ์•ก์˜ ์ž๊ตญ ํ†ตํ™”๋ฅผ ์ƒ๋Œ€๊ตญ ํ†ตํ™”๋กœ ๋งž๊ตํ™˜ํ•˜๊ธฐ๋กœ ํ•œ ๊ณ„์•ฝ์ž…๋‹ˆ๋‹ค. ์™ธํ™˜์‹œ์žฅ ์•ˆ์ •๊ณผ ์œ ๋™์„ฑ ํ™•๋ณด๋ฅผ ์œ„ํ•ด ์‚ฌ์šฉ๋ฉ๋‹ˆ๋‹ค. |
14
 
15
- ### ๐Ÿ“ฆ ์›๋ณธ ์ถœ์ฒ˜: AI ํ—ˆ๋ธŒ
16
- ์ด ๋ฐ์ดํ„ฐ์…‹์€ **AI ํ—ˆ๋ธŒ์˜ ๊ธˆ์œตยท๋ฒ•๋ฅ  ๋ฌธ์„œ ๊ธฐ๊ณ„๋…ํ•ด ๋ฐ์ดํ„ฐ**๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ๊ฐ€๊ณตํ•œ ๊ฒƒ์ž…๋‹ˆ๋‹ค.
17
- - ๐Ÿ“‚ AI ํ—ˆ๋ธŒ ๋ฐ์ดํ„ฐ: [๊ธˆ์œตยท๋ฒ•๋ฅ  ๋ฌธ์„œ ๊ธฐ๊ณ„๋…ํ•ด ๋ฐ์ดํ„ฐ](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71610)
18
- - **๋ฐ์ดํ„ฐ ๊ตฌ์ถ•๋…„๋„**: 2022๋…„
19
- - **์ด ๊ตฌ์ถ•๋Ÿ‰**: ์•ฝ 400,000๊ฑด ์ธ๋ฐ - 50๊ฑด๋งŒ ์„ ๋ณ„ํ•˜์˜€์Šต๋‹ˆ๋‹ค.
20
- - **๋ฐ์ดํ„ฐ ํ˜•์‹**: JSON (์ง€๋ฌธ - ์งˆ๋ฌธ - ์ •๋‹ต ํ˜•์‹)
21
 
22
  ### ๐Ÿ” ์‚ฌ์šฉ ๋ฒ”์œ„
23
- - ์ „์ฒด ๋ฐ์ดํ„ฐ ์ค‘ **"๊ธˆ์œต๊ฒฝ์ œ" ๋ถ„์•ผ**์— ํ•ด๋‹นํ•˜๋Š” ์•ฝ **17.3%**๋งŒ ์„ ๋ณ„ํ•˜์—ฌ ํ™œ์šฉ
24
- - ์ง€๋ฌธยท์งˆ๋ฌธยท์ •๋‹ต ํ˜•์‹์„ GPT ๊ธฐ๋ฐ˜ instruct-style (`instruction`, `input`, `output`) ํฌ๋งท์œผ๋กœ ๊ฐ€๊ณต
 
 
25
 
26
  ### ๐Ÿ› ์ถœ์ฒ˜ ๊ธฐ๊ด€
 
27
  - ํ•œ๊ตญ์€ํ–‰
28
  - ๊ธˆ์œต์œ„์›ํšŒ
29
  - ๊ธˆ์œต๊ฐ๋…์›
30
- - ํ•œ๊ตญ๊ธˆ์œต์—ฐ๊ตฌ์›
31
  - ๊ตญํšŒ์ž…๋ฒ•์กฐ์‚ฌ์ฒ˜
32
- - ๋ฒ•์ œ์ฒ˜ ๋“ฑ
33
-
34
- ---
35
- license: apache-2.0
36
- tags:
37
- - korean
38
- - finance
39
- - chatbot
40
- - instruction
41
- - llama
42
- - lora
43
- - 4bit
44
  ---
45
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: apache-2.0
3
+ tags:
4
+ - korean
5
+ - finance
6
+ - chatbot
7
+ - instruction
8
+ - question-answering
9
+ ---
10
 
11
  # ๐Ÿ“˜ fin-term-instruct: ํ•œ๊ตญ์–ด ๊ธˆ์œต ์šฉ์–ด ์งˆ์˜์‘๋‹ต ๋ฐ์ดํ„ฐ์…‹
12
 
13
+ `fin-term-instruct`๋Š” **ํ•œ๊ตญ์–ด ๊ธˆ์œต ์šฉ์–ด ์„ค๋ช…์— ํŠนํ™”๋œ instruct-style ์งˆ๋ฌธ-์‘๋‹ต ๋ฐ์ดํ„ฐ์…‹**์ž…๋‹ˆ๋‹ค.
14
+ Meta์˜ LLaMA ์‹œ๋ฆฌ์ฆˆ ๋“ฑ ๋Œ€ํ˜• ์–ธ์–ด๋ชจ๋ธ(LLM)์„ ํ•œ๊ตญ์–ด ๊ธˆ์œต ์ฑ—๋ด‡์œผ๋กœ ํŠœ๋‹ํ•˜๊ธฐ ์œ„ํ•ด ๊ตฌ์ถ•๋˜์—ˆ์Šต๋‹ˆ๋‹ค.
15
+
16
+ ---
17
 
18
+ ## ๐Ÿ“ฆ ์›๋ณธ ์ถœ์ฒ˜: AI ํ—ˆ๋ธŒ
19
 
20
+ ์ด ๋ฐ์ดํ„ฐ๋Š” AI ํ—ˆ๋ธŒ์˜ **"๊ธˆ์œตยท๋ฒ•๋ฅ  ๋ฌธ์„œ ๊ธฐ๊ณ„๋…ํ•ด ๋ฐ์ดํ„ฐ"**๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ๊ตฌ์ถ•ํ•˜์˜€์Šต๋‹ˆ๋‹ค.
 
 
 
 
 
21
 
22
+ - ๐Ÿ“‚ ์›๋ณธ ์ฃผ์†Œ: [AI ํ—ˆ๋ธŒ โ€“ ๊ธˆ์œตยท๋ฒ•๋ฅ  ๋ฌธ์„œ ๊ธฐ๊ณ„๋…ํ•ด ๋ฐ์ดํ„ฐ](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=71610)
23
+ - **๋ฐ์ดํ„ฐ ๊ตฌ์ถ•๋…„๋„**: 2022๋…„
24
+ - **์ด ๊ตฌ์ถ•๋Ÿ‰**: 400,000๊ฑด
25
+ - **๋ฐ์ดํ„ฐ ํ˜•์‹**: JSON (์ง€๋ฌธ - ์งˆ๋ฌธ - ์ •๋‹ต ๊ตฌ์„ฑ)
 
 
26
 
27
  ### ๐Ÿ” ์‚ฌ์šฉ ๋ฒ”์œ„
28
+
29
+ - ์ „์ฒด ๋ฐ์ดํ„ฐ ์ค‘ **`๊ธˆ์œต๊ฒฝ์ œ` ๋ถ„์•ผ(์•ฝ 17.3%)**๋งŒ ์„ ๋ณ„ํ•˜์—ฌ ์‚ฌ์šฉ
30
+ - ๊ธฐ์กด MRC ํ˜•ํƒœ์—์„œ **instruction-style QA ํฌ๋งท**์œผ๋กœ ์žฌ๊ฐ€๊ณต
31
+ - GPT ๊ธฐ๋ฐ˜ ์š”์•ฝยท์ •์ œ๋ฅผ ํ†ตํ•ด ๊ฐ„๊ฒฐํ•œ ์‘๋‹ต ํ˜•์‹์œผ๋กœ ํ†ต์ผ
32
 
33
  ### ๐Ÿ› ์ถœ์ฒ˜ ๊ธฐ๊ด€
34
+
35
  - ํ•œ๊ตญ์€ํ–‰
36
  - ๊ธˆ์œต์œ„์›ํšŒ
37
  - ๊ธˆ์œต๊ฐ๋…์›
 
38
  - ๊ตญํšŒ์ž…๋ฒ•์กฐ์‚ฌ์ฒ˜
39
+ - ๋ฒ•์ œ์ฒ˜
40
+ - ํ•œ๊ตญ๊ธˆ์œต์—ฐ๊ตฌ์› ๋“ฑ
41
+
 
 
 
 
 
 
 
 
 
42
  ---
43
 
44
+ ## ๐Ÿ“‘ ๋ฐ์ดํ„ฐ ๊ตฌ์กฐ
45
+
46
+ Alpaca-style instruction ํฌ๋งท ์‚ฌ์šฉ:
47
+
48
+ - `instruction`: ์งˆ๋ฌธ (์ž์—ฐ์–ด ๋ฌธ์žฅ)
49
+ - `input`: ๋ฌธ๋งฅ (๋ณธ ๋ฐ์ดํ„ฐ์…‹์—์„œ๋Š” ์ƒ๋žต๋จ)
50
+ - `output`: ์งˆ๋ฌธ์— ๋Œ€ํ•œ ์งง๊ณ  ์ •ํ™•ํ•œ ๋‹ต๋ณ€
51
+
52
+ ### ๐Ÿ“‹ ์˜ˆ์‹œ
53
+
54
+ | instruction | input | output |
55
+ |------------------------------------------------------------------------|-------|---------------------------|
56
+ | ํ•œ๊ตญ์€ํ–‰์ด ์—…๋ฌด ์ถ”์ง„ ๊ณผ์ •์—์„œ ์ƒ๊ธธ ์ˆ˜ ์žˆ๋Š” ๋ฆฌ์Šคํฌ ์˜ˆ๋ฐฉ์„ ์œ„ํ•ด ํ•ด๋งˆ๋‹ค ์‹ค์‹œํ•˜๋Š” ๊ฒŒ ๋ญ์•ผ | | ๋ฆฌ์Šคํฌ ํ†ต์ œ ์ž๊ฐ€์ง„๋‹จ |
57
+ | ๋ฐ์ดํ„ฐ ์‚ฌ์ด์–ธ์Šค์— ๋Œ€ํ•œ ํ”„๋กœ๊ทธ๋žจ์„ ๋ณด๊ฐ•ํ•˜์—ฌ 2021๋…„์— ์—ฐ์ˆ˜๋ฅผ ์ง„ํ–‰ํ•œ ๊ธฐ๊ด€์€ ์–ด๋””์•ผ | | ํ•œ๊ตญ์€ํ–‰ |
58
+ | ๋””์ง€ํ„ธ ๊ฒฝ์ œ ์‹œ๋Œ€์˜ ๋ฐ์ดํ„ฐ ๊ด€๋ฆฌ์™€ ์ด์šฉ์„ ์œ„ํ•ด ๋งŒ๋“  ์ œ๋„๋Š” ๋ญ์•ผ | | ๋ฐ์ดํ„ฐ ๊ฑฐ๋ฒ„๋„Œ์Šค ๊ทœ์ • |
59
+
60
+ ### ๐Ÿ“‚ JSON ์ƒ˜ํ”Œ
61
+
62
+ ```json
63
+ {
64
+ "instruction": "๋””์ง€ํ„ธ ํ˜์‹ ์„ ์œ„ํ•œ ๊ฒฝ์ œ์ „๋ง ์‹œ์Šคํ…œ์„ ๋งŒ๋“ค ๋•Œ ์ด์šฉํ•œ ๊ธฐ์ˆ ์€ ๋ญ์•ผ",
65
+ "input": "",
66
+ "output": "์ธ๊ณต์ง€๋Šฅ"
67
+ }