Home [Week 06 / Day 024] ํ•™์Šต ๊ธฐ๋ก
Post
Cancel

[Week 06 / Day 024] ํ•™์Šต ๊ธฐ๋ก

๐Ÿ“ ์˜ค๋Š˜ ํ•œ ์ผ

  • ๊ฐ•์˜ ์ˆ˜๊ฐ• ๋ฐ ์ •๋ฆฌ
    • [์ด๋ฏธ์ง€ ๋ถ„๋ฅ˜] 5, 6, 7, 8๊ฐ•
  • ํ”ผ์–ด์„ธ์…˜
  • ๋ฐ์ดํ„ฐ ๋ผ๋ฒจ๋ง ์ ๊ฒ€
  • ์ŠคํŽ˜์…œ ๋ฏธ์…˜


๐Ÿ‘ฅ ํ”ผ์–ด์„ธ์…˜ ์š”์•ฝ

ํ•™์Šต ๊ณ„ํš

  • ๊ฐ•์˜๋Š” 8๊ฐ•๊นŒ์ง€
  • ์ŠคํŽ˜์…œ ๋ฏธ์…˜์€ model๊นŒ์ง€

๋Œ€ํšŒ ๊ด€๋ จ ๊ณต์œ  ์‚ฌํ•ญ

  • model์„ 4๊ฐœ๋กœ ๋‚˜๋ˆ ๋ณผ ์ˆ˜ ์žˆ์ง€ ์•Š์„๊นŒ.
  • F1 score ๊ธฐ์ค€์œผ๋กœ ์„ฑ๋Šฅ์ด ํŒ๋‹จ๋œ๋‹ค.
    • ์ฆ‰, age ์ „๋ฐ˜์ ์œผ๋กœ ๋ชจ๋‘ ๋‹ค ๋ถ„๋ฅ˜๋ฅผ ์ž˜ ํ•ด์•ผ ํ•œ๋‹ค.
  • ensemble
  • classficiation ๋Œ€์‹  regression
  • github project & notion์„ ์ž˜ ์‚ฌ์šฉํ•˜์ž.
  • ์–ผ๊ตด crop ๊ด€๋ จ ์ด์Šˆ
  • cutmix
  • EasyDict โ†’ .์œผ๋กœ ์ ‘๊ทผ ๊ฐ€๋Šฅํ•˜์—ฌ ํŽธ๋ฆฌํ•˜๋‹ค.
  • github
    • utils / model ํด๋” ๊ตฌ๋ถ„
    • issue & project ํ™•์ธํ•˜๊ธฐ (assignee)
    • ๊ฐœ์ธ branch โ†’ in progress โ†’ PR์‹œ issue ์—ฐ๊ฒฐ โ†’ merge ํ•˜๋ฉด done!
    • utils / readme์— ์ ํžŒ ํฐ ์ฃผ์ œ๋ณ„๋กœ ํด๋” ๋งŒ๋“ค์–ด์„œ ์˜ฌ๋ฆฌ๊ธฐ (commit message์— ์ด๋ฆ„ ๋„ฃ๊ธฐ)
  • model
    • timm
    • easydict
    • pytorch lightning (์˜ฌ๋ ค์ฃผ์‹ค ์ฝ”๋“œ ๋ถ„์„ํ•˜์ž! ์•„๋‹ˆ๋ฉด ํ•จ์ˆ˜๋ฅผ ์ฐพ์•„๋ณด์ž)
    • validation โ†’ dataloader๋ฅผ ๋”ฐ๋กœ..
    • cutmix โ†’ transform ์ˆœ์„œ๋กœ ํ•ด์•ผ ํ•œ๋‹ค. (data loader์—์„œ๋Š” resize๋งŒ)

๊ทธ ์™ธ

  • ๊ฒฝ๋Ÿ‰ํ™” - quantization / distillation
  • ๋Œ€ํ•™์› ๊ณ ๋ฏผ
  • ์ง€๊ธˆ์€ ๊ณต๋ถ€๊ฐ€ ๋”ฐ๋ผ๊ฐ€๊ธฐ๋งŒ ํ•ด๋„ ๋ฒ…์ฐจ์ง€๋งŒ, ์ฒ˜์Œ ๋„“๊ฒŒ ์Œ“๋Š” ๊ณผ์ •์ด๋ผ๊ณ  ์ƒ๊ฐํ•˜์ž. ์ž˜ ์Œ“์•„๋‘๋ฉด ์•ž์œผ๋กœ ์‰ฌ์›Œ์ง„๋‹ค. ์ทจ์งํ•ด์„œ ๋ชจ๋ฅด๋Š” ๊ฒƒ๋ณด๋‹ค ์ง€๊ธˆ ๋ชจ๋ฅด๋Š” ๊ฒƒ์ด ๋” ๋‚ซ๋‹ค!


๐Ÿพ ์ผ์ผ ํšŒ๊ณ 

๋ชจ๋“  ๊ฒƒ์ด ๋ชฐ์•„์น˜๊ณ  ์žˆ๋‹ค. ์›”, ํ™”๋Š” ๊ฐ•์˜์— ์ง‘์ค‘ํ–ˆ์œผ๋‹ˆ ๋‚ด์ผ๋ถ€ํ„ฐ๋Š” ์ŠคํŽ˜์…œ ๋ฏธ์…˜๊ณผ ๋Œ€ํšŒ์— ์ดˆ์ ์„ ๋งž์ถœ ์˜ˆ์ •์ด๋‹ค. ๋‚˜๋„ ๋‚ด์ผ์€ ๊ฐ€์„ค์„ ๊ผญ ์„ธ์›Œ๋ณด๊ฑฐ๋‚˜ ์ผ์„ ๋งก์œผ๋ ค๊ณ  ํ•œ๋‹ค. ๊ทธ๋ฆฌ๊ณ  ๋‚˜์„œ๋„ ์‹œ๊ฐ„์ด ๋‚œ๋‹ค๋ฉด 9, 10๊ฐ•๋„ ๋“ฃ๊ณ  ์‹ถ๋‹ค. ๊ทธ๋Ÿฐ๋ฐ ๋‚ด์ผ ์ผ์ •์„ ์Šฌ์ฉ ๋ณด๋‹ˆ ๊ฝ‰ ์ฐจ ์žˆ์–ด ์–ด๋ ค์šธ ์ˆ˜๋„ ์žˆ์„ ๊ฒƒ ๊ฐ™๋‹ค..

์˜ค๋Š˜ ํ”ผ์–ด์„ธ์…˜์—์„œ๋Š” ๊ธธ๊ฒŒ ์ด์•ผ๊ธฐ๋ฅผ ๋‚˜๋ˆ„์—ˆ๋Š”๋ฐ, ๋Œ€ํšŒ ๊ด€๋ จํ•ด์„œ ๋‚˜๋ˆŒ ์ด์•ผ๊ธฐ๊ฐ€ ๋งŽ๊ธฐ๋„ ํ–ˆ๊ณ  ๊ฐœ์ธ์ ์ธ ๊ณ ๋ฏผ(ex. ๋Œ€ํ•™์› ์ง„ํ•™ ๋“ฑ)์ด๋‚˜ ํ”„๋กœ์ ํŠธ, ํŒ€ ๊ฒฐ์„ฑ์— ๋Œ€ํ•ด์„œ๋„ ๋Œ€ํ™”๋ฅผ ํ–ˆ๋‹ค. ์‚ฌ์‹ค ๋‚˜๋Š” ๋งค์ผ ๋”ฐ๋ผ๊ฐ€๊ธฐ์— ๋ฐ”์˜๊ณ  (๋”ฑํžˆ ์ž˜ ๋”ฐ๋ผ๊ฐ€๊ณ  ์žˆ๋Š” ๊ฒƒ ๊ฐ™์ง€๋„ ์•Š๋‹ค..) ๋Š˜ ํ—ˆ๋•์ด๋Š” ๊ฒƒ ๊ฐ™์•„ ์š”์ฆ˜ ๋งŽ์ด ์ง€์ณค์—ˆ๋Š”๋ฐ, ๊ฐ™์€ ๊ณ ๋ฏผ์„ ํ•˜๊ณ  ๊ณ„์‹  ํŒ€์›๋ถ„์ด ๊ณ„์…”์„œ ๊ทธ์— ๊ด€๋ จํ•ด์„œ ๋‹ค๋ฅธ ํŒ€์›๋ถ„์ด ํ•ด์ฃผ์‹  ๋ง์”€์ด ๊ธฐ์–ต์— ๋‚จ๋Š”๋‹ค. ์ง€๊ธˆ์€ ๋„“๊ฒŒ ์ง€์‹์„ ์Œ“๋Š” ๊ณผ์ •์ด๋ผ ์–ด๋ ค์šธ ์ˆ˜๋ฐ–์— ์—†๋Š” ๊ณผ์ •์ด๊ณ , ์–ด๋Š์ •๋„ ์ง€์‹์ด ์Œ“์ด๋ฉด ์•ž์œผ๋กœ๋Š” ๋ถ„๋ช…ํžˆ ์‰ฌ์›Œ์งˆ ๊ฒƒ์ด๋ผ๋Š” ๋ง์”€์ด์—ˆ๋‹ค. ๋ถ€์ŠคํŠธ์บ ํ”„๋ฅผ ํ•˜๋ฉด์„œ ๋งŽ์€ ์‚ฌ๋žŒ๋“ค๊ณผ ์ด์•ผ๊ธฐ๋ฅผ ๋‚˜๋ˆ„๋ฉด์„œ ์ธ์‚ฌ์ดํŠธ๋Š” ํ•˜๋ฃจ๊ฐ€ ๋‹ค๋ฅด๊ฒŒ ๋„“์–ด์ง€๊ณ  ์žˆ๋Š”๋ฐ ๋‚ด ์‹ค๋ ฅ๊ณผ ์ง€์‹์ด ํ–ฅ์ƒ๋˜๋Š” ์†๋„๊ฐ€ ํ›จ์”ฌ ๋ชป ๋ฏธ์น˜๋Š” ๊ฒƒ ๊ฐ™์•„์„œ ์ŠคํŠธ๋ ˆ์Šค๋ฅผ ๋ฐ›์•˜์—ˆ๋‹ค. ํ•˜์ง€๋งŒ ๊ทธ ๋ง์”€์„ ๋“ฃ๊ณ  ๋‚˜๋‹ˆ ์ด ์‹œ๊ธฐ๋„ ๋‹ค ์ง€๋‚˜๊ฐˆ ๊ฒƒ์ด๋ผ๋Š” ์‘์›์„ ๋ฐ›์€ ๊ธฐ๋ถ„์ด์—ˆ๋‹ค. ์ด๋ž˜์„œ ๋Š˜ ํŒ€์›๋ถ„๋“ค๊ป˜ ์ง„์‹ฌ์œผ๋กœ ๊ฐ์‚ฌํ•˜๋‹คโ€ฆ ๐Ÿ˜ญย ์•„๋ฌดํŠผ ๋‚ด์ผ๋„ ํ™”์ดํŒ…ํ•˜์ž!


๐Ÿš€ ๋‚ด์ผ ํ•  ์ผ

  • ์ŠคํŽ˜์…œ ๋ฏธ์…˜
  • ๋Œ€ํšŒ ์‹œ์ž‘!
  • ๊ฐ•์˜ ์ˆ˜๊ฐ• ๋ฐ ์ •๋ฆฌ
    • [์ด๋ฏธ์ง€ ๋ถ„๋ฅ˜] 9, 10๊ฐ•
  • ๋ฉ˜ํ† ๋ง
  • ๋‘๋Ÿฐ๋‘๋Ÿฐ ํ–‰์‚ฌ
This post is licensed under CC BY 4.0 by the author.

[Week 06 / Day 023] ํ•™์Šต ๊ธฐ๋ก

[Week 06 / Day 025] ํ•™์Šต ๊ธฐ๋ก