Home [Week 07 / Day 028] ํ•™์Šต ๊ธฐ๋ก
Post
Cancel

[Week 07 / Day 028] ํ•™์Šต ๊ธฐ๋ก

๐Ÿ“ ์˜ค๋Š˜ ํ•œ ์ผ

  • ์—…๋ฐ์ดํŠธ ๋œ pytorch lightning ๋ฒ ์ด์Šค๋ผ์ธ์œผ๋กœ ์‹คํ—˜ ์ง„ํ–‰
    • age model์— ๋Œ€ํ•ด optimizer, lr scheduler, loss๋ฅผ ๋ฐ”๊ฟ”๋ณด๋Š” ์‹คํ—˜์„ ๋งก์•˜๋‹ค.
  • ์ž๋ฃŒ ์กฐ์‚ฌ


๐Ÿงช ์‹œ๋„ํ–ˆ๋˜ ๊ฒƒ

  • ๋ณ€์ธ ํ†ต์ œ ํ›„ age model์˜ optimizer, lr scheduler, loss์— ๋Œ€ํ•œ ์‹คํ—˜์„ ์ง„ํ–‰ํ–ˆ๋‹ค.
  • model๋กœ๋Š” efficientnet_b4๋ฅผ ์‚ฌ์šฉํ•˜์˜€๋‹ค.
  • ๋‹ค์Œ์˜ ์„ธ ๊ฐ€์ง€ ์‹คํ—˜์„ ์ง„ํ–‰ํ•˜๋˜ ๋„์ค‘, ๋” ์ข‹์€ model์„ ํŒ€์›๋ถ„๊ป˜์„œ ์•Œ๋ ค์ฃผ์…”์„œ ์‹คํ—˜ ๊ณ„ํš์„ ๋‹ค์‹œ ์„ธ์› ๋‹ค.
    • AdamW - StepLR - Label Smoothing
    • AdamP - StepLR - Label Smoothing
    • AdamW - StepLR - Cross Entropy


๐Ÿ™‚ ์ข‹์•˜๋˜ ์ 

์ง์ ‘ ํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ๋ฅผ ๋ณ€๊ฒฝํ•ด๋ณด๋ฉด์„œ ๊ฒฐ๊ณผ๋ฅผ ๊ด€์ฐฐํ•˜๋‹ˆ ์ด๋ก ์œผ๋กœ๋งŒ ์ ‘ํ–ˆ๋˜ ๋‚ด์šฉ์„ ์‹ค์ œ๋กœ ๊ฒฝํ—˜ํ•ด๋ณผ ์ˆ˜ ์žˆ์–ด ์ข‹์•˜๋‹ค.


โ˜น๏ธ ๊ฐœ์„ ํ•  ์ 

์‹คํ—˜ ๊ธฐ๋ก์„ ๋…ธ์…˜์— ํ•˜๊ณ ๋Š” ์žˆ๋Š”๋ฐ ์ •๋ฆฌ๊ฐ€ ์ž˜ ๋˜์ง€ ์•Š๋Š” ๊ฒƒ ๊ฐ™๋‹ค. ๋” ์ฒด๊ณ„์ ์ธ ์ •๋ฆฌ ๋ฐฉ๋ฒ•์ด ํ•„์š”ํ•  ๋“ฏ ํ•˜๋‹ค.


๐Ÿพ ์ผ์ผ ํšŒ๊ณ 

์ฒซ ๋Œ€ํšŒ์—ฌ์„œ์ธ์ง€ ์–ด๋ฆฌ๋ฒ„๋ฆฌํ•˜๊ฒŒ ๋„˜์–ด๊ฐ€๊ฒŒ ๋˜๋Š” ๊ฒƒ๋“ค์ด ๋งŽ๋‹ค. ๋‚ด์ผ๋ถ€ํ„ฐ๋Š” ํ•˜๋‚˜์”ฉ ์ฑ™๊ฒจ๋ณด์ž..


๐Ÿš€ ๋‚ด์ผ ํ•  ์ผ

  • ์ƒˆ๋กœ์šด ๊ณ„ํš์œผ๋กœ ์‹คํ—˜ ์ˆ˜ํ–‰ํ•˜๊ธฐ
This post is licensed under CC BY 4.0 by the author.

[Week 06] ๋ฉ˜ํ† ๋ง

[Week 07 / Day 028.5] ํ•™์Šต ๊ธฐ๋ก