Home [Week 05 / Day 018] ํ•™์Šต ๊ธฐ๋ก
Post
Cancel

[Week 05 / Day 018] ํ•™์Šต ๊ธฐ๋ก

๐Ÿ“ ์˜ค๋Š˜ ํ•œ ์ผ

  • ๊ฐ•์˜ ์ˆ˜๊ฐ• ๋ฐ ์ •๋ฆฌ
    • [AI ์„œ๋น„์Šค] 1, 2๊ฐ•
  • ์ฝ”๋”ฉํ…Œ์ŠคํŠธ ๋ฌธ์ œ ํ’€์ด


๐Ÿ‘ฅ ํ”ผ์–ด์„ธ์…˜ ์š”์•ฝ

ํ‚ค์›Œ๋“œ ๊ณต์œ 

  • (๊ธฐํš) ํŽ˜๋ฅด์†Œ๋‚˜
    • ํŠน์ดํ•œ ์‚ฌ๋žŒ๋„ ์ƒ์ƒํ•ด์„œ ์ž‘์„ฑํ•œ๋‹ค. (ํŠน์ดํ•œ ๊ฒฝ์šฐ๋Š” ์–ผ๋งˆ ์—†๊ธฐ ๋•Œ๋ฌธ์ด๋‹ค.)
    • ์‹œ๋‚˜๋ฆฌ์˜ค๋ฅผ ๋ชจ๋‘ ์ž‘์„ฑํ•œ๋‹ค.
    • ํŽ˜๋ฅด์†Œ๋‚˜๋งˆ๋‹ค ๊ฑฐ์น  ๊ณผ์ •๋“ค์„ ์ญ‰ ์ž‘์„ฑํ•ด๋ณธ๋‹ค.
    • ์ธํ„ฐ๋ทฐ๋ฅผ ์œ„ํ•œ ์‹œ๊ฐ„๊ณผ ๋น„์šฉ์„ ์ค„์ผ ์ˆ˜ ์žˆ๋‹ค.
  • ์‰˜ / ์ปค๋งจ๋“œ
  • ํฌ๋ก ํƒญ (crontab)
    • ์š”์ฆ˜์€ CI/CD, Docker ๋“ฑ์œผ๋กœ ๋น„์Šทํ•œ ๊ธฐ๋Šฅ์„ ์ˆ˜ํ–‰ํ•œ๋‹ค.
  • ArcFace (loss function)
    • ์‚ฌ๋žŒ ์–ผ๊ตด์„ ์ธ์‹ํ•˜๋Š” ๊ฒฝ์šฐ, ๊ฐ๋„์— ๋”ฐ๋ผ ๋‹ค๋ฅธ ์‚ฌ๋žŒ์ด๋ผ๊ณ  ์ธ์‹ํ•  ์ˆ˜ ์žˆ๋‹ค.
    • ์–ผ๊ตด ๋ฟ๋งŒ ์•„๋‹ˆ๋ผ ๋‹ค๋ฅธ ๊ฒƒ์—๋„ ์ ์šฉ์ด ๊ฐ€๋Šฅํ•˜๋‹ค. (ex. ์ž๋™์ฐจ)
    • softmax + cosine similarity
    • classification ๋Œ€ํšŒ ์‹œ, loss๋ฅผ ๋ฐ”๊ฟ”๋ณผ ๋•Œ ์‚ฌ์šฉํ•˜๋ฉด ์ข‹์ง€ ์•Š์„๊นŒ?
  • GeMPooling (pooling)
    • L2 norm๊ณผ ๋น„์Šทํ•œ ๋ชจ์–‘์ด๋‹ค.
    • ๊ฐ™์€ ๋ฌผ์ฒด์ด์ง€๋งŒ ๋‹ค๋ฅธ ๊ฐ๋„์—์„œ ์ฐํžŒ ์ด๋ฏธ์ง€์— ๋Œ€ํ•ด loss๊ฐ€ ์™„๋งŒํ•˜๊ฒŒ ๋‚˜ํƒ€๋‚œ๋‹ค๋Š” ์žฅ์ ์ด ์žˆ๋‹ค. (weight๊ฐ€ ๊ฐ™์€ ๊ฐ๋„๋กœ ๋ญ‰์ณ์ง€๋Š” ๊ฒฝํ–ฅ)
    • objectives๋ฅผ ๋” ์œ ์—ฐํ•˜๊ฒŒ ์“ธ ์ˆ˜ ์žˆ์„ ๊ฒƒ์ด๋‹ค.
  • timm - Pytorch Image Models
    • classification ๋Œ€ํšŒ์—์„œ pretrained model์„ ๋ถˆ๋Ÿฌ์˜ฌ ๋•Œ ์‚ฌ์šฉํ•˜๋ฉด ํŽธํ•  ๊ฒƒ์ด๋‹ค.
    • https://fastai.github.io/timmdocs/
  • filter๋„ random โ†’ train ํ•˜๊ธฐ ๋•Œ๋ฌธ์—, ๊ฐ filter๊ฐ€ ์ƒ‰์„ ๊ตฌ๋ถ„ํ•˜๋Š”์ง€, ๋ชจ์–‘์„ ๊ตฌ๋ถ„ํ•˜๋Š”์ง€๋Š” ๋‚˜์ค‘์— ์•Œ ์ˆ˜ ์žˆ๋‹ค.
  • ์ƒ‰์ด ๋งค์šฐ ์ค‘์š”ํ•œ feature๋ผ๋ฉด data aug ์‹œ ์ƒ‰ ๋ฐ˜์ „ ๋“ฑ์„ ์ ์šฉํ•˜๋ฉด ์ข‹์ง€ ์•Š๋‹ค.
  • ํœด๋ฆฌ์Šคํ‹ฑํ•œ ์ ‘๊ทผ์ด ์ž˜ ๋  ๋•Œ๊ฐ€ ์€๊ทผ ์žˆ๋‹ค.

๋ชจ๋ธ์˜ PyTorch ๊ตฌํ˜„

  • VGGNet (VGG-16)
  • GoogLeNet
  • ResNet
  • DenseNet


๐Ÿพ ์ผ์ผ ํšŒ๊ณ 

์˜ค๋Š˜์€ AI ์„œ๋น„์Šค ๊ฐœ๋ฐœ ๊ธฐ์ดˆ, ์ฆ‰ MLOps ๊ฐ•์˜๋ฅผ ์ฒ˜์Œ ๋“ฃ๊ฒŒ ๋˜์—ˆ๋‹ค. ๋‚˜์ค‘์— 6์›” ์ฏค์— MLOps๋งŒ ๋ช‡ ์ฃผ๋™์•ˆ ๋ฐฐ์šด๋‹ค๊ณ  ์•Œ๊ณ  ์žˆ๋Š”๋ฐ ๊ทธ ๊ฐ•์˜์˜ ์ผ๋ถ€๋ถ„์„ ์•ž์œผ๋กœ์˜ ํ”„๋กœ์ ํŠธ๋“ค์„ ์œ„ํ•ด์„œ 5์ฃผ์ฐจ์— ๋ฐฐ์น˜ํ•˜์…จ๋‹ค๊ณ  ํ•œ๋‹ค. ๋‚ด๊ฐ€ ๊ฐ€์žฅ ๊ด€์‹ฌ์žˆ๋Š” ์ฃผ์ œ์—ฌ์„œ ๋ฌด์ฒ™ ๊ธฐ๋Œ€๊ฐ€ ๋œ๋‹ค! MLOps๋Š” ๋‹ค๋ฅธ ๋”ฅ๋Ÿฌ๋‹ ์ด๋ก ๋“ค๋ณด๋‹ค ์ฐธ๊ณ ํ•  ์ž๋ฃŒ๋‚˜ ๊ฐ•์˜๊ฐ€ ๋งŽ์ง€ ์•Š์€๋ฐ, ์‹ค์ œ ํ˜„์ง์ž ๋งˆ์Šคํ„ฐ๋‹˜๊ป˜ ๋ฐฐ์šธ ์ˆ˜ ์žˆ๋‹ค๋Š” ์ ์ด ๋„ˆ๋ฌด ๊ฐ์‚ฌํ•˜๋‹ค. (๊ทธ๋ฆฌ๊ณ  ๋งˆ์Šคํ„ฐ๋‹˜์˜ ๋ธ”๋กœ๊ทธ๊ฐ€ ๊ต‰์žฅํžˆ ์ต์ˆ™ํ•˜๋‹ค.. ์˜ˆ์ „์— ๊ตฌ๊ธ€๋งํ•˜๋‹ค๊ฐ€ ์ž์ฃผ ๋“ค์–ด๊ฐ”์—ˆ๋‚˜๋ณด๋‹ค.)

๊ทธ๋ฆฌ๊ณ  ํ”ผ์–ด์„ธ์…˜์—์„œ๋Š” ๊ณง ํŒ€์„ ๊ตฌ์„ฑํ•ด์•ผํ•˜๋Š” ์‹œ๊ธฐ๊ฐ€ ๋‹ค๊ฐ€์˜ค๋‹ค๋ณด๋‹ˆ, ๊ฐ์ž ํ•˜๊ณ  ์‹ถ์€ ํ”„๋กœ์ ํŠธ์— ๋Œ€ํ•ด์„œ ์ด์•ผ๊ธฐ๋ฅผ ๋‚˜๋ˆ„์—ˆ๋‹ค. ์ƒ๊ฐํ•ด๋ณด๋‹ˆ ์•„์ง ํŒ€ ํ”ผ์–ด์„ธ์…˜์—์„œ๋Š” ๊ฐ์ž์— ๋Œ€ํ•œ ์ด์•ผ๊ธฐ๋ฅผ ํ•ด๋ณธ ์ ์ด ํฌ๊ฒŒ ์—†๋Š” ๊ฒƒ ๊ฐ™์•˜๋‹ค. ๊ทธ๋ž˜๋„ ์˜ค๋Š˜ ๊ธธ๊ฒŒ(๋ฌด๋ ค ํ•œ์‹œ๊ฐ„ ๋ฐ˜!) ์ด์•ผ๊ธฐ๋ฅผ ๋‚˜๋ˆ„๋ฉด์„œ ํŒ€์›๋ถ„๋“ค์„ ๋” ์•Œ๊ฒŒ ๋˜์–ด ์ข‹์•˜๋‹ค. ์•ž์œผ๋กœ๋„ ๊ฒฝํ—˜ํ•˜์…จ๋˜ ํ”„๋กœ์ ํŠธ๋‚˜ ํ•ด์˜ค์…จ๋˜ ๊ฒƒ๋“ค์— ๋Œ€ํ•ด ์ž์ฃผ ๋“ฃ๊ณ  ์‹ถ๋‹ค๋Š” ๋งˆ์Œ์ด ๋“ค์—ˆ๋‹ค!!

๊ทธ๋Ÿฐ๋ฐ ๋งฅ๋ถ ํ™˜๊ฒฝ ์„ค์ •์€ ์–ธ์ œ ๋งˆ๋ฌด๋ฆฌ ๋ ๊นŒ. ๊ณ„์† ํ•  ๊ฒŒ ์ƒ๊ธด๋‹ค..


๐Ÿš€ ๋‚ด์ผ ํ•  ์ผ

  • ๊ฐ•์˜ ์ˆ˜๊ฐ• ๋ฐ ์ •๋ฆฌ
    • [AI ์„œ๋น„์Šค] 4, 5๊ฐ•
  • ์Šค๋ชฐํ†ก
  • DenseNet ์ฝ”๋“œ ์ฐพ์•„๋ณด๊ธฐ
This post is licensed under CC BY 4.0 by the author.

[Week 04 / Day 017] ํ•™์Šต ๊ธฐ๋ก

[Week 05 / Day 019] ํ•™์Šต ๊ธฐ๋ก