08b GANs
Warning
🚧 Երկու դասախոսության սլայդերը պատրաստ են (L23b, L23c)։ Տեսանյութերը դեռ չեն ձայնագրվել։ Այս գլխում գործնական և տնային աշխատանք չկա։
🎲 Random
TBD
📚 Նյութը
Երկու դասախոսություն (սլայդերը ml/ch8b_gans/ պանակում)։ Գլուխը գեներատիվ շղթայի միջին օղակն է․ L22 (AE) → L23 (VAE) → L23b/L23c (GAN) → L27-L31 (diffusion)։
- L23b — Generative Adversarial Networks: generator-ի և discriminator-ի խաղը, minimax ֆունկցիան, օպտիմալ discriminator-ը և Jensen-Shannon-ի կապը, non-saturating loss-ը, և ինչու է GAN-ի սովորեցումն այդքան անկայուն (mode collapse, non-convergence)։ PDF
- L23c — GANs in practice: conditional GAN-եր, latent տարածության հարթությունը և արիթմետիկան, pix2pix և CycleGAN, progressive growing և StyleGAN, ու գեներատիվ մոդելների գնահատումը (FID, precision/recall)։ PDF
Երկու դասերի բոլոր անկայունության պնդումները չափված են սեփական GAN-ի վրա, որը սովորեցվել է լոկալ նույն 8×8 թվանշանների վրա, ինչ diffusion-ի գլուխը (py_src/gan_digits.py, py_src/cgan_digits.py)․ discriminator-ի ճշտությունը հասնում է 0.92-ի, mode collapse-ը տեսանելի է 500-րդ քայլին, իսկ վերջում գեներացված «8»-երը իրականի 62%-ն են։
Հիմնական հոդվածները․
| Հոդված | Ինչի մասին է |
|---|---|
| Goodfellow et al. 2014 | սկզբնական GAN-ը |
| Radford et al. 2015 (DCGAN) | ինչն է իրականում աշխատեցնում |
| Mirza & Osindero 2014 (cGAN) | պայմանական գեներացիա |
| Isola et al. 2017 (pix2pix) | պատկեր → պատկեր |
| Zhu et al. 2017 (CycleGAN) | առանց զույգված տվյալների |
| Karras et al. 2019 (StyleGAN) | ֆոտոռեալիզմ |
| Sajjadi et al. 2018 | precision/recall գեներատիվ մոդելների համար |