Description

Ce projet de recherche porte sur la génération de champs de pluie spatio-temporels à haute résolution à l’aide de modèles génératifs, en mettant un accent particulier sur les distributions à queues lourdes, telles que celles observées dans les données de précipitations extrêmes.

Les méthodes actuelles comme les Autoencodeurs Variationnels (VAE), les Réseaux Antagonistes Génératifs (GANs) ou les Modèles de Diffusion ont montré de bonnes performances pour les données classiques (images, audio, vidéo), mais sont souvent mal adaptées aux distributions à queues lourdes, qui sont fréquentes dans les événements climatiques extrêmes. Or, avec le changement climatique, ces événements extrêmes sont appelés à devenir plus fréquents, d'où l'importance de pouvoir bien les modéliser.

Plusieurs pistes de recherche sont proposées :

Développer des garanties théoriques pour que ces modèles puissent bien approximer les distributions à queues lourdes.

Introduire de nouveaux modèles de VAE avec des distributions latentes adaptées à ces données extrêmes.

Combiner VAE et modèles de diffusion pour concevoir des modèles plus puissants, tout en réduisant la complexité computationnelle.

Appliquer ces modèles à des données radar de pluie provenant de régions en Allemagne et dans les Alpes suisses, afin de générer des champs de pluie réalistes.

La thèse s’inscrit dans une collaboration entre Sorbonne Université, Mines Paris PSL et l’INRAE, dans le cadre de la chaire GeoLearning.

Compétences requises

.

Bibliographie

[AAMN15] Pierre Ailliot, Denis Allard, Val´erie Monbet, and Philippe Naveau. Stochastic weather
generators: An overview of weather type models. 156(1), 2015.
[AGG22] Micha¨el Allouche, St´ephane Girard, and Emmanuel Gobet. EV-GAN: Simulation of
extreme events with ReLU neural networks. Journal of Machine Learning Research,
23(150):1–39, 2022.
[AKR+22] Henry Addison, Elizabeth Kendon, Suman Ravuri, Laurence Aitchison, and Peter AG
Watson. Machine learning emulation of a local-scale UK climate model, November 2022.
[CDS] Giovanni Conforti, Alain Durmus, and Marta Gentiloni Silveri. KL convergence guarantees
for score diffusion models under minimal data assumptions.
[DN] Prafulla Dhariwal and Alexander Nichol. Diffusion models beat gans on image synthesis.
34:8780–8794.
[GPAM+] Ian J. Goodfellow, Jean Pouget-Abadie, Mehdi Mirza, Bing Xu, DavidWarde-Farley, Sherjil
Ozair, Aaron Courville, and Yoshua Bengio. Generative Adversarial Nets. In Proceedings
of the 27th International Conference on Neural Information Processing Systems - Volume
2, NIPS’14, pages 2672–2680. MIT Press.
[HSG+22] Jonathan Ho, Tim Salimans, Alexey Gritsenko, William Chan, Mohammad Norouzi, and
David J Fleet. Video diffusion models. Advances in Neural Information Processing Systems,
35:8633–8646, 2022.
[KGSM23] Zahra Kadkhodaie, Florentin Guth, Eero P Simoncelli, and St´ephane Mallat. Generalization
in diffusion models arises from geometry-adaptive harmonic representation. In The
Twelfth International Conference on Learning Representations, 2023.
[KPH+] Zhifeng Kong, Wei Ping, Jiaji Huang, Kexin Zhao, and Bryan Catanzaro. Diffwave: A
versatile diffusion model for audio synthesis. In International Conference on Learning
Representations.
[LHN+23] Jussi Leinonen, Ulrich Hamann, Daniele Nerini, Urs Germann, and Gabriele Franch. Latent
diffusion models for generative precipitation nowcasting with accurate uncertainty
quantification, April 2023.
[LNB21] Jussi Leinonen, Daniele Nerini, and Alexis Berne. Stochastic super-resolution for downscaling
time-evolving atmospheric fields with a generative adversarial network. IEEE Transactions
on Geoscience and Remote Sensing, 59(9):7211–7223, September 2021.
[LNF23] Nicolas Lafon, Philippe Naveau, and Ronan Fablet. A vae approach to sample multivariate
extremes. arXiv preprint arXiv:2306.10987, 2023.
[MNG17] Lars Mescheder, Sebastian Nowozin, and Andreas Geiger. Adversarial variational bayes:
Unifying variational autoencoders and generative adversarial networks. In International
conference on machine learning, pages 2391–2400. PMLR, 2017.
[RBL+22] Robin Rombach, Andreas Blattmann, Dominik Lorenz, Patrick Esser, and Bj¨orn Ommer.
High-resolution image synthesis with latent diffusion models. In Proceedings of the
IEEE/CVF conference on computer vision and pattern recognition, pages 10684–10695,
2022.
[RLW+21] Suman Ravuri, Karel Lenc, Matthew Willson, Dmitry Kangin, Remi Lam, Piotr Mirowski,
Megan Fitzsimons, Maria Athanassiadou, Sheleem Kashem, Sam Madge, Rachel Prudden,
Amol Mandhane, Aidan Clark, Andrew Brock, Karen Simonyan, Raia Hadsell, Niall Robinson,
Ellen Clancy, Alberto Arribas, and Shakir Mohamed. Skilful precipitation nowcasting
using deep generative models of radar. Nature, 597(7878):672–677, September 2021.
[SSD24] Dario Shariatian, Umut Simsekli, and Alain Durmus. Denoising levy probabilistic models.
arXiv preprint arXiv:2407.18609, 2024.
3
[SSK+21] Yang Song, Jascha Sohl-Dickstein, Diederik P. Kingma, Abhishek Kumar, Stefano Ermon,
and Ben Poole. Score-Based Generative Modeling through Stochastic Differential Equations.
In International Conference on Learning Representations, 2021.
[Tou19] Augustin Touron. Consistency of the maximum likelihood estimator in seasonal hidden
markov models. Statistics and Computing, 29(5):1055–1075, 2019.
[TY21] Rong Tang and Yun Yang. On empirical bayes variational autoencoder: An excess risk
bound. In Mikhail Belkin and Samory Kpotufe, editors, Proceedings of Thirty Fourth
Conference on Learning Theory, volume 134 of Proceedings of Machine Learning Research,
pages 4068–4125. PMLR, 15–19 Aug 2021.

Mots clés

., .