Likelihood analysis of population genetic data under coalescent models: computational and inferential aspects

Likelihood methods are being developed for inference of migration rates and past demographic changes from population genetic data. We survey an approach for such inference using sequential importance sampling techniques derived from coalescent and diffusion theory. The consistent application and assessment of this approach has required the re-implementation of methods often considered in the context of computer experiments methods, in particular of Kriging which is used as a smoothing technique to infer a likelihood surface from likelihoods estimated in various parameter points, as well as reconsideration of methods for sampling the parameter space appropriately for such inference. We illustrate the performance and application of the whole tool chain on simulated and actual data, and highlight desirable developments in terms of data types and biological scenarios. Résumé Diverses approches ont été développées pour l’inférence des taux de migration et des changements démo-graphiques passés à partir de la variation génétique des populations. Nous décrivons une de ces approches utilisant des techniques d’échantillonnage pondéré séquentiel, fondées sur la modélisation par approches de coalescence et de diffusion de l’évolution de ces polymorphismes. L’application et l’évaluation systématique de cette approche ont requis la ré-implémentation de méthodes souvent considérées pour l’analyse de fonctions simulées, en particulier le krigeage, ici utilisé pour inférer une surface de vraisemblance à partir de vraisemblances estimées en différents points de l’espace des paramètres, ainsi que des techniques d’échantillonage de ces points. Nous illustrons la performance et l’application de cette série de méthodes sur données simulées et réelles, et indiquons les améliorations souhaitables en termes de types de données et de scénarios biologiques. Mots-clés histoire démographique, processus de coalescence, importance sampling, genetic polymorphism AMS 2000 subject classifications 92D10, 62M05, 65C05