A conditional algorithm for Bayesian finite mixture models via normalized point process (Un algoritmo per la stima bayesiana di misture finito dimensionali costruite mediante normalizzazione di processi di punto)

Modelling via finite mixtures is one of the most fruitful Bayesian approach, particularly useful when there is unobserved heterogeneity in the data. The most popular algorithm under this model is the reversible jump MCMC, that can be nontrivial to design, especially in high-dimensional spaces. In this work, we first introduce a class of finite discrete random probability measures obtained by normalization of finite point processes. Then, we use the new class as the mixing measure of a mixture model and derive its posterior characterization. The resulting new class encompasses the popular finite Dirichlet mixture model; here, in order to compute posterior, we propose an alternative to the reversible jump. In particular, borrowing notation from the nonparametric Bayesian literature, we set up a conditional MCMC algorithm based on the posterior characterization of the unnormalized point process. In order to show the performance of our algorithm and the flexibility of the model, we illustrate some examples on the popular Galaxy dataset.

La classe dei modelli mistura e frequentemente utilizzata come strumento per l’analisi di popolazioni eterogenee. Per ottenere delle stime bayesiane dei parametri di questi modelli, sono comunemente utilizzati gli algoritmi MCMC di tipo “Reversible Jump”. Tuttavia, questi ultimi sono molto difficili da configurare, in special modo quando i dati appartengono a spazi di dimensione elevata. In questo lavoro, come primo passo, introdurremo una classe di misure di probabilità aleatorie. Tali misure saranno costruite come normalizzazione di processi di punto finito dimensionali di cui daremo una caratterizzazione a posteriori. Come secondo passo, utilizzeremo gli elementi della nuova classe come misure miscelanti in modelli mistura, generalizzando, così, la ben nota famiglia di misture di Dirichlet finito dimensionali. Proporremo un campionatore di tipo Gibbs in alternativa all’usuale algoritmo a salti reversibili. In particolare, prendendo in prestito la nomenclatura dalla letteratura bayesiana nonparametrica, costruiremo un algoritmo di tipo condizionale basandoci sulla caratterizzazione a posteriori del processo di punto finito dimensionale non normalizzato. Per illustrare le prestazioni del nostro algoritmo e la flessibilità del modello, illustreremo due esempi di mistura considerando il popolare set di dati Galaxy.