Tools for Statistical Inference

I. Introduction.- A. Problems.- B. Techniques.- References.- II. Observed Data Techniques-Normal Approximation.- A. Likelihood/Posterior Density.- B. Maximum Likelihood.- C. Normal Based Inference.- D. The Delta Method.- E. Significance Levels.- References.- III. Observed Data Techniques.- A. Numerical Integration.- B. Litplace Expansion.- 1. Moments.- 2. Marginalization.- C. Monte Carlo Methods.- 1. Monte Carlo.- 2. Composition.- 3. Importance Sampling.- References.- IV. The EM Algorithm.- A. Introduction.- B. Theory.- C. EM in the Exponential Family.- D. Standard Errors.- 1. Direct Computation.- 2. Missing Information Principle.- 3. Louis’ Method.- 4. Simulation.- 5. Using EM Iterates.- E. Monte Carlo Implementation of the E-Step.- F. Acceleration of EM.- References.- V. Data Augmentation.- A. Introduction.- B. Predictive Distribution.- C. HPD Region Computations.- 1. Calculating the Content.- 2. Calculating the Boundary.- D. Implementation.- E. Theory.- F. Poor Man’s Data Augmentation.- 1. PMDA#1 65.- 2. PMDA Exact.- 3. PMDA #2.- G. SIR.- H. General Imputation Methods.- 1. Introduction.- 2. Hot Deck 72.- 3. Simple Residual.- 4. Normal and Adjusted Normal.- 5. Nonignorable Nonresponse.- a. Mixture Model-I.- b. Mixture Model-II.- c. Selection Model-I.- d. Selection Model-II.- I. Data Augmentation via Importance Sampling.- 1. General Comments.- 2. Censored Regression.- J. Sampling in the Context of Multinomial Data.- 1. Dirichlet Sampling.- 2. Latent Class Analysis.- References.- VI. The Gibbs Sampler.- A. Introduction.- 1. Chained Data Augmentation.- 2. The Gibbs Sampler.- 3. Historical Comments.- B. Examples.- 1. Rat Growth Data.- 2. Poisson Process.- 3. Generalized Linear Models.- C. The Griddy Gibbs Sampler.- 1. Example.- 2. Adaptive Grid.- References.