Koneoppiminen: aineistoa esitelmiä varten

Esitelmän aiheeksi sopivia artikkeleita löytyy esim. seuraavista julkaisuista:

• Conference on Learning Theory (COLT) 2004, 2005
• International Conference on Machine Learning (ICML) 2004, 2005
• Neural Information Processing Systems (NIPS) 2003 2004
• Machine Learning Journal (MLJ)
• Journal of Machine Learning Research (JMLR)

Alla on lueteltu joitain mahdollisia esitelmän aiheita ja annettu niihin mahdollisimman tuore lähdeviittaus. Myös omia seminaarin teemaan sopivia aiheita saa mielellään ehdottaa. Jos omaa aihetta ei muuten ole mielessä, voi esim. katsoa sattuisiko em. konferenssien sisällysluetteloista silmään mitän kiinnostavaa.

Allaolevasta aiheluettelosta on syytä huomata, että esitelmää ei välttämättä kannata perustaa kaikkein viimeisimpään yksittäiseen aiheesta löytyvään artikkeliin, vaan usein on järkevämpää laatia yleisesittely joka ehkä painottuu hieman varhaisempiin artikkeleihin.

Virherajoja luokittelulle

Käytännölliset yleistysvirherajat:

• Matti Kääriäinen, John Langford: A Comparison of Tight Generalization Error Bounds. ICML 2005

PAC-Bayes-virherajat:

• Francois Laviolette, Mario Marchand: PAC-Bayes Risk Bounds for Sample-Compressed Gibbs Classifiers. ICML 2005.

Luokitteluongelman yleistyksiä

Ranking-funktioiden oppiminen:

• Chris Burges,Tal Shaked, Erin Renshaw, Ari Lazier, Matt Deeds, Nicole Hamilton, Greg Hullender: Learning to Rank using Gradient Descent. ICML 2005.
• Cynthia Rudin, Corinna Cortes, Mehryar Mohri, Robert Schapire: Margin-Based Ranking Meets Boosting in the Middle. COLT 2005.

Hierarkkinen luokittelu:

• Juho Rousu, Craig Saunders, Sandor Szedmak, John Shawe-Taylor: Learning Hierarchical Multi-Category Text Classification Models. ICML 2005.

Ohjaamaton yms. oppiminen

Hierarkkinen ryvästäminen:

• Sanjoy Dasgupta: Performance Guarantees for Hierarchical Clustering. COLT 2002.
• David Kauchak, Sanjoy Dasgupta: An Iterative Improvement Procedure for Hierarchical Clustering. NIPS 2003.

Sekoitemallien oppiminen:

• Ravindran Kannan, Hadi Salmasian, Santosh Vempala: The Spectral Method for General Mixture Models. COLT 2005.
• Dimitris Achlioptas, Frank McSherry: On Spectral Learning of Mixtures of Distributions. COLT 2005.

Puoliohjattu oppiminen:

• Maria-Florina Balcan, Avrim Blum, Ke Yang: Co-Training and Expansion: Towards Bridging Theory and Practice. NIPS 2004.
• Matti Kääriäinen: Generalization Error Bounds Using Unlabeled Data. COLT 2005.

Aktiivinen oppiminen:

• Sanjoy Dasgupta: Analysis of a greedy active learning strategy. NIPS 2004.
• Sanjoy Dasgupta, Adam Tauman Kalai, Claire Monteleoni: Analysis of Perceptron-Based Active Learning. COLT 2005.

Tunnettujen algoritmien jatkokehittelyä

Uusia boosting-tuloksia:

• Cynthia Rudin, Robert Schapire, Ingrid Daubechies: Boosting Based on a Smooth Margin. COLT 2004.

Ydinfunktion oppiminen:

• Cheng Soon Ong, Alexander Smola, Robert Williamson: Learning the Kernel with Hyperkernels. JMLR 6:1043--1071, 2005.
• Charles Micchelli, Massimiliano Pontil: Learning the Kernel Function via Regularization. JMLR 6:1099--1125, 2005.

Asiantuntijapohjainen ennustaminen:

• Marcus Hutter, Jan Poland: Adaptive Online Prediction by Following the Perturbed Leader JMLR 6:639--660, 2005.
• Adam Kalai, Santosh Vempala: Efficient algorithms for online decision problems. COLT 2003.