報告題目：Stochastic Optimization for Nuclear Norm Regularization

報告人  ：張利軍 副教授

報告時間：12月31日，16:00-17:00

報告地點：學院507會議室

摘要：In this talk, I will exploit stochastic optimization to reduce the space complexity for certain learning problems involving matrices. Specifically, I study convex composite optimization with a nuclear norm regularizer, and develop an algorithm based on stochastic proximal gradient descent (SPGD). During the optimization process, the space complexity is linear in the sum of the dimensions of the matrix instead of their product, thus reducing the space complexity significantly. As a theoretical contribution, the convergence rate of the last iterate of SPGD is established for nuclear norm regularization. Finally, I will discuss how to apply the proposed algorithm to kernel PCA and report its performance.

 簡介：張利軍，博士，副教授。分别于2007年6月和2012年6月在浙江大學獲工學學士和工學博士學位；分别于2011年6月至12月、2012年8月至2014年4月，以訪問學生、博士後身份在美國密歇根州立大學訪問研究；于2014年4月加入南京大學計算機科學與技術系。主要研究方向為大規模機器學習及優化，在國際學術會議和期刊上發表論文40餘篇，包括頂級會議和期刊ICML、NIPS、COLT、AAAI、ACM MM、AISTATS、TPAMI、TIT、TIP、TKDE。曾獲浙江大學“竺可桢獎學金”、南京大學“登峰人才支持計劃”、第26屆AAAI人工智能國際會議“最佳論文”等榮譽。