Fast Kernel ICA using an Approximate Newton Method

Shen, H; Jegelka, S; Gretton, A

Fast Kernel ICA using an Approximate Newton Method

Shen, H., Jegelka, S., & Gretton, A. (2007). Fast Kernel ICA using an Approximate Newton Method. In M., Meila, & X., shen (Eds.), Artificial Intelligence and Statistics, 21-24 March 2007, San Juan, Puerto Rico (pp. 476-483). Madison, WI, USA: International Machine Learning Society.

Item is 公開

表示: 全項目非表示: 全項目

基本情報

表示: 非表示:

アイテムのパーマリンク: https://hdl.handle.net/11858/00-001M-0000-0013-CE7B-0 版のパーマリンク: https://hdl.handle.net/21.11116/0000-0003-E8BB-5

資料種別: 会議論文

ファイル

表示: ファイル

作成者

表示:

非表示:

作成者:
Shen, H, 著者
Jegelka, S^{1, 2}, 著者
Gretton, A^{1, 2}, 著者

所属:
1Department Empirical Inference, Max Planck Institute for Biological Cybernetics, Max Planck Society, ou_1497795
2Max Planck Institute for Biological Cybernetics, Max Planck Society, Spemannstrasse 38, 72076 Tübingen, DE, ou_1497794

内容説明

表示:

非表示:

キーワード: -

要旨: Recent approaches to independent component analysis (ICA) have used
kernel independence measures to obtain very good performance,
particularly where classical methods experience difficulty (for
instance, sources with near-zero kurtosis). We present Fast Kernel ICA
(FastKICA), a novel optimisation technique for one such kernel
independence measure, the Hilbert-Schmidt independence criterion
(HSIC). Our search procedure uses an approximate Newton method on the
special orthogonal group, where we estimate the Hessian locally about
independence. We employ incomplete Cholesky decomposition to
efficiently compute the gradient and approximate Hessian. FastKICA results in more accurate solutions at a given cost
compared with gradient descent, and is relatively insensitive to local minima
when initialised far from independence. These properties allow kernel approaches to be
extended to problems with larger numbers of sources and observations.
Our method is competitive with other modern and classical ICA
approaches in both speed and accuracy.

資料詳細

表示:

非表示:

言語:

日付: 出版: 2007-03

出版の状態: 出版

ページ: -

出版情報: -

目次: -

査読: -

識別子（DOI, ISBNなど）: BibTex参照ID: 4295

学位: -

訴訟

表示:

Project information

表示:

出版物 1

表示:

非表示:

出版物名: Artificial Intelligence and Statistics, 21-24 March 2007, San Juan, Puerto Rico

種別: 会議論文集

著者・編者:
Meila, M, 編集者
shen, X, 編集者

所属:
-

出版社, 出版地: Madison, WI, USA : International Machine Learning Society

ページ: - 巻号: - 通巻号: - 開始・終了ページ: 476 - 483 識別子（ISBN, ISSN, DOIなど）: -

出版物 2

表示:

非表示:

出版物名: JMLR Workshop and Conference Proceedings

種別: 連載記事

著者・編者:

所属:

出版社, 出版地: -

ページ: - 巻号: 2 通巻号: - 開始・終了ページ: - 識別子（ISBN, ISSN, DOIなど）: -

アイテム詳細

基本情報

ファイル

関連URL

作成者

内容説明

資料詳細

関連イベント

訴訟

Project information

出版物 1

出版物 2