Radial basis function

RBF는 Radial Basis Function의 약자로, 방사형 기저 함수; 신경망 등으로 부를 수 있다.

1971년 Hardy가 다변량 데이터의 보간을 위해 제안한 이래 공학 분야에서 많이 사용되고 있는 근사모델입니다. RBF는 Kriging에 비해 생성이 용이하며, 비선형이 강한 시스템을 잘 표현해 준다는 장점이 있습니다. 하지만 기저함수의 형태 및 파라메터를 사용자가 정해줘야 하며, 이 값에 RBF의 예측 성능이 민감하게 반응한다는 단점을 가지고 있습니다.

PIAnO에서 제공하는 RBF는 시스템에 가장 적합한 기저함수의 형태 및 파라메터를 자동으로 결정해 줌으로써 강건한 예측 성능을 발휘합니다. 또한 RBF는 일반적으로 보간모델(Interpolation Model)로 많이 알려져 있으나, PIAnO에서 제공하는 RBF는 옵션을 통해 회귀모델(Regression Model)로도 사용할 수 있습니다.

Radial basis function kernel

• Wikipedia (en) RBF Kernel에 대한 설명
• Kernels Part 1: What is an RBF Kernel? Really?

In machine learning, the (Gaussian) radial basis function kernel, or RBF kernel, is a popular kernel function used in support vector machine classification. ¹

The RBF kernel on two samples x and x', represented as feature vectors in some input space, is defined as²

Radial_basis_function_kernel.png

Radial_basis_function_kernel_1.png may be recognized as the squared Euclidean distance between the two feature vectors. σ is a free parameter. An equivalent, but simpler, definition involves a parameter Radial_basis_function_kernel_2.png:

Radial_basis_function_kernel_3.png

Since the value of the RBF kernel decreases with distance and ranges between zero (in the limit) and one (when x = x'), it has a ready interpretation as a similarity measure.³ The feature space of the kernel has an infinite number of dimensions; for σ= 1, its expansion is:

Radial_basis_function_kernel_4.png

See also

• Support Vector Machine (SVM)
• 감마함수 (Gamma function)
• 유클리드 거리 (Euclidean distance)
• 보간법 (Interpolation)
• 지수함수 (Exponential function)
• 기저 함수 (Basis function)

Favorite site

• Wikipedia (en) RBF에 대한 설명
• 가우시안 커널 회귀분석 (Gaussian kernel regression)
• [추천] 영상 처리 - 일지 36 : Radial Basis Function Interpolation에 대해서 Part 1 ⁴
• [추천] 영상 처리 - 일지 37 : Radial Basis Function Interpolation에 대해서 Part 2 ⁵
• Radial basis function Networks, RBFN
• [추천] DOC: Intelligent Miner 의 마이닝 알고리즘 IV (예측 기법 – Radial Basis Function) ⁶
• kernel function_matlab

References

---

1. Yin-Wen Chang, Cho-Jui Hsieh, Kai-Wei Chang, Michael Ringgaard and Chih-Jen Lin (2010). "Training and testing low-degree polynomial data mappings via linear SVM". J. Machine Learning Research 11:1471–1490. ↩

2. Vert, Jean-Philippe, Koji Tsuda, and Bernhard Schölkopf (2004). "A primer on kernel methods". Kernel Methods in Computational Biology. ↩

4. RBF_Interpolation_1.pdf ↩

5. RBF_Interpolation_2.pdf ↩

6. RBF_Introduction.pdf ↩